Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Tree-of-Thought: Rakenneperusteinen tutkiminen

Oppitunti 7 / 16 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Tree-of-Thought: Rakenneperusteinen tutkiminen
  2. Ero Chain-of-Thoughtiin
  3. Toteutus yhdellä kehotteella
  4. Toteutus useilla kutsuilla
  5. Käytännön esimerkki: Ohjelmistoarkkitehtuuri
  6. Missä ToT voittaa ja missä se tuhlaa aikaasi
  7. Yhdistäminen päättelyasetuksiin
  8. Keskeiset asiat

Oppitunti päivitetty 3. marraskuuta 2026 OpenAI:n dokumentaation perusteella: parametrit temperature ja top_p hyväksytään vain, kun päättelyvaatimus on none, kun taas GPT-5.6-mallit käyttävät oletusarvoisesti päättelyä (medium). Näitä parametreja asettavien kutsujen on siksi määritettävä reasoning={"effort": "none"} (Responses API) tai reasoning_effort="none" (Chat Completions). Lähteet: Using GPT-6 · GPT-5.6 Terra.

Tree-of-Thought: Rakenneperusteinen tutkiminen

Tree-of-Thought (ToT) on kehotetekniikka, joka jäsentelee mallin päättelyn päätöspuuksi. Yhden lineaarisen ajatuspolun sijaan malli tutkii useita haaroja, arvioi jokaisen niistä ja pitää vain lupaavimmat. Yhteys hakualgoritmeihin on suora: tuotat ehdokkaita, pisteytät ne ja karsit loput. Tämä tekee tekniikasta erittäin tehokkaan suunnittelua tai peruuttamista vaativissa ongelmissa.

Ero Chain-of-Thoughtiin

Chain-of-Thought (CoT) noudattaa lineaarista päättelyä: vaihe 1, vaihe 2, vaihe 3. Sen heikkous on rakenteellinen. Jos malli ajautuu väärälle polulle vaiheessa 2, kaikki sitä seuraava perii tämän virheen, eikä mekanismia paluuseen ole. Päättely voi olla täysin selkeästi ilmaistu, mutta se lähtee liikkeelle väärästä oletuksesta. Tree-of-Thought tutkii useita suuntia jokaisessa vaiheessa ja hylkää umpikujat ennen kuin niihin käytetään lisää resursseja.

# Chain-of-Thought (lineaarinen)
# Vaihe 1 → Vaihe 2 → Vaihe 3 → Vastaus

# Tree-of-Thought (puupohjainen)
#            Vaihe 1
#          /    |    \
#     Opt A  Opt B  Opt C    ← arviointi
#       |      |      ✗      ← karsinta
#    Opt A1  Opt B1
#      |       |
#   Vastaus  Vastaus            ← lopullinen valinta

Toteutus yhdellä kehotteella

Yksinkertaisin versio mahtuu yhteen API-kutsuun: kehotteella pakotat mallin noudattamaan tutkimisrakennetta – tuota kolme lähestymistapaa, arvioi ne, valitse yksi ja kehitä sitä. Tämä on edullista ja usein riittävää avoimien kysymysten käsittelyyn. Huomioi kuitenkin yksi rajoitus ennen kuin luotat siihen liikaa: malli ehdottaa ja arvioi samassa hengenvetoon, mikä tekee siitä lempeän omia ideoitaan kohtaan ja johtaa tarpeettoman lievään karsintaan.

from openai import OpenAI

client = OpenAI()

def tree_of_thought_simple(problem: str) -> str:
    """ToT yhdessä kehotteessa."""
    prompt = f"""Ratkaise tämä ongelma käyttämällä Tree-of-Thought-lähestymistapaa.

Ongelma: {problem}

Vaihe 1 – Tuota 3 erilaista lähestymistapaa:
- Lähestymistapa A: ...
- Lähestymistapa B: ...
- Lähestymistapa C: ...

Vaihe 2 – Arvioi jokainen lähestymistapa (vahvuudet ja heikkoudet):
- Lähestymistapa A: ...
- Lähestymistapa B: ...
- Lähestymistapa C: ...

Vaihe 3 – Valitse paras lähestymistapa ja kehitä sitä:
Valittu lähestymistapa: ...
Yksityiskohtainen kehitys: ...

Vaihe 4 – Lopullinen vastaus:
..."""

    response = client.responses.create(
        model="gpt-5.6-sol",
        reasoning={"effort": "none"},  # temperature vaatii effort none
        input=prompt,
        temperature=0.7
    )
    return response.output_text

Toteutus useilla kutsuilla

Monimutkaisissa ongelmissa erota jokainen vaihe omaksi kutsukseen. Tämä jako tarjoaa kaksi etua, joita yksittäinen kehotte ei pysty antamaan. Ensinnäkin vaihekohtainen lämpötilan hallinta: 0,8 generointivaiheessa, jossa ehdotusten monimuotoisuus on menetelmän koko pointti, ja sen jälkeen 0,3 arviointi- ja kehitysvaiheissa, joissa haluat tarkkuutta ja toistettavuutta. Toiseksi saat välituloksia, jotka voit tarkistaa, lokittaa tai jopa lähettää ihmisen validoitavaksi ennen ketjun jatkamista.

def tree_of_thought(problem: str, breadth: int = 3,
                    depth: int = 3) -> dict:
    """ToT monitasoisella tutkimisella."""
    system = "Olet asiantuntija rakenteellisessa ongelmanratkaisussa."

    # Vaihe 1: Tuota alkuperäiset haarat
    gen_prompt = (f"Ongelma: {problem}\n\n"
                  f"Ehdota {breadth} erilaista lähestymistapaa tämän "
                  f"ongelman ratkaisemiseksi. Anna jokaiselle lähestymistavalle "
                  f"otsikko ja 2–3 lauseen kuvaus. Numeroi ne 1–{breadth}.")

    branches_response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperature vaatii effort none
        instructions=system,
        input=gen_prompt,
        temperature=0.8
    )
    branches = branches_response.output_text

    # Vaihe 2: Arvioi jokainen haara
    eval_prompt = (f"Ongelma: {problem}\n\n"
                   f"Tässä on {breadth} ehdotettua lähestymistapaa:\n{branches}\n\n"
                   f"Arvioi jokainen lähestymistapa 3 kriteerin perusteella (pisteet /10):\n"
                   f"- Tehtävissä olevuus\n- Tehokkuus\n- Yksinkertaisuus\n\n"
                   f"Järjestä ne parhaasta huonoimpaan perusteluineen.")

    eval_response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperature vaatii effort none
        instructions=system,
        input=eval_prompt,
        temperature=0.3
    )
    evaluation = eval_response.output_text

    # Vaihe 3: Kehitä paras haara
    dev_prompt = (f"Ongelma: {problem}\n\n"
                  f"Lähestymistapojen arviointi:\n{evaluation}\n\n"
                  f"Kehitä korkeimmalle sijoittunut lähestymistapa yksityiskohtaisesti. "
                  f"Tarjoa täydellinen ja toimintakelpoinen ratkaisu.")

    solution = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperature vaatii effort none
        instructions=system,
        input=dev_prompt,
        temperature=0.3
    )

    return {
        "branches": branches,
        "evaluation": evaluation,
        "solution": solution.output_text
    }

Käytännön esimerkki: Ohjelmistoarkkitehtuuri

Alla oleva ongelma on juuri sellainen, jossa ToT tuottaa lisäarvoa. Useat strategiat ovat perusteltavissa – välimuisti, lukureplikoidut kannat, hakupalvelun eriyttäminen, blue-green-käyttöönotto – ja valinta riippuu kehotteessa nimenomaisesti mainituista rajoitteista, erityisesti tiimin koosta. Suora kehotte antaisi ratkaisun, joka mainitaan useimmiten teknisessä kirjallisuudessa, välittämättä näistä rajoitteista; ToT asettaa sen vastakkain muiden kanssa ja sen on puolustettava sijoitustaan toteutettavuuskriteerien perusteella.

problem = """
Monoliittinen REST-API-mme (Django, PostgreSQL) on saavuttamassa rajansa:
- Enintään 500 pyyntöä sekunnissa
- Vasteaika > 2 s hakupäätepisteissä
- Käyttöönotto = 30 minuutin käyttökatkos
- Tiimissä 3 kehittäjää

Miten voimme parantaa suorituskykyä ja saatavuutta
kirjoittamatta koko sovellusta uudelleen?
"""

result = tree_of_thought(problem, breadth=4)
print(result["solution"])

Missä ToT voittaa ja missä se tuhlaa aikaasi

Tekniikka loistaa suunnitteluongelmissa – arkkitehtuuri, tiekartat, strategia –, rajoitetuissa ongelmissa kuten optimoinnissa tai resurssien kohdentamisessa, monimutkaisissa vianetsintätilanteissa, joissa useat syyt ovat samanaikaisesti uskottavia, sekä teknisissä päätöksissä, kuten kehyksen tai tietokannan valinnassa. Näillä tilanteilla on kaksi yhteistä piirrettä: useita kelvollisia ratkaisuja on olemassa, ja niiden erottamiseen on olemassa nimenomainen kriteeri.

Sitä vastoin ohita tämä tekniikka yksinkertaisissa faktakysymyksissä, joissa ei ole mitään tutkittavaa ja maksaisit kolmesta kutsusta saadaksesi ilmeisen vastauksen. Se epäonnistuu myös avoimissa luovissa tehtävissä, koska puolustettavaa arviointikriteeriä ei ole: mainoslauseiden sijoittaminen järjestykseen toteutettavuusasteikolla ei ole järkevää. Vältä sitä lopuksi, kun latenssi on kriittinen, sillä monen kutsun versio ketjuttaa mekaanisesti useita API-pyyntöjä ennen kuin palauttaa mitään.

Yhdistäminen päättelyasetuksiin

Korkeilla päättelyasetuksilla GPT-5.6-mallit suorittavat jo rakenteellista sisäistä tutkimista. Nimenomainen ToT muuttuu tällöin suurelta osin tarpeettomaksi ja laskuttaa sinua kahdesti samasta työstä. Varaa se tilanteisiin, joissa päättely on poissa käytöstä tai matalalla, kuten alla olevassa vertailussa.

# Matalalla päättelyllä: nimenomainen ToT on hyödyllinen
result = tree_of_thought(problem, breadth=3)

# Korkealla päättelyllä: malli päättelee jo syvällisesti
response = client.responses.create(
    model="gpt-5.6-sol",
    input=problem,
    reasoning={"effort": "high"}
)

Päätöksenteossa omassa kontekstissasi ota arkkitehtuuri- tai suunnitteluongelma, joka on edessäsi tällä viikolla, aja se monen kutsun ToT:n läpi asetuksella breadth=3 ja syötä se sen jälkeen sellaisenaan suoraan kehotteeseen. Vertaa kahta ratkaisua ja ennen kaikkea kummankin token-kustannuksia. Korkean panoksen päätöksessä laatuero maksaa lisäkustannukset moninkertaisesti; toissijaisessa kysymyksessä näin ei ole, ja tämän tiedostaminen estää sinua soveltamasta tekniikkaa kaikkialla pelkästään tottumuksesta.

Keskeiset asiat

  • ToT tutkii useita päättelypolkuja ja valitsee parhaan
  • Yksinkertainen yhden kehotteen versio tai edistynyt monen kutsun versio
  • Ihanteellinen suunnitteluun, arkkitehtuuriin ja monimutkaiseen vianetsintään
  • Korkeilla päättelyasetuksilla GPT-5.6-malleissa on jo implisiittinen ToT
  • Lisätoken-kustannus on perusteltu suurvaikutteisissa päätöksissä