Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Tree-of-Thought: struktureeritud uurimine

Õppetund 7 / 16 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. Tree-of-Thought: struktureeritud uurimine
  2. Erinevus Chain-of-Thought’ist
  3. Ühe vihje rakendamine
  4. Mitme väljakutse rakendamine
  5. Näidisülesanne: tarkvara arhitektuur
  6. Kus ToT võidab ja kus raiskad aega
  7. Kombineerimine arutlusseadetega
  8. Peamised punktid

Tund uuendatud 3. novembril 2026 OpenAI dokumentatsiooni põhjal: parameetreid temperature ja top_p aktsepteeritakse ainult siis, kui arutluse pingutus (reasoning effort) on määratud väärtusega none, samas kui GPT-5.6 mudelid kasutavad vaikimisi arutlust (medium). Seetõttu peavad need parameetrid määravad päringud sisaldama seadet reasoning={"effort": "none"} (Responses API) või reasoning_effort="none" (Chat Completions). Allikad: GPT-6 kasutamine · GPT-5.6 Terra.

Tree-of-Thought: struktureeritud uurimine

Tree-of-Thought (ToT) on vihjestamise tehnika, mis struktureerib mudeli arutluskäigu otsustuspuuna. Ühe sirgjoonelise mõtteliini järgimise asemel uurib mudel mitut haru, hindab üksikasjalikult kõiki variante ja jätab alles vaid paljutõotavaimad. Sarnasus otsingualgoritmidega on ilmne: genereerid kandidaadid, hindad neid ja lühendad ülejäänud. See muudab meetodi äärmiselt tõhusaks planeerimist või tagasipöördumist nõudvate ülesannete lahendamisel.

Erinevus Chain-of-Thought’ist

Chain-of-Thought (CoT) järgib lineaarset arutlust: samm 1, samm 2, samm 3. Selle nõrkus peitub struktuuris. Kui mudel valib teisel sammul vale suuna, pärandub see viga kõigile järgnevatele etappidele ja tagasipöördumiseks puudub mehhanism. Arutluskäik võib olla vormistatud veatult, kuid see põhineb valel eeldusel. Tree-of-Thought uurib igas etapis mitut suunda ja kõrvaldab ummiktee enne, kui sinna täiendavaid ressursse investeeritakse.

# Chain-of-Thought (lineaarne)
# Samm 1 → Samm 2 → Samm 3 → Vastus

# Tree-of-Thought (puupõhine)
#            Samm 1
#          /    |    \
#     Variant A  Variant B  Variant C    ← hindamine
#       |      |      ✗      ← kärpimine
#    Variant A1  Variant B1
#      |       |
#   Vastus  Vastus            ← lõplik valik

Ühe vihje rakendamine

Lihtsaim versioon mahub ühte väljakutsesse: vihje sunnib mudelit järgima uurimisstruktuuri – genereeri kolm lähenemist, hinda neid, vali üks ja arenda seda edasi. See on odav ja sageli piisav avatud küsimuste lahendamiseks. Enne sellele tuginemist pea silmas üht piirangut: mudel pakub välja ja hindab ideid sama hingetõmbega, mistõttu on ta oma mõtete suhtes leebem ja kärpimine jääb vajalikust vähem rangeks.

from openai import OpenAI

client = OpenAI()

def tree_of_thought_simple(problem: str) -> str:
    """ToT ühes vihjes."""
    prompt = f"""Lahenda see ülesanne, kasutades Tree-of-Thought lähenemist.

Ülesanne: {problem}

1. samm – Genereeri 3 erinevat lähenemist:
- Lähenemine A: ...
- Lähenemine B: ...
- Lähenemine C: ...

2. samm – Hinda iga lähenemist (tugevused ja nõrkused):
- Lähenemine A: ...
- Lähenemine B: ...
- Lähenemine C: ...

3. samm – Vali parim lähenemine ja arenda seda:
Valitud lähenemine: ...
Üksikasjalik arendus: ...

4. samm – Lõplik vastus:
..."""

    response = client.responses.create(
        model="gpt-5.6-sol",
        reasoning={"effort": "none"},  # temperatuur nõuab pingutust none
        input=prompt,
        temperature=0.7
    )
    return response.output_text

Mitme väljakutse rakendamine

Keerukate ülesannete puhul eralda iga samm eraldi väljakutseteks. See jaotus annab kaks eelist, mida üksik vihje pakkuda ei suuda. Esiteks, samm-sammuline temperatuuri kontroll: 0,8 genereerimiseks, kus pakkumiste mitmekesisus on meetodi mõte, ja 0,3 hindamiseks ning arendamiseks, kus soovid rangust ja korratavust. Teiseks saad vahe tulemusi kontrollida, logida või isegi enne ahela jätkamist inimkinnitusele saata.

def tree_of_thought(problem: str, breadth: int = 3,
                    depth: int = 3) -> dict:
    """ToT mitmetasandilise uurimisega."""
    system = "Oled struktureeritud probleemilahenduse ekspert."

    # 1. samm: Genereeri esialgsed harud
    gen_prompt = (f"Ülesanne: {problem}\n\n"
                  f"Paku välja {breadth} erinevat lähenemist selle "
                  f"ülesande lahendamiseks. Iga lähenemise kohta esita pealkiri ja "
                  f"2–3 lause pikkune kirjeldus. Numereeri need 1-st {breadth}-ni.")

    branches_response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperatuur nõuab pingutust none
        instructions=system,
        input=gen_prompt,
        temperature=0.8
    )
    branches = branches_response.output_text

    # 2. samm: Hinda iga haru
    eval_prompt = (f"Ülesanne: {problem}\n\n"
                   f"Siin on {breadth} pakutud lähenemist:\n{branches}\n\n"
                   f"Hinda iga lähenemist 3 kriteeriumi alusel (hinne /10):\n"
                   f"- Teostatavus\n- Tõhusus\n- Lihtsus\n\n"
                   f"Järjesta need parimast halvimani koos põhjendusega.")

    eval_response = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperatuur nõuab pingutust none
        instructions=system,
        input=eval_prompt,
        temperature=0.3
    )
    evaluation = eval_response.output_text

    # 3. samm: Arenda parimat haru
    dev_prompt = (f"Ülesanne: {problem}\n\n"
                  f"Lähenemiste hindamine:\n{evaluation}\n\n"
                  f"Arenda kõrgeima hinnangu saanud lähenemist üksikasjalikult. "
                  f"Esita täielik ja rakendatav lahendus.")

    solution = client.responses.create(
        model="gpt-5.6-terra",
        reasoning={"effort": "none"},  # temperatuur nõuab pingutust none
        instructions=system,
        input=dev_prompt,
        temperature=0.3
    )

    return {
        "branches": branches,
        "evaluation": evaluation,
        "solution": solution.output_text
    }

Näidisülesanne: tarkvara arhitektuur

Allpool toodud ülesanne on täpselt selline, kus ToT lisab väärtust. Mitmed strateegiad on kaitstavad – vahemällu salvestamine, lugemisreplikad, otsinguteenuse eraldamine, sinine-roheline kasutuselevõtt – ja valik sõltub vihjes selgelt välja toodud piirangutest, eriti meeskonna suurusest. Otsene vihje annaks lahenduse, mida tehnilises kirjanduses kõige sagedamini mainitakse, sõltumata nendest piirangutest; ToT seab selle vastamisi teistega ja peab oma järjestust kaitsma teostatavuskriteeriumide põhjal.

problem = """
Meie monoliitne REST API (Django, PostgreSQL) jõuab oma piiridesse:
- Maksimum 500 päringut sekundis
- Vastamisaeg > 2 s otsingu lõpp-punktides
- Kasutuselevõtt = 30 minutit seisakut
- Meeskonnas 3 arendajat

Kuidas saame parandada jõudlust ja kättesaadavust,
kirjutamata kogu rakendust ümber?
"""

result = tree_of_thought(problem, breadth=4)
print(result["solution"])

Kus ToT võidab ja kus raiskad aega

Tehnika särab planeerimisülesannetes – arhitektuur, teekaardid, strateegia – piirangutega probleemides nagu optimeerimine või ressursijaotus, keerulises silumises, kus mitu põhjust on samaaegselt usutavad, ning tehnilistes otsustes, nagu raamistiku või andmebaasi valik. Neid olukordi ühendab kaks joont: eksisteerib mitu kehtivat lahendust ja nende eristamiseks on olemas selge kriteerium.

Vastupidi, jäta see vahele lihtsate faktiliste küsimuste puhul, kus pole midagi uurida ja maksaksid kolme väljakutse eest ilmse vastuse saamiseks. See ebaõnnestub ka avatud loominguliste ülesannete puhul, kuna puudub kaitstav hindamiskriteerium: kolme reklaamlause järjestamine teostatavuse skaalal ei oma mõtet. Lõpuks väldi seda, kui latentsus on kriitiline, kuna mitme väljakutse versioon aheldab mehaaniliselt mitu API päringut enne vastuse tagastamist.

Kombineerimine arutlusseadetega

Kõrgete arutlusseadete korral teevad GPT-5.6 mudelid juba struktureeritud sisemist uurimist. Selgesõnaline ToT muutub siis suuresti üleliigseks ja maksad sama töö eest kaks korda. Kasuta seda olukordades, kus arutlus on välja lülitatud või madal, nagu allolevas võrdluses.

# Madala arutlusega: selgesõnaline ToT on kasulik
result = tree_of_thought(problem, breadth=3)

# Kõrge arutlusega: mudel arutleb juba sügavalt
response = client.responses.create(
    model="gpt-5.6-sol",
    input=problem,
    reasoning={"effort": "high"}
)

Otsustamiseks oma kontekstis võta arhitektuuri- või disainiülesanne, mis sul tegelikult sel nädalal lahendada ootab, käivita see mitme väljakutsega ToT-s seadega breadth=3 ja esita see seejärel muutmatult otseses vihjes. Võrdle mõlemat lahendust ja eelkõige ühe ja teise tokenikulu. Kõrge kaaluga otsuse puhul tasub kvaliteedivahe lisakulu ära; teisejärgulise küsimuse puhul mitte, ja selle teadmine hoiab sind harjumusest tehnikat igal pool rakendamast.

Peamised punktid

  • ToT uurib mitut arutlusrada ja valib parima
  • Lihtne ühe vihje versioon või täiustatud mitme väljakutse versioon
  • Ideaalne planeerimiseks, arhitektuuriks ja keeruliseks silumiseks
  • Kõrgete arutlusseadete korral on GPT-5.6 mudelitel juba varjatud ToT
  • Lisanduv tokenikulu on õigustatud suure mõjuga otsuste puhul