Tree-of-Thought: struktureeritud uurimine
Sellel lehel
Tund uuendatud 3. novembril 2026 OpenAI dokumentatsiooni põhjal: parameetreid
temperaturejatop_paktsepteeritakse ainult siis, kui arutluse pingutus (reasoning effort) on määratud väärtuseganone, samas kui GPT-5.6 mudelid kasutavad vaikimisi arutlust (medium). Seetõttu peavad need parameetrid määravad päringud sisaldama seadetreasoning={"effort": "none"}(Responses API) võireasoning_effort="none"(Chat Completions). Allikad: GPT-6 kasutamine · GPT-5.6 Terra.
Tree-of-Thought: struktureeritud uurimine
Tree-of-Thought (ToT) on vihjestamise tehnika, mis struktureerib mudeli arutluskäigu otsustuspuuna. Ühe sirgjoonelise mõtteliini järgimise asemel uurib mudel mitut haru, hindab üksikasjalikult kõiki variante ja jätab alles vaid paljutõotavaimad. Sarnasus otsingualgoritmidega on ilmne: genereerid kandidaadid, hindad neid ja lühendad ülejäänud. See muudab meetodi äärmiselt tõhusaks planeerimist või tagasipöördumist nõudvate ülesannete lahendamisel.
Erinevus Chain-of-Thought’ist
Chain-of-Thought (CoT) järgib lineaarset arutlust: samm 1, samm 2, samm 3. Selle nõrkus peitub struktuuris. Kui mudel valib teisel sammul vale suuna, pärandub see viga kõigile järgnevatele etappidele ja tagasipöördumiseks puudub mehhanism. Arutluskäik võib olla vormistatud veatult, kuid see põhineb valel eeldusel. Tree-of-Thought uurib igas etapis mitut suunda ja kõrvaldab ummiktee enne, kui sinna täiendavaid ressursse investeeritakse.
# Chain-of-Thought (lineaarne)
# Samm 1 → Samm 2 → Samm 3 → Vastus
# Tree-of-Thought (puupõhine)
# Samm 1
# / | \
# Variant A Variant B Variant C ← hindamine
# | | ✗ ← kärpimine
# Variant A1 Variant B1
# | |
# Vastus Vastus ← lõplik valik
Ühe vihje rakendamine
Lihtsaim versioon mahub ühte väljakutsesse: vihje sunnib mudelit järgima uurimisstruktuuri – genereeri kolm lähenemist, hinda neid, vali üks ja arenda seda edasi. See on odav ja sageli piisav avatud küsimuste lahendamiseks. Enne sellele tuginemist pea silmas üht piirangut: mudel pakub välja ja hindab ideid sama hingetõmbega, mistõttu on ta oma mõtete suhtes leebem ja kärpimine jääb vajalikust vähem rangeks.
from openai import OpenAI
client = OpenAI()
def tree_of_thought_simple(problem: str) -> str:
"""ToT ühes vihjes."""
prompt = f"""Lahenda see ülesanne, kasutades Tree-of-Thought lähenemist.
Ülesanne: {problem}
1. samm – Genereeri 3 erinevat lähenemist:
- Lähenemine A: ...
- Lähenemine B: ...
- Lähenemine C: ...
2. samm – Hinda iga lähenemist (tugevused ja nõrkused):
- Lähenemine A: ...
- Lähenemine B: ...
- Lähenemine C: ...
3. samm – Vali parim lähenemine ja arenda seda:
Valitud lähenemine: ...
Üksikasjalik arendus: ...
4. samm – Lõplik vastus:
..."""
response = client.responses.create(
model="gpt-5.6-sol",
reasoning={"effort": "none"}, # temperatuur nõuab pingutust none
input=prompt,
temperature=0.7
)
return response.output_text
Mitme väljakutse rakendamine
Keerukate ülesannete puhul eralda iga samm eraldi väljakutseteks. See jaotus annab kaks eelist, mida üksik vihje pakkuda ei suuda. Esiteks, samm-sammuline temperatuuri kontroll: 0,8 genereerimiseks, kus pakkumiste mitmekesisus on meetodi mõte, ja 0,3 hindamiseks ning arendamiseks, kus soovid rangust ja korratavust. Teiseks saad vahe tulemusi kontrollida, logida või isegi enne ahela jätkamist inimkinnitusele saata.
def tree_of_thought(problem: str, breadth: int = 3,
depth: int = 3) -> dict:
"""ToT mitmetasandilise uurimisega."""
system = "Oled struktureeritud probleemilahenduse ekspert."
# 1. samm: Genereeri esialgsed harud
gen_prompt = (f"Ülesanne: {problem}\n\n"
f"Paku välja {breadth} erinevat lähenemist selle "
f"ülesande lahendamiseks. Iga lähenemise kohta esita pealkiri ja "
f"2–3 lause pikkune kirjeldus. Numereeri need 1-st {breadth}-ni.")
branches_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatuur nõuab pingutust none
instructions=system,
input=gen_prompt,
temperature=0.8
)
branches = branches_response.output_text
# 2. samm: Hinda iga haru
eval_prompt = (f"Ülesanne: {problem}\n\n"
f"Siin on {breadth} pakutud lähenemist:\n{branches}\n\n"
f"Hinda iga lähenemist 3 kriteeriumi alusel (hinne /10):\n"
f"- Teostatavus\n- Tõhusus\n- Lihtsus\n\n"
f"Järjesta need parimast halvimani koos põhjendusega.")
eval_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatuur nõuab pingutust none
instructions=system,
input=eval_prompt,
temperature=0.3
)
evaluation = eval_response.output_text
# 3. samm: Arenda parimat haru
dev_prompt = (f"Ülesanne: {problem}\n\n"
f"Lähenemiste hindamine:\n{evaluation}\n\n"
f"Arenda kõrgeima hinnangu saanud lähenemist üksikasjalikult. "
f"Esita täielik ja rakendatav lahendus.")
solution = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatuur nõuab pingutust none
instructions=system,
input=dev_prompt,
temperature=0.3
)
return {
"branches": branches,
"evaluation": evaluation,
"solution": solution.output_text
}
Näidisülesanne: tarkvara arhitektuur
Allpool toodud ülesanne on täpselt selline, kus ToT lisab väärtust. Mitmed strateegiad on kaitstavad – vahemällu salvestamine, lugemisreplikad, otsinguteenuse eraldamine, sinine-roheline kasutuselevõtt – ja valik sõltub vihjes selgelt välja toodud piirangutest, eriti meeskonna suurusest. Otsene vihje annaks lahenduse, mida tehnilises kirjanduses kõige sagedamini mainitakse, sõltumata nendest piirangutest; ToT seab selle vastamisi teistega ja peab oma järjestust kaitsma teostatavuskriteeriumide põhjal.
problem = """
Meie monoliitne REST API (Django, PostgreSQL) jõuab oma piiridesse:
- Maksimum 500 päringut sekundis
- Vastamisaeg > 2 s otsingu lõpp-punktides
- Kasutuselevõtt = 30 minutit seisakut
- Meeskonnas 3 arendajat
Kuidas saame parandada jõudlust ja kättesaadavust,
kirjutamata kogu rakendust ümber?
"""
result = tree_of_thought(problem, breadth=4)
print(result["solution"])
Kus ToT võidab ja kus raiskad aega
Tehnika särab planeerimisülesannetes – arhitektuur, teekaardid, strateegia – piirangutega probleemides nagu optimeerimine või ressursijaotus, keerulises silumises, kus mitu põhjust on samaaegselt usutavad, ning tehnilistes otsustes, nagu raamistiku või andmebaasi valik. Neid olukordi ühendab kaks joont: eksisteerib mitu kehtivat lahendust ja nende eristamiseks on olemas selge kriteerium.
Vastupidi, jäta see vahele lihtsate faktiliste küsimuste puhul, kus pole midagi uurida ja maksaksid kolme väljakutse eest ilmse vastuse saamiseks. See ebaõnnestub ka avatud loominguliste ülesannete puhul, kuna puudub kaitstav hindamiskriteerium: kolme reklaamlause järjestamine teostatavuse skaalal ei oma mõtet. Lõpuks väldi seda, kui latentsus on kriitiline, kuna mitme väljakutse versioon aheldab mehaaniliselt mitu API päringut enne vastuse tagastamist.
Kombineerimine arutlusseadetega
Kõrgete arutlusseadete korral teevad GPT-5.6 mudelid juba struktureeritud sisemist uurimist. Selgesõnaline ToT muutub siis suuresti üleliigseks ja maksad sama töö eest kaks korda. Kasuta seda olukordades, kus arutlus on välja lülitatud või madal, nagu allolevas võrdluses.
# Madala arutlusega: selgesõnaline ToT on kasulik
result = tree_of_thought(problem, breadth=3)
# Kõrge arutlusega: mudel arutleb juba sügavalt
response = client.responses.create(
model="gpt-5.6-sol",
input=problem,
reasoning={"effort": "high"}
)
Otsustamiseks oma kontekstis võta arhitektuuri- või disainiülesanne, mis sul tegelikult sel nädalal lahendada ootab, käivita see mitme väljakutsega ToT-s seadega breadth=3 ja esita see seejärel muutmatult otseses vihjes. Võrdle mõlemat lahendust ja eelkõige ühe ja teise tokenikulu. Kõrge kaaluga otsuse puhul tasub kvaliteedivahe lisakulu ära; teisejärgulise küsimuse puhul mitte, ja selle teadmine hoiab sind harjumusest tehnikat igal pool rakendamast.
Peamised punktid
- ToT uurib mitut arutlusrada ja valib parima
- Lihtne ühe vihje versioon või täiustatud mitme väljakutse versioon
- Ideaalne planeerimiseks, arhitektuuriks ja keeruliseks silumiseks
- Kõrgete arutlusseadete korral on GPT-5.6 mudelitel juba varjatud ToT
- Lisanduv tokenikulu on õigustatud suure mõjuga otsuste puhul