Tree-of-Thought: pētīšana ar struktūru
Šajā lapā
Nodarbība atjaunināta 2026. gada 3. novembrī, pamatojoties uz OpenAI dokumentāciju: parametri
temperatureuntop_ptiek pieņemti tikai tad, ja spriešanas intensitāte (reasoning effort) ir iestatīta uznone, savukārt GPT-5.6 modeļi pēc noklusējuma veic spriešanu (medium). Tādēļ izsaukumos, kuros tiek norādīti šie parametri, ir jāprecizēreasoning={"effort": "none"}(Responses API) vaireasoning_effort="none"(Chat Completions). Avoti: Using GPT-6 · GPT-5.6 Terra.
Tree-of-Thought: pētīšana ar struktūru
Tree-of-Thought (ToT) ir uzdevumu formulēšanas (prompting) paņēmiens, kas strukturē modeļa spriešanu kā lēmumu koku. Vienas lineāras domas gaitas vietā models pēta vairākus zarus, novērtē katru no tiem un patur tikai daudzsološākos. Līdzība ar meklēšanas algoritmu ir tieša: tu ģenerē kandidātus, tos vērtē un pārējos atmet. Tas padara šo metodi ārkārtīgi efektīvu uzdevumiem, kuriem nepieciešama plānošana vai atgriešanās iepriekšējos soļos (backtracking).
Atšķirība no Chain-of-Thought
Chain-of-Thought (CoT) seko lineārai loģikai: 1. solis, 2. solis, 3. solis. Tās vājā vieta ir struktūra. Ja models 2. solī izvēlas nepareizu virzienu, visas turpmākās darbības mantos šo kļūdu, un nav mehānisma, lai atgrieztos atpakaļ. Spriešana var būt perfekti noformulēta, taču tā balstās uz nepareizu premisu. Tree-of-Thought katrā solī pēta vairākus virzienus un atmet strupceļus, pirms tajos tiek ieguldīta turpmāka attīstība.
# Chain-of-Thought (lineārs)
# 1. solis → 2. solis → 3. solis → Atbilde
# Tree-of-Thought (koka struktūra)
# 1. solis
# / | \
# A variants B variants C variants ← novērtēšana
# | | ✗ ← atmešana
# A1 variants B1 variants
# | |
# Atbilde Atbilde ← galīgā izvēle
Implementācija vienā izsaukumā
Vienkāršākā versija ietilpst vienā izsaukumā: uzdevums liek modelim ievērot pētīšanas struktūru — ģenerēt trīs pieejas, tās novērtēt, izvēlēties vienu un to attīstīt. Tas ir lēti un bieži vien pietiekami, lai risinātu atvērtus jautājumus. Tomēr pirms paļaušanās uz to apzinies vienu ierobežojumu: models gan piedāvā, gan novērtē idejas vienā elpas vilcienā, tāpēc tas mēdz būt pārāk iecietīgs pret savām idejām, un atmešana nav tik stingra, cik vajadzētu.
from openai import OpenAI
client = OpenAI()
def tree_of_thought_simple(problem: str) -> str:
"""ToT vienā uzdevumā."""
prompt = f"""Atrisini šo uzdevumu, izmantojot Tree-of-Thought pieeju.
Uzdevums: {problem}
1. solis - Ģenerē 3 dažādas pieejas:
- A pieeja: ...
- B pieeja: ...
- C pieeja: ...
2. solis - Novērtē katru pieeju (stiprās un vājās puses):
- A pieeja: ...
- B pieeja: ...
- C pieeja: ...
3. solis - Izvēlies labāko pieeju un attīsti to:
Izvēlētā pieeja: ...
Detalizēta izstrāde: ...
4. solis - Galīgā atbilde:
..."""
response = client.responses.create(
model="gpt-5.6-sol",
reasoning={"effort": "none"}, # temperature prasa effort none
input=prompt,
temperature=0.7
)
return response.output_text
Implementācija vairākos izsaukumos
Sarežģītiem uzdevumiem katru soli sadali atsevišķos izsaukumos. Šī sadalīšana dod divas priekšrocības, ko viens uzdevums nodrošināt nevar. Pirmkārt, temperatūras kontrole pa soļiem: 0,8 ģenerēšanai, kur piedāvājumu daudzveidība ir metodes jēga, un 0,3 novērtēšanai un attīstībai, kur nepieciešama stingrība un atkārtojamība. Otrkārt, starprezultāti, kurus vari pārbaudīt, reģistrēt vai pat nodot cilvēka validācijai, pirms ļauj ķēdei turpināties.
def tree_of_thought(problem: str, breadth: int = 3,
depth: int = 3) -> dict:
"""ToT ar daudzlīmeņu pētīšanu."""
system = "Tu esi eksperts strukturētā problēmu risināšanā."
# 1. solis: Ģenerē sākotnējos zarus
gen_prompt = (f"Uzdevums: {problem}\n\n"
f"Piedāvā {breadth} dažādas pieejas šī uzdevuma "
f"risināšanai. Katrai pieejai norādi nosaukumu un "
f"2–3 teikumu aprakstu. Sanumurē tās no 1 līdz {breadth}.")
branches_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature prasa effort none
instructions=system,
input=gen_prompt,
temperature=0.8
)
branches = branches_response.output_text
# 2. solis: Novērtē katru zaru
eval_prompt = (f"Uzdevums: {problem}\n\n"
f"Lūk, {breadth} piedāvātās pieejas:\n{branches}\n\n"
f"Novērtē katru pieeju pēc 3 kritērijiem (vērtējums /10):\n"
f"- Iespējamība\n- Efektivitāte\n- Vienkāršība\n\n"
f"Sakārto tās no labākās uz sliktāko ar pamatojumu.")
eval_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature prasa effort none
instructions=system,
input=eval_prompt,
temperature=0.3
)
evaluation = eval_response.output_text
# 3. solis: Attīsti labāko zaru
dev_prompt = (f"Uzdevums: {problem}\n\n"
f"Pieeju novērtējums:\n{evaluation}\n\n"
f"Detalizēti attīsti augstāk vērtēto pieeju. "
f"Sniedz pilnīgu, izpildāmu risinājumu.")
solution = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature prasa effort none
instructions=system,
input=dev_prompt,
temperature=0.3
)
return {
"branches": branches,
"evaluation": evaluation,
"solution": solution.output_text
}
Praktisks piemērs: programmatūras arhitektūra
Zemāk esošais uzdevums ir tieši tāds, kur ToT pievieno vērtību. Ir pamatoti vairāki stratēģiski ceļi — kešošana, lasīšanas replikas, meklēšanas servisa atdalīšana, blue-green izvietošana — un izvēle ir atkarīga no uzdevumā tieši norādītajiem ierobežojumiem, it īpaši komandas lieluma. Tiešs uzdevums dotu risinājumu, kas visbiežāk minēts tehniskajā literatūrā, neatkarīgi no šiem ierobežojumiem; ToT to nostata pret pārējiem un liek pamatot savu rangs, balstoties uz iespējamības kritērijiem.
problem = """
Mūsu monolītā REST API (Django, PostgreSQL) sasniedz savas robežas:
- Maksimāli 500 pieprasījumi sekundē
- Atbildes laiks > 2 s meklēšanas galapunktos
- Izvietošana = 30 minūšu dīkstāve
- Komandā ir 3 izstrādātāji
Kā varam uzlabot veiktspēju un pieejamību,
nepārrakstot visu lietotni no jauna?
"""
result = tree_of_thought(problem, breadth=4)
print(result["solution"])
Kur ToT uzvar un kur tā tērē tavu laiku
Šī tehnika izceļas plānošanas uzdevumos — arhitektūra, ceļveži, stratēģija —, ierobežotos uzdevumos, piemēram, optimizācija vai resursu sadale, sarežģītā atkļūdošanā, kur vienlaikus ir ticami vairāki cēloņi, un tehniskajos lēmumos, piemēram, izvēloties ietvaru vai datubāzi. Šīm situācijām ir kopīgas divas iezīmes: pastāv vairāki derīgi risinājumi, un eksistē skaidrs kritērijs, lai tos atšķirtu.
Turpretī izlaid to vienkāršiem faktoloģiskiem jautājumiem, kur nav ko pētīt un tu maksātu par trim izsaukumiem, lai saņemtu acīmredzamu atbildi. Tā arī neizdodas atvērtos radošos uzdevumos, jo trūkst pamatota novērtēšanas kritērija: trīs reklāmas saukļu rangs pēc iespējamības skalas nav jēdzīgs. Visbeidzot, izvairies no tās, ja latence ir kritiska, jo vairāku izsaukumu versija mehāniski savieno vairākus API pieprasījumus, pirms tiek atgriezts jebkas.
Kombinēšana ar spriešanas iestatījumiem
Augstos spriešanas iestatījumos GPT-5.6 modeļi jau veic strukturētu iekšēju pētīšanu. Eksplicīts ToT tad kļūst lielā mērā lieks un liek tev maksāt divreiz par to pašu darbu. Paturi to situācijām, kur spriešana ir atspējota vai zema, kā parādīts zemāk esošajā salīdzinājumā.
# Ar zemu spriešanu: eksplicīts ToT ir noderīgs
result = tree_of_thought(problem, breadth=3)
# Ar augstu spriešanu: models jau sprie dziļi
response = client.responses.create(
model="gpt-5.6-sol",
input=problem,
reasoning={"effort": "high"}
)
Lai izlemtu savā kontekstā, paņem arhitektūras vai dizaina uzdevumu, kas tev šonedēļ ir aktuāls, izlaiž to cauri vairāku izsaukumu ToT ar breadth=3, tad iesniedz to tādu pašu tiešā uzdevumā. Salīdzini abus risinājumus un, pats galvenais, katra tokena izmaksas. Augsta riska lēmumam kvalitātes starpība vairāk nekā attaisno papildu izmaksas; sekundāram jautājumam tā nav, un šīs zināšanas pasargās tevi no ieraduma lietot šo paņēmienu visur.
Galvenās atziņas
- ToT pēta vairākus spriešanas ceļus un izvēlas labāko
- Pieejama vienkārša vienota uzdevuma versija vai uzlabota vairāku izsaukumu versija
- Ideāli piemērota plānošanai, arhitektūrai un sarežģītai atkļūdošanai
- Augstos spriešanas iestatījumos GPT-5.6 modeļiem jau ir implicīts ToT
- Papildu tokena izmaksas ir attaisnojamas augstas ietekmes lēmumiem