Tree-of-Thought: struktūruotas tyrinėjimas
Šiame puslapyje
Pamoka atnaujinta 2026 m. lapkričio 3 d. pagal „OpenAI“ dokumentaciją: parametrai
temperatureirtop_ppriimami tik esantnonelygio samprotavimui, tuo tarpu GPT-5.6 modeliai pagal nutylėjimą samprotauja (medium). Todėl kvietimuose, kuriuose nustatomi šie parametrai, būtina nurodytireasoning={"effort": "none"}(Responses API) arbareasoning_effort="none"(Chat Completions). Šaltiniai: Using GPT-6 · GPT-5.6 Terra.
Tree-of-Thought: struktūruotas tyrinėjimas
„Tree-of-Thought“ (ToT) yra raginimų (prompting) technika, kuri modelio samprotavimą struktūruoja kaip sprendimų medį. Vietoj to, kad eitų vienu tiesiniu minties keliu, modelis tyrinėja kelias šakas, įvertina kiekvieną iš jų ir palieka tik perspektyviausias. Panašumas į paieškos algoritmą yra akivaizdus: generuoji kandidatus, juos įvertini ir atmeti likusius. Dėl to ši technika ypač efektyvi sprendžiant uždavinius, kuriems reikia planavimo arba grįžimo prie ankstesnių žingsnių.
Skirtumas nuo Chain-of-Thought
„Chain-of-Thought“ (CoT) remiasi tiesiniu samprotavimu: 1 žingsnis, 2 žingsnis, 3 žingsnis. Jo silpnybė – struktūrinė. Jei modelis 2-ame žingsnyje pasuka neteisinga kryptimi, viskas, kas seka po to, paveldi tą klaidą, ir nėra mechanizmo grįžti atgal. Samprotavimas gali būti puikiai suformuluotas, tačiau jis remiasi klaidinga prielaida. „Tree-of-Thought“ kiekviename žingsnyje tyrinėja kelias kryptis ir atmeta aklavietes, prieš investuojant tolesnes pastangas jų plėtojimui.
# Chain-of-Thought (tiesinis)
# 1 žingsnis → 2 žingsnis → 3 žingsnis → Atsakymas
# Tree-of-Thought (medžio pagrindu)
# 1 žingsnis
# / | \
# A variantas B variantas C variantas ← įvertinimas
# | | ✗ ← atmetimas
# A1 variantas B1 variantas
# | |
# Atsakymas Atsakymas ← galutinis pasirinkimas
Įgyvendinimas vienu raginimu
Paprastesnė versija telpa į vieną kvietimą: raginimas priverčia modelį laikytis tyrinėjimo struktūros – sugeneruoti tris metodus, juos įvertinti, pasirinkti vieną ir jį išplėtoti. Tai nebrangu ir dažnai pakanka atvirų klausimų sprendimui. Tačiau prieš pasikliaujant šiuo metodu, atmink vieną ribotumą: modelis siūlo ir vertina idėjas tame pačiame kontekste, todėl būna švelnesnis savo pačio idėjoms, o atmetimas tampa ne toks griežtas, kaip reikėtų.
from openai import OpenAI
client = OpenAI()
def tree_of_thought_simple(problem: str) -> str:
"""ToT viename raginime."""
prompt = f"""Išspręsk šį uždavinį naudodamas Tree-of-Thought metodą.
Uždavinys: {problem}
1 žingsnis – sugeneruok 3 skirtingus metodus:
- A metodas: ...
- B metodas: ...
- C metodas: ...
2 žingsnis – įvertink kiekvieną metodą (privalumai ir trūkumai):
- A metodas: ...
- B metodas: ...
- C metodas: ...
3 žingsnis – pasirink geriausią metodą ir jį išplėtok:
Pasirinktas metodas: ...
Detalus išplėtojimas: ...
4 žingsnis – galutinis atsakymas:
..."""
response = client.responses.create(
model="gpt-5.6-sol",
reasoning={"effort": "none"}, # temperature reikalauja effort none
input=prompt,
temperature=0.7
)
return response.output_text
Įgyvendinimas keliais kvietimais
Sudėtingiems uždaviniams kiekvieną žingsnį atskirk į atskirus kvietimus. Šis suskaidymas suteikia du privalumus, kurių vienas raginimas negali pasiūlyti. Pirma, temperatūros valdymas žingsnis po žingsnio: 0,8 generavimui, kur įvairovė yra viso metodo esmė, ir 0,3 įvertinimui bei plėtojimui, kur reikia griežtumo ir atkuriamumo. Antra, tarpiniai rezultatai, kuriuos gali patikrinti, registruoti ar net pateikti žmogui patvirtinti, prieš leisdamas grandinei tęstis.
def tree_of_thought(problem: str, breadth: int = 3,
depth: int = 3) -> dict:
"""ToT su daugialygiu tyrinėjimu."""
system = "Esi struktūruoto problemų sprendimo ekspertas."
# 1 žingsnis: sugeneruok pradines šakas
gen_prompt = (f"Uždavinys: {problem}\n\n"
f"Pasiūlyk {breadth} skirtingus metodus šiam uždaviniui "
f"spręsti. Kiekvienam metodui pateik pavadinimą ir "
f"2–3 sakinių aprašymą. Sunumeruok juos nuo 1 iki {breadth}.")
branches_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature reikalauja effort none
instructions=system,
input=gen_prompt,
temperature=0.8
)
branches = branches_response.output_text
# 2 žingsnis: įvertink kiekvieną šaką
eval_prompt = (f"Uždavinys: {problem}\n\n"
f"Štai {breadth} pasiūlyti metodai:\n{branches}\n\n"
f"Įvertink kiekvieną metodą pagal 3 kriterijus (balas /10):\n"
f"- Įgyvendinamumas\n- Efektyvumas\n- Paprastumas\n\n"
f"Susiek juos nuo geriausio iki blogiausio su pagrindimu.")
eval_response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature reikalauja effort none
instructions=system,
input=eval_prompt,
temperature=0.3
)
evaluation = eval_response.output_text
# 3 žingsnis: išplėtok geriausią šaką
dev_prompt = (f"Uždavinys: {problem}\n\n"
f"Metodų įvertinimas:\n{evaluation}\n\n"
f"Išsamiai išplėtok aukščiausią vietą užėmusį metodą. "
f"Pateik pilną, veiksmingą sprendimą.")
solution = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature reikalauja effort none
instructions=system,
input=dev_prompt,
temperature=0.3
)
return {
"branches": branches,
"evaluation": evaluation,
"solution": solution.output_text
}
Pavyzdys: programinės įrangos architektūra
Toliau pateiktas uždavinys yra būtent toks, kur ToT suteikia pridėtinės vertės. Yra keletas ginčytinų strategijų – talpinimas (caching), skaitymo replikos, paieškos tarnybos išskyrimas, „blue-green“ diegimas – o pasirinkimas priklauso nuo raginime aiškiai nurodytų apribojimų, ypač komandos dydžio. Tiesioginis raginimas duotų sprendimą, dažniausiai cituojamą techninėje literatūroje, neatsižvelgiant į šiuos apribojimus; ToT priešpastato jį kitiems ir privalo pagrįsti savo reitingą pagal įgyvendinamumo kriterijus.
problem = """
Mūsų monolitinė REST API (Django, PostgreSQL) pasiekė ribas:
- Maks. 500 užklausų per sekundę
- Atsakymo laikas > 2 s paieškos galiniuose taškuose
- Diegimas = 30 min. простоя
- Komandoje dirba 3 programuotojai
Kaip galime pagerinti našumą ir prieinamumą
neperrašydami visos programos iš naujo?
"""
result = tree_of_thought(problem, breadth=4)
print(result["solution"])
Kur ToT laimi, o kur švaisto tavo laiką
Ši technika puikiai tinka planavimo uždaviniams – architektūrai, planams, strategijai, apribotiems uždaviniams, pvz., optimizavimui ar išteklių paskirstymui, sudėtingam derinimui (debugging), kai vienu metu tikėtinos kelios priežastys, bei techniniams sprendimams, pavyzdžiui, renkantis karkasą ar duomenų bazę. Šioms situacijoms būdingi du bruožai: egzistuoja keli galimi sprendimai ir yra aiškus kriterijus jiems atskirti.
Kita vertus, praleisk tai paprastiems faktiniams klausimams, kur nėra ko tyrinėti, ir mokėtum už tris kvietimus, kad gautum akivaizdų atsakymą. Ji taip pat netinka atviriems kūrybiniams uždaviniams dėl tinkamo įvertinimo kriterijaus nebuvimo: reklamos šūkių reitingavimas pagal įgyvendinamumo skalę neturi prasmės. Galiausiai venk jos, kai latencija yra kritinė, nes kelių kvietimų versija mechaniškai sujungia kelis API užklausas prieš grąžindama ką nors.
Derinimas su samprotavimo nustatymais
Esant aukštiems samprotavimo nustatymams, GPT-5.6 modeliai jau atlieka struktūruotą vidinį tyrinėjimą. Aiškus ToT tada tampa daugiausia nereikalingas ir verčia mokėti dvigubai už tą patį darbą. Naudok jį tik situacijose, kai samprotavimas išjungtas arba žemas, kaip parodyta toliau pateiktame palyginime.
# Esant žemam samprotavimui: aiškus ToT yra naudingas
result = tree_of_thought(problem, breadth=3)
# Esant aukštam samprotavimui: modelis jau giliai samprotauja
response = client.responses.create(
model="gpt-5.6-sol",
input=problem,
reasoning={"effort": "high"}
)
Norėdamas nuspręsti savo kontekste, paimk architektūros ar dizaino uždavinį, kurį šią savaitę realiai turi spręsti, paleisk jį per kelių kvietimų ToT su breadth=3, o tada pateik tą patį tiesiogiai raginime. Palygink abu sprendimus ir, svarbiausia, kiekvieno žetonų kainą. Sprendimams, turintiems didelę įtaką, kokybės skirtumas daugiau nei atperka papildomas išlaidas; antraeiliams klausimams – ne, ir tai žinodamas išvengsi įpročio taikyti šią techniką visur.
Svarbiausi punktai
- ToT tyrinėja kelias samprotavimo kryptis ir pasirenka geriausią
- Yra paprasta vieno raginimo versija arba pažangi kelių kvietimų versija
- Idealu planavimui, architektūrai ir sudėtingam derinimui
- Esant aukštiems samprotavimo nustatymams, GPT-5.6 modeliai jau turi numatytąjį ToT
- Papildoma žetonų kaina pateisinama sprendimams, turintiems didelę įtaką