Ķēdes domāšana
Šajā lapā
Sprie soli pa solim
Ķēdes domāšana (Chain of Thought jeb CoT) ir metode, kas liek modelim izklāstīt savu spriešanas gaitu pirms galīgās atbildes sniegšanas. Tā vietā, lai nekavējoties pārietu pie secinājuma, models iztirzā katru loģisko soli, kas būtiski uzlabo atbilžu kvalitāti uzdevumos, kuriem nepieciešama spriešana. Izmantojot Mistral modeļus, tā nodrošina izcilus rezultātus loģikas, matemātikas, analīzes un lēmumu pieņemšanas jomā.
Lai saprastu, kāpēc tas strādā, atceries, kā models ģenerē tekstu: pa vienam tokenam, kur katrs tokens balstās uz visiem iepriekšējiem. Ja modelim jāatbild uz sarežģītu jautājumu tieši, tam ir tikai daži tokeni „domāšanai” – atbildei jāparādās gandrīz uzreiz. Pieprasot tam izklāstīt spriešanas gaitu, tu dod tam iespēju sadalīt problēmu vienkāršos apakšuzdevumos, pārbaudīt katru soli pirms pārejas pie nākamā, atrast atbilstošu informāciju sniegtajos datos un galu galā samazināt spriešanas kļūdas, piemēram, halucinācijas. Rakstiska spriešana nav pēcpadoms: tieši tur notiek aprēķins.
Vienkārša CoT: pietiek ar vienu instrukciju
Visvienkāršākā forma sastāv no vienkāršas instrukcijas frāzes pievienošanas tava prompta beigām:
Restorānā ir 15 galdi. Katrs galds var izmitināt 4 cilvēkus.
Restorāns ir aizņemts par 80%. Cik cilvēku tajā atrodas?
Pirms sniedz atbildi, spried soli pa solim.
Tad models ģenerēs kaut ko līdzīgu:
1. solis: Kopējā ietilpība = 15 galdi × 4 cilvēki = 60 cilvēki
2. solis: Aizpildījuma līmenis = 80% = 0,80
3. solis: Klātesošie cilvēki = 60 × 0,80 = 48 cilvēki
Atbilde: Restorānā atrodas 48 cilvēki.
Bez instrukcijas „spried soli pa solim” models varētu sniegt tikai „48” – šajā gadījumā pareizi –, taču tas varētu arī pieļaut kļūdu starpposma aprēķinā, un tu nevarētu noteikt, kur tieši tā radusies. Šis ir otrais CoT ieguvums, mazāk zināms, bet tikpat vērtīgs: redzama spriešana ir pārbaudāma. Ja atbilde šķiet dīvaina, kļūdainais solis uzreiz izlec acīs.
Strukturēta CoT: virzi sprieniena soļus
Sarežģītākiem uzdevumiem nepietiek tikai lūgt spriest: nosaki to konkrēti. Iedomājies investīciju analīzi:
Novērtē, vai šis jaunais uzņēmums ir labs ieguldījums.
Dati:
- Ieņēmumi 2025. gadā: 2,3 miljoni € (pieaugums +45% salīdzinājumā ar iepriekšējo gadu)
- Naudas patēriņa temps (burn rate): 180 000 € mēnesī
- Darbības ilgums ar esošo naudu (runway): 14 mēneši
- Pieejamais tirgus: 500 miljoni €
- Komanda: 22 cilvēki, 3 tehniskie dibinātāji
Spried, ievērojot šos soļus:
1. Analizē finanšu veselību (ieņēmumi, naudas patēriņš, darbības ilgums)
2. Novērtē tirgus potenciālu (apjoms, pašreizējā iekļūšana tirgū)
3. Novērtē komandu (prasmes, lielums)
4. Identificē galvenos riskus (maksimāli 3)
5. Sniedz secinājumu ar pārliecības līmeni (zems/vidējs/augsts)
Nosakot soļus, tu nodrocini, ka models aptver visus svarīgos aspektus pareizā secībā, neizlaižot to, kas tev ir svarīgs. Atstāts brīvībā, tas varētu plaši izvērsties par tirgu un steigā veikt finanšu analīzi; vadīts, tas sistemātiski izskata visus piecus aspektus.
Kad lietot ķēdes domāšanu un kad no tās atteikties
CoT ir paredzēta uzdevumiem, kuros ceļā vari kļūdīties: daudzsoloņu matemātikas uzdevumi, aplēses, datu analīze (rādītāju interpretēšana, tendenču noteikšana), lēmumu pieņemšana, salīdzinot opcijas, koda vai kļūdu žurnālu atkļūdošana, loģiskā spriešana un dedukcija. Visās šajās situācijās katrs starpposma solis ir kontrolpunkts, kas novērš kļūdu tālāku izplatīšanos.
Turpretī CoT ir bezjēdzīga – dažreiz pat kaitīga –, ja nav ko izvērst. Uz vienkāršu faktisku jautājumu, piemēram, „Kura ir Itālijas galvaspilsēta?”, tā tikai palielina latentumu un tokenus, neko neuzlabojot. Radošajā rakstīšanā strukturēta spriešana var pat nomākt radošumu. Tulkošana ir vairāk intuitīva nekā loģiska, bet pārfrazēšanai nav vajadzīga dedukcija. Pareizais reflekss: pajautā sev, vai šim uzdevumam pats veidotu aprēķinus. Ja nē, saudzē modeli.
CoT kopā ar few-shot
Ķēdes domāšanas apvienošana ar few-shot tehniku no iepriekšējās nodarbības ir īpaši spēcīga: tā vietā, lai aprakstītu, kā spriest, tu to parādi, izmantojot pilnīgu veiksmīgas spriešanas piemēru.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Models atkārtos to pašu shēmu – numurētu bloku „Reasoning”, kam seko rinda „Answer” – attiecībā uz jauno jautājumu. Tu iegūsti gan CoT stingrību, gan few-shot formāta konsekvenci.
Kontrolē spriešanas detalizētību
Dažreiz vēlies spriešanu, bet ne romānu. Devu kontrolē jau pašā instrukcijā. Pilnai spriešanai prasi: „Detalizēti izklāsti katru savu spriešanas soli pirms secinājuma.” Kompaktākai versijai: „Spried īsi (maksimāli 2–3 soļi), tad sniedz atbildi.” Un ražošanas videi visnoderīgākais variants atdala spriešanu no atbildes, izmantojot tagus:
Spried, izmantojot <reasoning></reasoning> tagus,
tad sniedz galīgo atbildi, izmantojot <answer></answer> tagus.
Šī pieeja dod labāko no abām pasaulēm: tavs kods ekstrahē tikai <answer> taga saturu, lai to parādītu gala lietotājam, kamēr pilna spriešanas gaita paliek pieejama žurnālos atkļūdošanai. Ja atbilde ražošanas vidē izrādās nepareiza, tu atver žurnālu un redzi tieši tur, kur spriešana novirzījās no ceļa.
Galvenās atziņas
- Ķēdes domāšana liek modelim spriest pirms atbildēšanas – tas ir izšķiroši loģikai, aprēķiniem un analīzei
- Sarežģītiem uzdevumiem eksplicīti virzi spriešanas soļus
- Apvieno CoT un few-shot, lai panāktu maksimālu efektivitāti
- Bezjēdzīga vienkāršiem jautājumiem vai radošajai rakstīšanai
- Ražošanas vidē izmanto XML tagus, lai atdalītu spriešanu no atbildes