Reťazec myšlienok
Na tejto strane
Uvažuj krok za krokom
Reťazec myšlienok (Chain of Thought – CoT) je technika, ktorá od modelu vyžaduje, aby pred uvedením konečnej odpovede podrobne rozviedol svoje uvažovanie. Namiesto toho, aby model skočil priamo k záveru, vypíše každý logický krok, čo výrazne zlepšuje kvalitu odpovedí pri úlohách vyžadujúcich logické myslenie. Pri modeloch Mistral prináša vynikajúce výsledky v oblasti logiky, matematiky, analýzy a rozhodovania.
Aby si pochopil, prečo to funguje, pripomeň si, ako model generuje text: token po tokene, pričom každý token závisí od všetkých predchádzajúcich. Keď musí model odpovedať na zložitú otázku priamo, má na „premýšľanie“ len niekoľko tokenov – odpoveď sa musí objaviť takmer okamžite. Tým, že ho požiadaš o rozvedenie úvahy, dáš mu priestor rozdeliť problém na jednoduchšie čiastkové úlohy, overiť každý krok pred prechodom na ďalší, identifikovať relevantné informácie medzi poskytnutými dátami a v konečnom dôsledku znížiť chyby v uvažovaní, ako sú halucinácie. Písané uvažovanie nie je dodatočnou myšlienkou: práve tam prebieha výpočet.
Jednoduchý CoT: stačí jeden pokyn
Najzákladnejšia forma spočíva v pridaní jednoduchej inštrukcie na koniec tvojho promptu:
Reštaurácia má 15 stolov. Každý stôl pojme 4 ľudí.
Reštaurácia je obsadená na 80 %. Koľko ľudí je prítomných?
Pred uvedením odpovede uvažuj krok za krokom.
Model potom vyprodukuje niečo takéto:
Krok 1: Celková kapacita = 15 stolov × 4 ľudia = 60 ľudí
Krok 2: Miera obsadenosti = 80 % = 0,80
Krok 3: Prítomní ľudia = 60 × 0,80 = 48 ľudí
Odpoveď: V reštaurácii je prítomných 48 ľudí.
Bez inštrukcie „uvažuj krok za krokom“ by model mohol odpovedať priamo „48“ – čo je v tomto prípade správne –, ale mohol by sa tiež pomýliť v medzivýpočte, pričom by si nedokázal identifikovať, kde sa stala chyba. Toto je druhá, menej známa, no rovnako cenná výhoda CoT: viditeľné uvažovanie je overiteľné. Keď sa ti odpoveď zdá podozrivá, chybný krok okamžite vyskočí.
Štruktúrovaný CoT: usmerňuj kroky
Pri zložitejších úlohách sa neuspokoj len s požiadavkou na uvažovanie: predpíš ho. Predstav si analýzu investície:
Posúď, či je tento startup dobrou investíciou.
Dáta:
- Tržby 2025: 2,3 mil. € (rast +45 % medziročne)
- Miera spaľovania hotovosti (burn rate): 180 tis. €/mesiac
- Dostupný čas do vyčerpania financií (runway): 14 mesiacov
- Adresovateľný trh: 500 mil. €
- Tím: 22 ľudí, 3 technickí zakladatelia
Uvažuj podľa týchto krokov:
1. Analyzuj finančné zdravie (tržby, burn rate, runway)
2. Vyhodnoť potenciál trhu (veľkosť, aktuálna penetrácia)
3. Vyhodnoť tím (zručnosti, veľkosť)
4. Identifikuj kľúčové riziká (maximálne 3)
5. Uveď svoj záver s hodnotením miery istoty (nízka/stredná/vysoká)
Predpísaním krokov zabezpečíš, že model pokryje všetky dôležité aspekty v správnom poradí a nevynechá ten, na ktorom ti záleží. Ak by bol ponechaný na vlastnú päsť, mohol by sa dlho rozpisovať o trhu a finančnú analýzu odbaviť narýchlo; keď ho usmerňuješ, systematicky spracuje všetkých päť aspektov.
Kedy použiť Reťazec myšlienok – a kedy ho vynechať
CoT je určený pre úlohy, pri ktorých môžeš cestou urobiť chybu: viacstupňové matematické príklady, odhady, analýza dát (interpretácia metrík, identifikácia trendov), rozhodovanie porovnávaním možností, ladenie kódu alebo chybových logov, logické uvažovanie a dedukcia. Vo všetkých týchto situáciách je každý medzikrok kontrolným bodom, ktorý zabraňuje šíreniu chýb.
Naopak, CoT je zbytočný – niekedy dokonca kontraproduktívny – keď niet čo rozvíjať. Pri jednoduchej faktickej otázke, ako „Aké je hlavné mesto Talianska?“, len zvyšuje latenciu a spotrebu tokenov bez akéhokoľvek zlepšenia. Pri kreatívnom písaní môže štruktúrované uvažovanie dokonca dusiť kreativitu. Preklad je viac intuitívny než logický a preformulovanie si nevyžaduje žiadnu dedukciu. Správny reflex: opýtaj sa sám seba, či by si si pri tejto úlohe sám robil písomné výpočty. Ak nie, ušetri to modelu.
CoT v kombinácii s few-shot
Kombinácia Reťazca myšlienok s technikou few-shot z predchádzajúcej lekcie je mimoriadne účinná: namiesto opisovania spôsobu uvažovania ho ukážeš prostredníctvom kompletného príkladu úspešného uvažovania.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Model zopakuje rovnakú schému – číslovaný blok „Reasoning“ a potom riadok „Answer“ – aj pre novú otázku. Získaš tak rigoróznosť CoT aj konzistentnosť formátu vďaka few-shot.
Kontrola rozsahu uvažovania
Niekedy chceš mať uvažovanie, ale nie román. Dávkovanie kontroluješ priamo v inštrukcii. Pre úplné uvažovanie požiadaj: „Pred záverom podrobne rozveď každý krok svojho uvažovania.“ Pre stručnejšiu verziu: „Uvažuj stručne (maximálne 2 – 3 kroky) a potom uveď odpoveď.“ A pre produkčné prostredie je najužitočnejší variant, ktorý oddeľuje uvažovanie a odpoveď pomocou tagov:
Uvažuj v rámci tagov <reasoning></reasoning>
a potom uveď svoju konečnú odpoveď v rámci tagov <answer></answer>.
Tento posledný prístup ti dáva to najlepšie z oboch svetov: tvoj kód extrahuje na zobrazenie koncovému používateľovi iba obsah tagu <answer>, zatiaľ čo úplné uvažovanie zostáva dostupné v logoch na účely ladenia. Keď sa odpoveď v produkcii ukáže ako nesprávna, otvoríš log a presne uvidíš, kde sa uvažovanie pokazilo.
Kľúčové poznatky
- Reťazec myšlienok núti model uvažovať pred odpovedaním – rozhodujúce pre logiku, výpočty a analýzu
- Pri zložitých úlohách explicitne usmerňuj jednotlivé kroky
- Kombinuj CoT a few-shot pre maximálnu efektivitu
- Zbytočné pri jednoduchých otázkach alebo kreatívnom písaní
- Na oddelenie uvažovania a odpovede v produkcii používaj XML tagy