Chain of Thought
Pe această pagină
Raționați pas cu pas
Chain of Thought (CoT) este o tehnică prin care solicitați modelului să își detalieze raționamentul înainte de a oferi răspunsul final. În loc să sară direct la concluzie, modelul explică fiecare etapă logică, ceea ce îmbunătățește semnificativ calitatea răspunsurilor pentru sarcinile care necesită raționament. Cu modelele Mistral, această abordare oferă rezultate excelente în domeniile logicii, matematicii, analizei și luării deciziilor.
Pentru a înțelege de ce funcționează acest lucru, rețineți modul în care modelul generează text: token cu token, fiecare token bazându-se pe toți cei precedenți. Când un model trebuie să răspundă direct la o întrebare complexă, dispune de doar câțiva tokeni pentru a „gândi“ — răspunsul trebuie să apară aproape imediat. Solicitându-i să își detalieze raționamentul, îi oferiți spațiul necesar pentru a descompune problema în sub-probleme simple, pentru a verifica fiecare etapă înainte de a trece la următoarea, pentru a identifica informațiile relevante printre datele furnizate și, în final, pentru a reduce erorile de raționament, cum ar fi halucinațiile. Raționamentul scris nu este o simplă adăugire: acolo are loc procesul de calcul.
CoT simplu: o singură instrucțiune este suficientă
Cea mai basic formă constă în adăugarea unei fraze simple de instrucțiune la sfârșitul promptului dumneavoastră:
A restaurant has 15 tables. Each table can seat 4 people.
The restaurant is 80% full. How many people are present?
Reason step by step before giving your answer.
Modelul va produce apoi ceva de genul:
Step 1: Total capacity = 15 tables × 4 people = 60 people
Step 2: Occupancy rate = 80% = 0.80
Step 3: People present = 60 × 0.80 = 48 people
Answer: 48 people are present in the restaurant.
Fără instrucțiunea „reason step by step“, modelul ar putea oferi direct „48“ — corect în acest caz — dar ar putea face și o greșeală la un calcul intermediar fără ca dumneavoastră să puteți identifica unde anume. Acesta este al doilea beneficiu al CoT, mai puțin cunoscut, dar la fel de valoros: raționamentul vizibil este verificabil. Când un răspuns vi se pare ciudat, etapa eronată sare imediat în evidență.
CoT structurat: ghidați pașii
Pentru sarcini mai complexe, nu vă limitați să cereți raționament: prescrieți-l. Imaginați-vă o analiză de investiții:
Evaluate whether this startup is a good investment.
Data:
- Revenue 2025: €2.3M (growth +45% YoY)
- Burn rate: €180K/month
- Runway: 14 months
- Addressable market: €500M
- Team: 22 people, 3 technical founders
Reason according to these steps:
1. Analyze financial health (revenue, burn, runway)
2. Evaluate market potential (size, current penetration)
3. Evaluate the team (skills, size)
4. Identify key risks (3 max)
5. Provide your conclusion with a confidence score (low/medium/high)
Prin prescrierea pașilor, vă asigurați că modelul acoperă toate aspectele importante, în ordinea corectă, fără a omite aspectul care vă interesează. Lăsat liber, ar fi putut insista lung asupra pieței și ar fi tratat superficial analiza financiară; ghidat, tratează sistematic toate cele cinci aspecte.
Când să utilizați Chain of Thought — și când să îl omiteți
CoT este destinat sarcinilor în care puteți greși pe parcurs: probleme matematice cu mai mulți pași, estimări, analiză de date (interpretarea metricilor, identificarea tendințelor), luarea deciziilor prin compararea opțiunilor, depanarea codului sau a jurnalelor de erori, raționamentul logic și deducțiile. În toate aceste situații, fiecare etapă intermediară reprezintă un punct de control care previne propagarea erorilor.
În schimb, CoT este inutil — uneori chiar contraproductiv — atunci când nu există nimic de desfășurat. Pentru o întrebare factuală simplă, precum „Care este capitala Italiei?“, aceasta adaugă latență și consumă tokeni fără a îmbunătăți cu nimic rezultatul. În scrierea creativă, raționamentul structurat poate chiar să stiflereze creativitatea. Traducerea este mai degrabă intuitivă decât logică, iar reformularea nu necesită nicio deducție. Reflexul corect: întrebați-vă dacă dumneavoastră ați schița calcule pentru această sarcină. Dacă nu, cruțați modelul.
CoT combinat cu few-shot
Combinarea tehnicii Chain of Thought cu tehnica few-shot din lecția anterioară este deosebit de puternică: în loc să descrieți cum să raționeze, îi arătați acest lucru printr-un exemplu complet de raționament reușit.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Modelul va reproduce aceeași schemă — un bloc „Reasoning“ numerotat, urmat de o linie „Answer“ — pentru noua întrebare. Obțineți astfel atât rigoarea CoT, cât și consistența formatului specifică tehnicii few-shot.
Controlați verbose-ul raționamentului
Uneori doriți raționamentul, dar nu un roman. Controlați doza chiar în instrucțiune. Pentru un raționament complet, cereți: „Detaliați fiecare etapă a raționamentului dumneavoastră înainte de a concluziona.“ Pentru o versiune mai concisă: „Raționați pe scurt (maxim 2-3 pași), apoi oferiți răspunsul.“ Iar pentru producție, varianta cea mai utilă separă raționamentul de răspuns prin tag-uri:
Reason within <reasoning></reasoning> tags
then provide your final answer within <answer></answer> tags.
Această ultimă abordare vă oferă avantajele ambelor lumi: codul dumneavoastră extrage doar conținutul tag-ului <answer> pentru a-l afișa utilizatorului final, în timp ce raționamentul complet rămâne disponibil în jurnale pentru depanare. Când un răspuns în producție se dovedește eronat, deschideți jurnalul și vedeți exact unde a deviat raționamentul.
Puncte cheie
- Chain of Thought cere modelului să raționeze înainte de a răspunde — decisiv pentru logică, calcul și analiză
- Ghidați pașii în mod explicit pentru sarcinile complexe
- Combinați CoT și few-shot pentru o eficiență maximă
- Inutil pentru întrebările simple sau scrierea creativă
- Utilizați tag-uri XML pentru a separa raționamentul de răspuns în producție