Chain of Thought
På denne side
Ræsonnér trin for trin
Chain of Thought (CoT) er en teknik, hvor du beder modellen om at udfolde sin ræsonnering, før den giver det endelige svar. I stedet for at hoppe direkte til konklusionen, gennemgår modellen hvert logisk skridt, hvilket forbedrer svarkvaliteten markant på opgaver, der kræver ræsonnement. Med Mistral-modeller giver dette fremragende resultater inden for logik, matematik, analyse og beslutningstagning.
For at forstå, hvorfor dette virker, skal du huske på, hvordan modellen genererer tekst: token for token, hvor hvert token afhænger af alle de foregående. Når en model skal besvare et komplekst spørgsmål direkte, har den kun få tokens til at „tænke” – svaret skal næsten komme med det samme. Ved at bede den om at udfolde sin ræsonnering giver du den plads til at opdele problemet i simple delproblemer, verificere hvert skridt, før den går videre, spotte relevante oplysninger blandt de leverede data og i sidste ende reducere ræsonnementsfejl som hallucinationer. Skriftlig ræsonnering er ikke en eftertanke: det er her, beregningen finder sted.
Simpel CoT: én instruktion er nok
Den mest basale form består i at tilføje en simpel instruktionsfrase til slutningen af dit prompt:
A restaurant has 15 tables. Each table can seat 4 people.
The restaurant is 80% full. How many people are present?
Reason step by step before giving your answer.
Modellen vil derefter producere noget i stil med:
Step 1: Total capacity = 15 tables × 4 people = 60 people
Step 2: Occupancy rate = 80% = 0.80
Step 3: People present = 60 × 0.80 = 48 people
Answer: 48 people are present in the restaurant.
Uden instruktionen „reason step by step” kunne modellen give „48” direkte – hvilket er korrekt her – men den kunne også lave en fejl i en mellemregning, uden at du kunne identificere hvor. Dette er den anden fordel ved CoT, mindre kendt men lige så værdifuld: synlig ræsonnering er verificerbar. Når et svar virker mærkeligt for dig, spring det fejlbehæftede skridt tydeligt frem.
Struktureret CoT: styr skridtene
Ved mere komplekse opgaver skal du ikke bare bede om ræsonnering: foreskriv den. Forestil dig en investeringsanalyse:
Evaluate whether this startup is a good investment.
Data:
- Revenue 2025: €2.3M (growth +45% YoY)
- Burn rate: €180K/month
- Runway: 14 months
- Addressable market: €500M
- Team: 22 people, 3 technical founders
Reason according to these steps:
1. Analyze financial health (revenue, burn, runway)
2. Evaluate market potential (size, current penetration)
3. Evaluate the team (skills, size)
4. Identify key risks (3 max)
5. Provide your conclusion with a confidence score (low/medium/high)
Ved at foreskrive skridtene sikrer du, at modellen dækker alle vigtige aspekter i den rigtige rækkefølge uden at springe det over, du er optaget af. Overladt til sig selv kunne den have dvælet længe ved markedet og hastet finansanalysen igennem; styret behandler den alle fem aspekter systematisk.
Hvornår skal du bruge Chain of Thought – og hvornår skal du undlade det?
CoT er til opgaver, hvor du kan gå galt i byen undervejs: matematikopgaver med flere trin, estimater, dataanalyse (fortolkning af nøgletal, identifikation af tendenser), beslutningstagning ved sammenligning af muligheder, fejlfinding i kode eller fejllogs, logisk ræsonnement og deduktion. I alle disse situationer er hvert mellemtrin et kontrolpunkt, der forhindrer fejl i at sprede sig.
Omvendt er CoT nytteløs – nogle gange kontraproduktiv – når der ikke er noget at udfolde. Til et simpelt faktaspørgsmål som „Hvad er hovedstaden i Italien?” tilføjer det kun ventetid og tokens uden at forbedre noget. Ved kreativ skrivning kan struktureret ræsonnering endda kvæle kreativiteten. Oversættelse er mere intuitiv end logisk, og omformulering kræver ingen deduktion. Den rigtige refleks: spørg dig selv, om du selv ville lave mellemregninger til denne opgave. Hvis ikke, så spar modellen for det.
CoT med few-shot
Kombinationen af Chain of Thought med few-shot-teknikken fra den foregående lektion er særligt kraftfuld: i stedet for at beskrive, hvordan man skal ræsonnere, viser du det via et komplet eksempel på succesfuld ræsonnering.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Modellen vil reproducere samme skema – en nummereret „Reasoning”-blok efterfulgt af en „Answer”-linje – for det nye spørgsmål. Du får både CoT’s rigorøsitet og few-shot’s formatkonsistens.
Styr omfanget af ræsonneringen
Nogle gange ønsker du ræsonneringen, men ikke en roman. Du styrer doseringen direkte i instruktionen. For fuld ræsonnering beder du: „Detail every step of your reasoning before concluding.” For en strammere version: „Reason briefly (2-3 steps max) then give your answer.” Og til produktion er den mest nyttige variant den, der adskiller ræsonnering og svar med tags:
Reason within <reasoning></reasoning> tags
then provide your final answer within <answer></answer> tags.
Denne sidste tilgang giver dig det bedste fra begge verdener: din kode udtrækker kun indholdet af <answer>-tagget til visning for slutbrugeren, mens den fulde ræsonnering forbliver tilgængelig i loggene til fejlfinding. Når et svar i produktion viser sig at være forkert, åbner du loggen og ser præcis, hvor ræsonneringen sporede af.
Vigtige pointer
- Chain of Thought beder modellen om at ræsonnere, før den svarer – afgørende for logik, beregning og analyse
- Styr skridtene eksplicit ved komplekse opgaver
- Kombinér CoT og few-shot for maksimal effektivitet
- Nytteløs til simple spørgsmål eller kreativ skrivning
- Brug XML-tags til at adskille ræsonnering og svar i produktion