Chain of Thought
Na tej stronie
Rozumuj krok po kroku
Chain of Thought (CoT) to technika, która nakłania model do szczegółowego opisania toku rozumowania przed podaniem ostatecznej odpowiedzi. Zamiast przechodzić od razu do wniosku, model wypisuje każdy logiczny krok, co znacząco podnosi jakość odpowiedzi w zadaniach wymagających rozumowania. W przypadku modeli Mistral przynosi to doskonałe rezultaty w dziedzinie logiki, matematyki, analizy i podejmowania decyzji.
Aby zrozumieć, dlaczego to działa, przypomnij sobie, jak model generuje tekst: token po tokenie, przy czym każdy token opiera się na wszystkich poprzednich. Gdy model musi odpowiedzieć bezpośrednio na złożone pytanie, ma tylko kilka tokenów na „myślenie“ – odpowiedź musi pojawić się niemal natychmiast. Prosząc go o szczegółowe opisanie rozumowania, dajesz mu przestrzeń na rozbicie problemu na proste podproblemy, zweryfikowanie każdego kroku przed przejściem do następnego, wyłapanie istotnych informacji spośród dostarczonych danych i ostateczne ograniczenie błędów rozumowania, takich jak halucynacje. Pisemne rozumowanie nie jest dodatkiem: to właśnie tam zachodzi proces obliczeniowy.
Proste CoT: jedna instrukcja wystarczy
Najprostsza forma polega na dodaniu na końcu promptu krótkiej frazy-instrukcji:
A restaurant has 15 tables. Each table can seat 4 people.
The restaurant is 80% full. How many people are present?
Reason step by step before giving your answer.
Model wygeneruje wtedy coś w rodzaju:
Step 1: Total capacity = 15 tables × 4 people = 60 people
Step 2: Occupancy rate = 80% = 0.80
Step 3: People present = 60 × 0.80 = 48 people
Answer: 48 people are present in the restaurant.
Bez instrukcji „reason step by step“ model mógłby podać od razu „48“ – tutaj poprawnie – ale mógłby też popełnić błąd w obliczeniach pośrednich, a Ty nie byłbyś w stanie zidentyfikować, gdzie dokładnie. To druga, mniej znana, ale równie cenna zaleta CoT: widoczne rozumowanie można zweryfikować. Gdy odpowiedź wydaje Ci się dziwna, błędny krok rzuca się w oczy.
Strukturalne CoT: prowadź kroki
W przypadku bardziej złożonych zadań nie poprzestawaj na proszeniu o rozumowanie: prescribe je. Wyobraź sobie analizę inwestycyjną:
Evaluate whether this startup is a good investment.
Data:
- Revenue 2025: €2.3M (growth +45% YoY)
- Burn rate: €180K/month
- Runway: 14 months
- Addressable market: €500M
- Team: 22 people, 3 technical founders
Reason according to these steps:
1. Analyze financial health (revenue, burn, runway)
2. Evaluate market potential (size, current penetration)
3. Evaluate the team (skills, size)
4. Identify key risks (3 max)
5. Provide your conclusion with a confidence score (low/medium/high)
Narzucając kroki, masz pewność, że model uwzględni wszystkie istotne aspekty, we właściwej kolejności, bez pomijania tego, na którym Ci zależy. Pozostawiony sam sobie, mógłby rozwodzić się długo nad rynkiem, a analizę finansową potraktować pobieżnie; prowadzony, systematycznie przeanalizuje wszystkie pięć aspektów.
Kiedy stosować Chain of Thought – a kiedy go pominąć
CoT przydaje się w zadaniach, w których można zbłądzić po drodze: wieloetapowe problemy matematyczne, szacunki, analiza danych (interpretacja metryk, wykrywanie trendów), podejmowanie decyzji poprzez porównywanie opcji, debugowanie kodu lub logów błędów, rozumowanie logiczne i dedukcja. We wszystkich tych sytuacjach każdy krok pośredni stanowi punkt kontrolny, który zapobiega rozprzestrzenianiu się błędów.
Z drugiej strony CoT jest bezużyteczne – a czasem wręcz szkodliwe – gdy nie ma czego rozwijać. W przypadku prostego pytania faktograficznego, takiego jak „Jaka jest stolica Włoch?“, dodaje ono opóźnienia i zużycia tokenów, nie poprawiając niczego. W pisaniu kreatywnym ustrukturyzowane rozumowanie może nawet dusić kreatywność. Tłumaczenie jest bardziej intuicyjne niż logiczne, a parafraza nie wymaga dedukcji. Właściwy odruch: zadaj sobie pytanie, czy sam sporządziłbyś obliczenia dla tego zadania. Jeśli nie, oszczędź modelowi tego wysiłku.
CoT w połączeniu z few-shot
Połączenie Chain of Thought z techniką few-shot z poprzedniej lekcji jest szczególnie potężne: zamiast opisywać, jak należy rozumować, pokazujesz to na kompletnym przykładzie poprawnego rozumowania.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Model odtworzy ten sam schemat – ponumerowany blok „Reasoning“, a następnie linia „Answer“ – dla nowego pytania. Zyskujesz zarówno rygor CoT, jak i spójność formatu charakterystyczną dla few-shot.
Kontroluj rozwlekłość rozumowania
Czasami chcesz uzyskać rozumowanie, ale nie powieść. Dawkowanie kontrolujesz bezpośrednio w instrukcji. Dla pełnego rozumowania poproś: „Detail every step of your reasoning before concluding.“ Dla wersji bardziej zwięzłej: „Reason briefly (2-3 steps max) then give your answer.“ A w środowisku produkcyjnym najbardziej użyteczna wariant oddziela rozumowanie od odpowiedzi za pomocą tagów:
Reason within <reasoning></reasoning> tags
then provide your final answer within <answer></answer> tags.
To ostatnie podejście daje Ci to, co najlepsze z obu światów: Twój kod ekstrahuje wyłącznie zawartość tagu <answer>, aby wyświetlić ją użytkownikowi końcowemu, podczas gdy pełne rozumowanie pozostaje dostępne w logach do celów debugowania. Gdy odpowiedź w produkcji okazuje się błędna, otwierasz log i widzisz dokładnie, gdzie tok rozumowania zboczył z właściwej ścieżki.
Kluczowe wnioski
- Chain of Thought nakłania model do rozumowania przed udzieleniem odpowiedzi – kluczowe dla logiki, obliczeń i analizy
- W przypadku złożonych zadań wyraźnie prowadź model przez poszczególne kroki
- Łącz CoT z few-shot, aby osiągnąć maksymalną efektywność
- Bezcelowe w przypadku prostych pytań lub pisania kreatywnego
- W środowisku produkcyjnym używaj tagów XML, aby oddzielić rozumowanie od odpowiedzi