Верига от разсъждения
На тази страница
Разсъждавайте стъпка по стъпка
Верига от разсъждения (Chain of Thought или CoT) е техника, която кара модела да детайлизира своята логика, преди да даде крайния отговор. Вместо да скача директно към заключението, моделът излага всяка логическа стъпка, което значително подобрява качеството на отговорите при задачи, изискващи разсъждение. При моделите на Mistral това води до отлични резултати в областта на логиката, математиката, анализа и вземането на решения.
За да разберете защо това работи, спомнете си как моделът генерира текст: токен по токен, като всеки токен зависи от всички предишни. Когато моделът трябва да отговори директно на сложен въпрос, той разполага само с няколко токена за „мислене“ – отговорът трябва да се появи почти незабавно. Като го помолите да детайлизира разсъжденията си, Вие му предоставяте пространство да разбие проблема на прости подпроблеми, да провери всяка стъпка, преди да премине към следващата, да идентифицира релевантна информация сред предоставените данни и в крайна сметка да намали грешките в разсъжденията, като халюцинациите. Писменото разсъждение не е второстепенно: точно там се извършва изчислението.
Проста CoT: една инструкция е достатъчна
Най-основната форма се състои в добавянето на проста инструктивна фраза в края на вашия промпт:
A restaurant has 15 tables. Each table can seat 4 people.
The restaurant is 80% full. How many people are present?
Reason step by step before giving your answer.
След това моделът ще генерира нещо подобно на:
Step 1: Total capacity = 15 tables × 4 people = 60 people
Step 2: Occupancy rate = 80% = 0.80
Step 3: People present = 60 × 0.80 = 48 people
Answer: 48 people are present in the restaurant.
Без инструкцията „разсъждавайте стъпка по стъпка“, моделът може да даде директно „48“ – което в този случай е вярно, – но също така може да допусне грешка в междинно изчисление, без Вие да можете да идентифицирате къде точно. Това е второто предимство на CoT, по-малко известно, но също толкова ценно: видимото разсъждение подлежи на проверка. Когато един отговор Ви се стори странен, грешната стъпка изпъква веднага.
Структурирана CoT: насочване на стъпките
За по-сложни задачи не просто искайте разсъждение: предпишете го. Представете си анализ на инвестиция:
Evaluate whether this startup is a good investment.
Data:
- Revenue 2025: €2.3M (growth +45% YoY)
- Burn rate: €180K/month
- Runway: 14 months
- Addressable market: €500M
- Team: 22 people, 3 technical founders
Reason according to these steps:
1. Analyze financial health (revenue, burn, runway)
2. Evaluate market potential (size, current penetration)
3. Evaluate the team (skills, size)
4. Identify key risks (3 max)
5. Provide your conclusion with a confidence score (low/medium/high)
Като предписвате стъпките, Вие гарантирате, че моделът ще обхване всички важни аспекти, в правилния ред, без да пропуска този, който Ви интересува. Оставен на свобода, той може да се разприказва дълго за пазара и да претупе финансовия анализ; насочен, той третира систематично и петте аспекта.
Кога да използвате Верига от разсъждения – и кога да я пропуснете
CoT е предназначена за задачи, при които можете да сгрешите по пътя: многоетапни математически проблеми, оценки, анализ на данни (тълкуване на метрики, идентифициране на тенденции), вземане на решения чрез сравняване на опции, дебъгване на код или логове за грешки, логически разсъждения и дедукции. Във всички тези ситуации всяка междинна стъпка е контролна точка, която предотвратява разпространението на грешки.
Обратно, CoT е безполезна – понякога дори контрапродуктивна – когато няма какво да се разгъва. За прост фактически въпрос като „Коя е столицата на Италия?“, тя добавя латентност и токени, без да подобрява каквото и да е. При творческото писане структурираното разсъждение може дори да задуши креативността. Преводът е по-скоро интуитивен, отколкото логически, а преразказът не изисква дедукция. Правилният рефлекс е да се запитате дали бихте написали изчисления за тази задача сами. Ако не, пощадете модела.
CoT с few-shot
Комбинирането на Верига от разсъждения с техниката few-shot от предишния урок е особено мощно: вместо да описвате как да се разсъждава, Вие показвате това чрез пълен пример за успешно разсъждение.
messages = [
{
"role": "system",
"content": "You are an analyst who reasons step by step."
},
{
"role": "user",
"content": """An e-commerce site has 10,000 visitors/day, a conversion rate
of 2.5% and an average cart value of €65. What is the daily revenue?"""
},
{
"role": "assistant",
"content": """Reasoning:
1. Number of orders/day = 10,000 × 2.5% = 250 orders
2. Daily revenue = 250 × €65 = €16,250
Answer: Daily revenue is €16,250."""
},
{
"role": "user",
"content": """A SaaS has 5,000 active users, a monthly churn rate
of 3% and an average revenue per user of €49/month. What will the MRR
be in 3 months if no new customers arrive?"""
}
]
Моделът ще възпроизведе същата схема – номериран блок „Reasoning“, последван от ред „Answer“ – за новия въпрос. Така получавате както строгостта на CoT, така и последователността на формата от few-shot.
Контрол на подробността на разсъждението
Понякога искате разсъждението, но не и цял роман. Вие контролирате дозата в самата инструкция. За пълно разсъждение поискайте: „Детайлизирайте всяка стъпка от разсъжденията си, преди да заключите.“ За по-стегната версия: „Разсъждавайте накратко (максимум 2-3 стъпки), след което дайте отговора си.“ А за производствена среда най-полезният вариант разделя разсъждението и отговора с тагове:
Reason within <reasoning></reasoning> tags
then provide your final answer within <answer></answer> tags.
Този последен подход Ви дава най-доброто от двата свята: Вашият код извлича само съдържанието на тага <answer>, за да го покаже на крайния потребител, докато пълното разсъждение остава налично в логовете за дебъгване. Когато отговор в производствена среда се окаже грешен, Вие отваряте лога и виждате точно къде разсъждението се е объркало.
Ключови изводи
- Верига от разсъждения кара модела да разсъждава, преди да отговори – решаващо за логика, изчисления и анализ
- Насочвайте стъпките изрично за сложни задачи
- Комбинирайте CoT и few-shot за максимална ефективност
- Безполезна за прости въпроси или творческо писане
- Използвайте XML тагове, за да разделите разсъждението и отговора в производствена среда