Блокове за разсъждение: четене на мисловния процес на модела
На тази страница
Урокът е пренаписан на 2 ноември 2026 г. въз основа на секцията Handling thinking chunks от документацията на Mistral. Предишната версия четеше разсъждението от поле
textв блока за разсъждение: такова поле не съществува; разсъждението е списък от текстови блокове.
Две форми на отговор
При reasoning_effort="high", полето message.content на отговора вече не е низ, а списък от блокове. При reasoning_effort="none", то отново е обикновен низ, без никаква следа от разсъждение. Надеждният код винаги обработва и двете форми: това е златното правило на този урок.
Анатомия на блок за разсъждение
В списъка се появяват два типа блока:
ThinkChunk(type: "thinking") носи следа от разсъждението. Неговото полеthinkingе само по себе си списък от фрагментиTextChunk;TextChunk(type: "text") носи крайния отговор в своето полеtext.
Ето как изглежда отговор от Mistral Small 4, взет от официалния пример (текстовете са съкратени):
{
"model": "mistral-small-2603",
"usage": {"prompt_tokens": 77, "completion_tokens": 1114, "total_tokens": 1191},
"choices": [{
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": [
{"type": "thinking", "thinking": [
{"type": "text", "text": "Okay, let's try to figure out John's age..."}
]},
{"type": "text", "text": "Let's denote the ages of the sisters as follows..."}
]
}
}]
}
Обектният модел на Python SDK следва точно тази структура: ThinkChunk.thinking съдържа блоковете за разсъждение, а всеки TextChunk предоставя съдържанието си чрез .text.
Парсиране на отговора в Python
Официалният код различава блоковете с isinstance, след като изключи случая с обикновения низ:
from mistralai.client.models import TextChunk, ThinkChunk
content = chat_response.choices[0].message.content
if isinstance(content, str): # reasoning_effort="none"
print(content)
else:
for chunk in content:
if isinstance(chunk, ThinkChunk):
print("--- reasoning ---")
for inner in chunk.thinking:
if isinstance(inner, TextChunk):
print(inner.text)
print("--- end of reasoning ---")
elif isinstance(chunk, TextChunk):
print(chunk.text)
В едно приложение ще искате функция, която връща разсъждението и отговора поотделно. Ще я наречем separate и ще я използваме отново по-късно в курса:
from mistralai.client.models import TextChunk, ThinkChunk
def separate(content):
"""Връща (reasoning, answer) за съдържание, което е или низ, или списък от блокове."""
if isinstance(content, str):
return "", content
reasoning, answer = [], []
for chunk in content or []:
if isinstance(chunk, ThinkChunk):
reasoning.extend(i.text for i in chunk.thinking if isinstance(i, TextChunk))
elif isinstance(chunk, TextChunk):
answer.append(chunk.text)
return "".join(reasoning), "".join(answer)
reasoning, answer = separate(chat_response.choices[0].message.content)
Показване на разсъждението в интерфейс
Разделянето на двете части Ви позволява да решите какво вижда потребителят. Три често срещани подхода:
- Скриване на разсъждението и показване само на отговора, за асистент, ориентиран към крайния потребител;
- Свиване на разсъждението в блок, който потребителят може да отвори, ако желае, за експертен инструмент;
- Показване на пълното разсъждение, за образователен tutor, където процесът е също толкова важен, колкото и резултатът.
def render_html(content, show_reasoning=False):
reasoning, answer = separate(content)
html = f"<div class='answer'>{answer}</div>"
if show_reasoning and reasoning:
html = (
"<details><summary>View model reasoning</summary>"
f"<pre>{reasoning}</pre></details>" + html
)
return html
В реален проект екранирайте текста, преди да го вмъкнете в HTML (например с html.escape): както разсъждението, така и отговорът са генериран текст, а не доверен маркъп.
Поточно предаване в три фази
При поточно предаване delta.content променя формата си, докато отговорът се изгражда:
- Фаза на разсъждение:
delta.contentе списък, съдържащThinkChunk; - Преход: единичен списък, съдържащ както затварящия
ThinkChunk, така и първияTextChunk; - Фаза на отговор:
delta.contentе обикновен низ.
Следният код, адаптиран от официалния пример, показва и двете фази, като проследява флаг за състояние:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, ThinkChunk
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
in_reasoning = False
for event in client.chat.stream(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "What is 17 × 23?"}],
reasoning_effort="high",
):
delta = event.data.choices[0].delta.content
if not delta:
continue
if isinstance(delta, str): # answer phase
if in_reasoning:
print("\n--- end of reasoning ---")
in_reasoning = False
print(delta, end="", flush=True)
continue
for chunk in delta: # reasoning phase and transition
if isinstance(chunk, ThinkChunk):
if not in_reasoning:
print("--- reasoning ---")
in_reasoning = True
for inner in chunk.thinking:
if isinstance(inner, TextChunk):
print(inner.text, end="", flush=True)
elif isinstance(chunk, TextChunk):
if in_reasoning:
print("\n--- end of reasoning ---")
in_reasoning = False
print(chunk.text, end="", flush=True)
Поточното предаване променя усещането: вместо да чакате дългият процес на разсъждение да приключи пред замръзнал екран, потребителят вижда модела в действие или поне индикатор за активност, ако решите да скриете разсъждението.
Ключови изводи
contentе низ приnone, списък от блокове приhigh: винаги обработвайте и дветеThinkChunk.thinkingе списък отTextChunk; крайният отговор се намира вTextChunkот най-високо ниво- Функция
separate, която връща (reasoning, answer), опростява останалата част от кода Ви - При поточно предаване: списък за разсъждение, смесен преход, след това низове за отговор
- Екранирайте както разсъждението, така и отговора, преди да ги покажете