Bloky myslenia: čítanie uvažovania modelu
Na tejto strane
Lekcia prepísaná 2. novembra 2026 na základe sekcie Handling thinking chunks z dokumentácie Mistral. Predchádzajúca verzia čítala uvažovanie z poľa
textv bloku myslenia: toto pole neexistuje; uvažovanie je zoznam textových blokov.
Dva tvary odpovede
Pri nastavení reasoning_effort="high" už pole message.content v odpovedi nie je reťazec, ale zoznam blokov. Pri reasoning_effort="none" je to opäť obyčajný reťazec bez stopy po uvažovaní. Robustný kód musí vždy ošetrovať oba tvary: to je zlaté pravidlo tejto lekcie.
Anatómia bloku myslenia
V zozname sa objavujú dva typy blokov:
ThinkChunk(type: "thinking") nesie stopu uvažovania. Jeho polethinkingje samo o sebe zoznam fragmentovTextChunk;TextChunk(type: "text") nesie konečnú odpoveď vo svojom politext.
Tu je tvar odpovede od modelu Mistral Small 4, prevzatý z oficiálneho príkladu (texty sú skrátené):
{
"model": "mistral-small-2603",
"usage": {"prompt_tokens": 77, "completion_tokens": 1114, "total_tokens": 1191},
"choices": [{
"finish_reason": "stop",
"message": {
"role": "assistant",
"content": [
{"type": "thinking", "thinking": [
{"type": "text", "text": "Okay, let's try to figure out John's age..."}
]},
{"type": "text", "text": "Let's denote the ages of the sisters as follows..."}
]
}
}]
}
Objektový model Python SDK presne kopíruje túto štruktúru: ThinkChunk.thinking obsahuje bloky uvažovania a každý TextChunk sprístupňuje svoj obsah cez .text.
Parsovanie odpovede v Pythone
Oficiálny kód rozlišuje bloky pomocou isinstance po vylúčení prípadu s obyčajným reťazcom:
from mistralai.client.models import TextChunk, ThinkChunk
content = chat_response.choices[0].message.content
if isinstance(content, str): # reasoning_effort="none"
print(content)
else:
for chunk in content:
if isinstance(chunk, ThinkChunk):
print("--- reasoning ---")
for inner in chunk.thinking:
if isinstance(inner, TextChunk):
print(inner.text)
print("--- end of reasoning ---")
elif isinstance(chunk, TextChunk):
print(chunk.text)
V aplikácii budeš chcieť funkciu, ktorá vráti uvažovanie a odpoveď oddelene. Nazveme ju separate a neskôr v kurze ju znovu využijeme:
from mistralai.client.models import TextChunk, ThinkChunk
def separate(content):
"""Vráti (uvažovanie, odpoveď) pre obsah, ktorý je buď reťazec, alebo zoznam blokov."""
if isinstance(content, str):
return "", content
reasoning, answer = [], []
for chunk in content or []:
if isinstance(chunk, ThinkChunk):
reasoning.extend(i.text for i in chunk.thinking if isinstance(i, TextChunk))
elif isinstance(chunk, TextChunk):
answer.append(chunk.text)
return "".join(reasoning), "".join(answer)
reasoning, answer = separate(chat_response.choices[0].message.content)
Zobrazovanie uvažovania v rozhraní
Oddelenie oboch častí ti umožňuje rozhodnúť sa, čo používateľ uvidí. Tri bežné prístupy:
- Skryť uvažovanie a zobraziť len odpoveď, čo je vhodné pre asistenta určeného koncovým používateľom;
- Zbaliť uvažovanie do bloku, ktorý si používateľ môže v prípade záujmu otvoriť, čo sa hodí pre expertný nástroj;
- Zobraziť celé uvažovanie, čo je ideálne pre vzdelávacieho tutora, kde je proces rovnako dôležitý ako výsledok.
def render_html(content, show_reasoning=False):
reasoning, answer = separate(content)
html = f"<div class='answer'>{answer}</div>"
if show_reasoning and reasoning:
html = (
"<details><summary>View model reasoning</summary>"
f"<pre>{reasoning}</pre></details>" + html
)
return html
V reálnom projekte musíš text pred vložením do HTML escapovať (napríklad pomocou html.escape): uvažovanie aj odpoveď sú generovaný text, nie dôveryhodné markup značky.
Streamovanie v troch fázach
Pri streamovaní mení delta.content svoj tvar v priebehu generovania odpovede:
- Fáza uvažovania:
delta.contentje zoznam obsahujúciThinkChunk; - Prechod: jediný zoznam obsahujúci uzatvárací
ThinkChunkaj prvýTextChunk; - Fáza odpovede:
delta.contentje obyčajný reťazec.
Nasledujúci kód, upravený z oficiálneho príkladu, zobrazuje obe fázy sledovaním stavového príznaku:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, ThinkChunk
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
in_reasoning = False
for event in client.chat.stream(
model="mistral-large-4-0",
messages=[{"role": "user", "content": "What is 17 × 23?"}],
reasoning_effort="high",
):
delta = event.data.choices[0].delta.content
if not delta:
continue
if isinstance(delta, str): # answer phase
if in_reasoning:
print("\n--- end of reasoning ---")
in_reasoning = False
print(delta, end="", flush=True)
continue
for chunk in delta: # reasoning phase and transition
if isinstance(chunk, ThinkChunk):
if not in_reasoning:
print("--- reasoning ---")
in_reasoning = True
for inner in chunk.thinking:
if isinstance(inner, TextChunk):
print(inner.text, end="", flush=True)
elif isinstance(chunk, TextChunk):
if in_reasoning:
print("\n--- end of reasoning ---")
in_reasoning = False
print(chunk.text, end="", flush=True)
Streamovanie mení zážitok: namiesto čakania na dokončenie dlhého procesu uvažovania pred zamrznutou obrazovkou vidí používateľ model pri práci, alebo aspoň indikátor aktivity, ak sa rozhodneš uvažovanie skryť.
Kľúčové poznatky
contentje reťazec prinone, zoznam blokov prihigh: vždy ošetruj oba prípadyThinkChunk.thinkingje zoznam objektovTextChunk; konečná odpoveď sa nachádza vTextChunkna najvyššej úrovni- Funkcia
separate, ktorá vráti (uvažovanie, odpoveď), zjednodušuje zvyšok tvojho kódu - Pri streamovaní: zoznam uvažovania, zmiešaný prechod, potom reťazce odpovede
- Pred zobrazením escapuj uvažovanie aj odpoveď