Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Bloky myslenia: čítanie uvažovania modelu

Lekcia 3 z 12 Aktualizované 2. novembra 2026 Vývojár
Na tejto strane
  1. Dva tvary odpovede
  2. Anatómia bloku myslenia
  3. Parsovanie odpovede v Pythone
  4. Zobrazovanie uvažovania v rozhraní
  5. Streamovanie v troch fázach
  6. Kľúčové poznatky

Lekcia prepísaná 2. novembra 2026 na základe sekcie Handling thinking chunks z dokumentácie Mistral. Predchádzajúca verzia čítala uvažovanie z poľa text v bloku myslenia: toto pole neexistuje; uvažovanie je zoznam textových blokov.

Dva tvary odpovede

Pri nastavení reasoning_effort="high" už pole message.content v odpovedi nie je reťazec, ale zoznam blokov. Pri reasoning_effort="none" je to opäť obyčajný reťazec bez stopy po uvažovaní. Robustný kód musí vždy ošetrovať oba tvary: to je zlaté pravidlo tejto lekcie.

Anatómia bloku myslenia

V zozname sa objavujú dva typy blokov:

  • ThinkChunk (type: "thinking") nesie stopu uvažovania. Jeho pole thinking je samo o sebe zoznam fragmentov TextChunk;
  • TextChunk (type: "text") nesie konečnú odpoveď vo svojom poli text.

Tu je tvar odpovede od modelu Mistral Small 4, prevzatý z oficiálneho príkladu (texty sú skrátené):

{
  "model": "mistral-small-2603",
  "usage": {"prompt_tokens": 77, "completion_tokens": 1114, "total_tokens": 1191},
  "choices": [{
    "finish_reason": "stop",
    "message": {
      "role": "assistant",
      "content": [
        {"type": "thinking", "thinking": [
          {"type": "text", "text": "Okay, let's try to figure out John's age..."}
        ]},
        {"type": "text", "text": "Let's denote the ages of the sisters as follows..."}
      ]
    }
  }]
}

Objektový model Python SDK presne kopíruje túto štruktúru: ThinkChunk.thinking obsahuje bloky uvažovania a každý TextChunk sprístupňuje svoj obsah cez .text.

Parsovanie odpovede v Pythone

Oficiálny kód rozlišuje bloky pomocou isinstance po vylúčení prípadu s obyčajným reťazcom:

from mistralai.client.models import TextChunk, ThinkChunk

content = chat_response.choices[0].message.content

if isinstance(content, str):          # reasoning_effort="none"
    print(content)
else:
    for chunk in content:
        if isinstance(chunk, ThinkChunk):
            print("--- reasoning ---")
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text)
            print("--- end of reasoning ---")
        elif isinstance(chunk, TextChunk):
            print(chunk.text)

V aplikácii budeš chcieť funkciu, ktorá vráti uvažovanie a odpoveď oddelene. Nazveme ju separate a neskôr v kurze ju znovu využijeme:

from mistralai.client.models import TextChunk, ThinkChunk

def separate(content):
    """Vráti (uvažovanie, odpoveď) pre obsah, ktorý je buď reťazec, alebo zoznam blokov."""
    if isinstance(content, str):
        return "", content
    reasoning, answer = [], []
    for chunk in content or []:
        if isinstance(chunk, ThinkChunk):
            reasoning.extend(i.text for i in chunk.thinking if isinstance(i, TextChunk))
        elif isinstance(chunk, TextChunk):
            answer.append(chunk.text)
    return "".join(reasoning), "".join(answer)

reasoning, answer = separate(chat_response.choices[0].message.content)

Zobrazovanie uvažovania v rozhraní

Oddelenie oboch častí ti umožňuje rozhodnúť sa, čo používateľ uvidí. Tri bežné prístupy:

  • Skryť uvažovanie a zobraziť len odpoveď, čo je vhodné pre asistenta určeného koncovým používateľom;
  • Zbaliť uvažovanie do bloku, ktorý si používateľ môže v prípade záujmu otvoriť, čo sa hodí pre expertný nástroj;
  • Zobraziť celé uvažovanie, čo je ideálne pre vzdelávacieho tutora, kde je proces rovnako dôležitý ako výsledok.
def render_html(content, show_reasoning=False):
    reasoning, answer = separate(content)
    html = f"<div class='answer'>{answer}</div>"
    if show_reasoning and reasoning:
        html = (
            "<details><summary>View model reasoning</summary>"
            f"<pre>{reasoning}</pre></details>" + html
        )
    return html

V reálnom projekte musíš text pred vložením do HTML escapovať (napríklad pomocou html.escape): uvažovanie aj odpoveď sú generovaný text, nie dôveryhodné markup značky.

Streamovanie v troch fázach

Pri streamovaní mení delta.content svoj tvar v priebehu generovania odpovede:

  1. Fáza uvažovania: delta.content je zoznam obsahujúci ThinkChunk;
  2. Prechod: jediný zoznam obsahujúci uzatvárací ThinkChunk aj prvý TextChunk;
  3. Fáza odpovede: delta.content je obyčajný reťazec.

Nasledujúci kód, upravený z oficiálneho príkladu, zobrazuje obe fázy sledovaním stavového príznaku:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, ThinkChunk

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
in_reasoning = False

for event in client.chat.stream(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "What is 17 × 23?"}],
    reasoning_effort="high",
):
    delta = event.data.choices[0].delta.content
    if not delta:
        continue
    if isinstance(delta, str):            # answer phase
        if in_reasoning:
            print("\n--- end of reasoning ---")
            in_reasoning = False
        print(delta, end="", flush=True)
        continue
    for chunk in delta:                   # reasoning phase and transition
        if isinstance(chunk, ThinkChunk):
            if not in_reasoning:
                print("--- reasoning ---")
                in_reasoning = True
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text, end="", flush=True)
        elif isinstance(chunk, TextChunk):
            if in_reasoning:
                print("\n--- end of reasoning ---")
                in_reasoning = False
            print(chunk.text, end="", flush=True)

Streamovanie mení zážitok: namiesto čakania na dokončenie dlhého procesu uvažovania pred zamrznutou obrazovkou vidí používateľ model pri práci, alebo aspoň indikátor aktivity, ak sa rozhodneš uvažovanie skryť.

Kľúčové poznatky

  • content je reťazec pri none, zoznam blokov pri high: vždy ošetruj oba prípady
  • ThinkChunk.thinking je zoznam objektov TextChunk; konečná odpoveď sa nachádza v TextChunk na najvyššej úrovni
  • Funkcia separate, ktorá vráti (uvažovanie, odpoveď), zjednodušuje zvyšok tvojho kódu
  • Pri streamovaní: zoznam uvažovania, zmiešaný prechod, potom reťazce odpovede
  • Pred zobrazením escapuj uvažovanie aj odpoveď