Премини към основното съдържание
Български— Изберете език
Меню

Блокове за разсъждение: четене на мисловния процес на модела

Урок 3 от 12 Обновен 2 ноември 2026 г. Програмист
На тази страница
  1. Две форми на отговор
  2. Анатомия на блок за разсъждение
  3. Парсиране на отговора в Python
  4. Показване на разсъждението в интерфейс
  5. Поточно предаване в три фази
  6. Ключови изводи

Урокът е пренаписан на 2 ноември 2026 г. въз основа на секцията Handling thinking chunks от документацията на Mistral. Предишната версия четеше разсъждението от поле text в блока за разсъждение: такова поле не съществува; разсъждението е списък от текстови блокове.

Две форми на отговор

При reasoning_effort="high", полето message.content на отговора вече не е низ, а списък от блокове. При reasoning_effort="none", то отново е обикновен низ, без никаква следа от разсъждение. Надеждният код винаги обработва и двете форми: това е златното правило на този урок.

Анатомия на блок за разсъждение

В списъка се появяват два типа блока:

  • ThinkChunk (type: "thinking") носи следа от разсъждението. Неговото поле thinking е само по себе си списък от фрагменти TextChunk;
  • TextChunk (type: "text") носи крайния отговор в своето поле text.

Ето как изглежда отговор от Mistral Small 4, взет от официалния пример (текстовете са съкратени):

{
  "model": "mistral-small-2603",
  "usage": {"prompt_tokens": 77, "completion_tokens": 1114, "total_tokens": 1191},
  "choices": [{
    "finish_reason": "stop",
    "message": {
      "role": "assistant",
      "content": [
        {"type": "thinking", "thinking": [
          {"type": "text", "text": "Okay, let's try to figure out John's age..."}
        ]},
        {"type": "text", "text": "Let's denote the ages of the sisters as follows..."}
      ]
    }
  }]
}

Обектният модел на Python SDK следва точно тази структура: ThinkChunk.thinking съдържа блоковете за разсъждение, а всеки TextChunk предоставя съдържанието си чрез .text.

Парсиране на отговора в Python

Официалният код различава блоковете с isinstance, след като изключи случая с обикновения низ:

from mistralai.client.models import TextChunk, ThinkChunk

content = chat_response.choices[0].message.content

if isinstance(content, str):          # reasoning_effort="none"
    print(content)
else:
    for chunk in content:
        if isinstance(chunk, ThinkChunk):
            print("--- reasoning ---")
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text)
            print("--- end of reasoning ---")
        elif isinstance(chunk, TextChunk):
            print(chunk.text)

В едно приложение ще искате функция, която връща разсъждението и отговора поотделно. Ще я наречем separate и ще я използваме отново по-късно в курса:

from mistralai.client.models import TextChunk, ThinkChunk

def separate(content):
    """Връща (reasoning, answer) за съдържание, което е или низ, или списък от блокове."""
    if isinstance(content, str):
        return "", content
    reasoning, answer = [], []
    for chunk in content or []:
        if isinstance(chunk, ThinkChunk):
            reasoning.extend(i.text for i in chunk.thinking if isinstance(i, TextChunk))
        elif isinstance(chunk, TextChunk):
            answer.append(chunk.text)
    return "".join(reasoning), "".join(answer)

reasoning, answer = separate(chat_response.choices[0].message.content)

Показване на разсъждението в интерфейс

Разделянето на двете части Ви позволява да решите какво вижда потребителят. Три често срещани подхода:

  • Скриване на разсъждението и показване само на отговора, за асистент, ориентиран към крайния потребител;
  • Свиване на разсъждението в блок, който потребителят може да отвори, ако желае, за експертен инструмент;
  • Показване на пълното разсъждение, за образователен tutor, където процесът е също толкова важен, колкото и резултатът.
def render_html(content, show_reasoning=False):
    reasoning, answer = separate(content)
    html = f"<div class='answer'>{answer}</div>"
    if show_reasoning and reasoning:
        html = (
            "<details><summary>View model reasoning</summary>"
            f"<pre>{reasoning}</pre></details>" + html
        )
    return html

В реален проект екранирайте текста, преди да го вмъкнете в HTML (например с html.escape): както разсъждението, така и отговорът са генериран текст, а не доверен маркъп.

Поточно предаване в три фази

При поточно предаване delta.content променя формата си, докато отговорът се изгражда:

  1. Фаза на разсъждение: delta.content е списък, съдържащ ThinkChunk;
  2. Преход: единичен списък, съдържащ както затварящия ThinkChunk, така и първия TextChunk;
  3. Фаза на отговор: delta.content е обикновен низ.

Следният код, адаптиран от официалния пример, показва и двете фази, като проследява флаг за състояние:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, ThinkChunk

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
in_reasoning = False

for event in client.chat.stream(
    model="mistral-large-4-0",
    messages=[{"role": "user", "content": "What is 17 × 23?"}],
    reasoning_effort="high",
):
    delta = event.data.choices[0].delta.content
    if not delta:
        continue
    if isinstance(delta, str):            # answer phase
        if in_reasoning:
            print("\n--- end of reasoning ---")
            in_reasoning = False
        print(delta, end="", flush=True)
        continue
    for chunk in delta:                   # reasoning phase and transition
        if isinstance(chunk, ThinkChunk):
            if not in_reasoning:
                print("--- reasoning ---")
                in_reasoning = True
            for inner in chunk.thinking:
                if isinstance(inner, TextChunk):
                    print(inner.text, end="", flush=True)
        elif isinstance(chunk, TextChunk):
            if in_reasoning:
                print("\n--- end of reasoning ---")
                in_reasoning = False
            print(chunk.text, end="", flush=True)

Поточното предаване променя усещането: вместо да чакате дългият процес на разсъждение да приключи пред замръзнал екран, потребителят вижда модела в действие или поне индикатор за активност, ако решите да скриете разсъждението.

Ключови изводи

  • content е низ при none, списък от блокове при high: винаги обработвайте и двете
  • ThinkChunk.thinking е списък от TextChunk; крайният отговор се намира в TextChunk от най-високо ниво
  • Функция separate, която връща (reasoning, answer), опростява останалата част от кода Ви
  • При поточно предаване: списък за разсъждение, смесен преход, след това низове за отговор
  • Екранирайте както разсъждението, така и отговора, преди да ги покажете