Reasoning v agentoch a konverzáciách
Na tejto strane
Lekcia prepísaná 2. novembra 2026 pre modely Mistral Small 4 a Large 4. Dokumentácia Mistralu uvádza, že parameter
reasoning_effortje dostupný v endpointoch Agents a Conversations v rámci poľacompletion_args. Zdroje: Reasoning · Python SDK — Conversations.
Tri spôsoby volania reasoning modelu
Predchádzajúce lekcie využívali API Chat Completions: pri každom volaní si odosielal celú históriu a parameter reasoning_effort si vkladal priamo do požiadavky. Mistral ponúka dve ďalšie rozhrania: Agents API, ktoré ukladá opakovane použiteľnú konfiguráciu (model, inštrukcie, nástroje, parametre), a Conversations API, ktoré uchováva históriu na serveri. V týchto dvoch API nenastavuješ reasoning na najvyššej úrovni; vnoríš ho do completion_args vedľa ostatných parametrov generovania.
Agent, ktorý reasonuje
Nastavenie úrovne reasoning priamo v definícii agenta ti umožňuje vyhnúť sa jeho opakovanému zadávaniu pri každom volaní a zabezpečuje, že celý tím používa rovnaké nastavenie:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
Čítanie výstupov konverzácie
Konverzácia nevracia choices; vracia zoznam položiek (outputs). Odpoveď modelu sa nachádza v položkách typu message.output. Rovnako ako pri Chat Completions je obsah buď reťazec, alebo zoznam častí (chunks), ktoré môžu obsahovať ThinkChunk. Funkcia separer z Lekcie 3 funguje presne tak ako predtým:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Ostatné položky opisujú, čo sa počas kroku udialo, napríklad vykonanie nástroja (tool.execution) alebo volanie funkcie. Ak ťa zaujíma len konečná odpoveď, môžeš ich ignorovať.
Konverzácia bez agenta
Pre jednorazové úlohy prijíma Conversations API model priamo, bez predchádzajúceho nastavenia agenta. Server uchováva históriu a výmenu môžeš pokračovať pomocou conversations.append, pričom podľa potreby upravíš úroveň reasoning pre konkrétny krok:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
Toto je konkrétna výhoda oproti Chat Completions, kde dokumentácia vyžaduje, aby si pri každom novom kroku znovu odoslal celú správu asistenta vrátane reflexie (Lekcia 7). Pri Conversations API uchováva históriu server; nemusíš ju pri každom volaní odosielať znova.
Reasoning a nástroje
Agent môže kombinovať reasoning aj nástroje: tools a completion_args sú pri vytváraní agenta nezávislé polia. Analytický agent tak môže mať zároveň webové vyhľadávanie aj hlboký reasoning:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Dávaj si však pozor na náklady: reflexia aj volania nástrojov sa v rámci jedného kroku sčítavajú vo faktúre.
Porovnanie troch prístupov
| Kritérium | Chat Completions | Agents | Conversations |
|---|---|---|---|
| Kde nastaviť reasoning | reasoning_effort v požiadavke | completion_args v agente | completion_args v start alebo append |
| História | Opätovné odoslanie pri každom volaní, vrátane reflexie | Nesená konverzáciou | Uchovávaná na serveri |
Vstavané nástroje (web_search…) | Nie | Áno | Áno |
| Typické použitie | Jednorazové volania, plná kontrola | Zdieľaná, opakovane použiteľná konfigurácia | Viackrokové výmeny |
Najlepšie postupy integrácie
Úroveň reasoning nastav v agente, keď je úloha jednotná, a pre každý krok zvlášť, keď sa mení: počiatočný analytický krok s hodnotou high, nasledovaný krokmi preformulovania s hodnotou low alebo none v závislosti od modelu. Over, či hodnota zodpovedá modelu agenta: Small 4 akceptuje high a none; Large 4 akceptuje low, medium a high. Nakoniec loguj využitie tokenov pre každý krok; je to jediný spôsob, ako zistiť, či sa reasoning vo tvojom prípade oplatí.
Kľúčové poznatky
- V API Agents a Conversations odovzdávaj
reasoning_effortvnútricompletion_args - Odpovede prichádzajú v
outputs; text sa nachádza v položkáchmessage.output, vrátane reflexie - Conversations API uchováva históriu na serveri: nemusíš ju pri každom kroku odosielať znova
- Úroveň môžeš meniť pri každom kroku pomocou
conversations.append - Agent môže kombinovať vstavané nástroje a reasoning, čo však zvyšuje kumulatívne využitie