Põhjendamine agentides ja vestlustes
Sellel lehel
Õppetund kirjutati ümber 2. novembril 2026 mudelite Mistral Small 4 ja Large 4 jaoks. Mistrali dokumentatsioon kinnitab, et
reasoning_efforton saadaval agentide ja vestluste lõpp-punktides (endpoints) väljalcompletion_args. Allikad: Reasoning · Python SDK — Conversations.
Kolm viisi põhjendusmudeli kutsumiseks
Eelmistes õppetundides kasutasid sa vestluse lõpetamise (Chat Completions) API-t: sa saatsid iga päringuga kaasa kogu ajaloo ja reasoning_effort lisati otse päringusse. Mistral pakub veel kahte liidest: Agentide API, mis salvestab uuesti kasutatava konfiguratsiooni (mudel, juhised, tööriistad, parameetrid), ja Vestluste API, mis hoiab ajalugu serveris. Nendes kahes API-s ei määra sa põhjendamist ülemisel tasemel, vaid pesastad selle koos teiste genereerimisparameetritega välja completion_args sisse.
Põhjendav agent
Põhjendustaseme määramine agendi definitsioonis hoiab ära selle kordamise igal väljakutsel ja tagab, et kogu meeskond kasutab sama seadistust:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
Vestluse väljundite lugemine
Vestlus ei tagasta choices; see tagastab kirjete (outputs) loendi. Mudeli vastus asub tüüpi message.output kirjete sees. Nagu vestluse lõpetamise (Chat Completions) puhulgi, on sisu kas string või tükkide (chunks) loend, mis võib sisaldada ThinkChunk. 3. õppetunnist tuttav funktsioon separer töötab täpselt nagu varem:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Teised kirjed kirjeldavad, mis pöörde ajal toimus, näiteks tööriista käivitamine (tool.execution) või funktsiooni väljakutse. Jäta need kõrvale, kui sind huvitab vaid lõplik vastus.
Vestlus ilma agendita
Ühekordsete ülesannete jaoks aktsepteerib Vestluste API mudelit otse, ilma eelneva agendi seadistamiseta. Server hoiab ajalugu ja sa saad vestlust jätkata käsuga conversations.append, kohandades vajadusel põhjendustaset konkreetseks pöördeks:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
See on konkreetne eelis võrreldes vestluse lõpetamise (Chat Completions) API-ga, kus dokumentatsioon nõuab, et iga uue pöörde korral saadaksid uuesti assistendi kogu sõnumi, kaasates ka põhjenduse (7. õppetund). Vestluste API puhul hoiab server ajalugu; sa ei pea seda igal väljakutsel uuesti saatma.
Põhjendamine ja tööriistad
Agent saab kombineerida põhjendamist ja tööriistu: tools ja completion_args on agendi loomisel sõltumatud väljad. Analüüsiagent võib seega omada veebiotsingut ja sügavat põhjendamist:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Pea siiski silmas kulusid: põhjendamine ja tööriistakutsed liituvad ühe pöörde arves.
Kolme lähenemisviisi võrdlus
| Kriterium | Vestluse lõpetamine (Chat Completions) | Agendid | Vestlused |
|---|---|---|---|
| Kus määrata põhjendamine | reasoning_effort päringus | completion_args agendis | completion_args käsus start või append |
| Ajalugu | Saada iga kord uuesti, kaasates põhjenduse | Kannab vestlus | Hoitakse serveris |
Sisseehitatud tööriistad (web_search…) | Ei | Jah | Jah |
| Tüüpiline kasutus | Ühekordsed väljakutsed, täielik kontroll | Jagatud, uuesti kasutatav konfiguratsioon | Mitme pöördega vahetused |
Integreerimise parimad tavad
Määra põhjendustase agendis, kui ülesanne on ühtlane, ja pöörde kaupa, kui see varieerub: esialgne analüüsipööre tasemega high, millele järgnevad ümberformuleerimispöörded tasemega low või none, sõltuvalt mudelist. Veendu, et väärtus sobib agendi mudeliga: Small 4 aktsepteerib high ja none; Large 4 aktsepteerib low, medium ja high. Lõpuks logi tokenite kasutus pöörde kaupa; see on ainus viis teada saada, kas põhjendamine on sinu kasutusjuhu jaoks kasulik.
Peamised punktid
- Agentide ja Vestluste API-des edasta
reasoning_effortväljacompletion_argssees - Vastused saabuvad väljal
outputs; tekst asub tüüpimessage.outputkirjete sees, kaasates põhjenduse - Vestluste API hoiab ajalugu serveris: seda ei pea igal pöördel uuesti saatma
- Saad taset igal pöördel muuta käsuga
conversations.append - Agent saab kombineerida sisseehitatud tööriistu ja põhjendamist, kuid see suurendab kumulatiivset kasutust