Razmišljanje v agentih in pogovorih
Na tej strani
Lekcija je bila ponovno napisana 2. novembra 2026 za modela Mistral Small 4 in Large 4. Dokumentacija podjetja Mistral navaja, da je parameter
reasoning_effortna voljo na končnih točkah Agents in Conversations znotraj poljacompletion_args. Viri: Reasoning · Python SDK — Conversations.
Trije načini klica modela za razmišljanje
Prejšnje lekcije so uporabljale API Chat Completions: z vsakim klicem ste poslali celotno zgodovino, parameter reasoning_effort pa ste vključili neposredno v zahtevo. Mistral ponuja še dva vmesnika: API Agents, ki shrani ponovno uporabno konfiguracijo (model, navodila, orodja, parametri), in API Conversations, ki zgodovino hrani na strežniku. Pri teh dveh API-jih ravni razmišljanja ne nastavite na najvišji ravni, temveč jo gnezdite znotraj completion_args ob drugih parametrih generiranja.
Agent, ki razmišlja
Nastavitev ravni razmišljanja v definiciji agenta prepreči njeno ponavljanje ob vsakem klicu in zagotavlja, da celotna ekipa uporablja isto nastavitev:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
Branje izhodov pogovora
Pogovor ne vrne choices, temveč seznam vnosov (outputs). Odgovor modela se nahaja v vnosih tipa message.output. Tako kot pri Chat Completions je vsebina bodisi niz bodisi seznam delčkov, ki lahko vključujejo ThinkChunk. Funkcija separer iz 3. lekcije deluje popolnoma enako kot prej:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Drugi vnosi opisujejo, kaj se je zgodilo med korakom, na primer izvajanje orodja (tool.execution) ali klic funkcije. Če vas zanima le končni odgovor, jih lahko ignorirate.
Pogovor brez agenta
Za enkratna opravila API Conversations sprejme model neposredno, brez predhodne nastavitve agenta. Strežnik hrani zgodovino in izmenjavo nadaljujete z conversations.append, pri čemer lahko po potrebi prilagodite raven razmišljanja za določen korak:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
To je konkretna prednost pred Chat Completions, kjer dokumentacija zahteva, da ob vsakem novem koraku ponovno pošljete celotno sporočilo asistenta, vključno z razmislekom (7. lekcija). Pri API-ju Conversations strežnik hrani zgodovino; ob vsakem klicu je ni treba znova pošiljati.
Razmišljanje in orodja
Agent lahko združuje razmišljanje in orodja: tools in completion_args so neodvisna polja pri ustvarjanju agenta. Analitski agent ima tako lahko dostop do spletnega iskanja in globokega razmišljanja:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Vendar bodite pozorni na stroške: razmislek in klici orodij se v enem koraku seštejejo na računu.
Primerjava treh pristopov
| Merilo | Chat Completions | Agents | Conversations |
|---|---|---|---|
| Kje nastaviti razmišljanje | reasoning_effort v zahtevi | completion_args v agentu | completion_args v start ali append |
| Zgodovina | Ponovno pošiljanje ob vsakem klicu, vključno z razmislekom | Prenesena s pogovorom | Shranjena na strežniku |
Vgrajena orodja (web_search…) | Ne | Da | Da |
| Tipična uporaba | Enkratni klici, popoln nadzor | Skupna, ponovno uporabna konfiguracija | Večkorakne izmenjave |
Najboljše prakse za integracijo
Raven razmišljanja nastavite v agentu, ko je naloga enotna, in po korakih, ko se spreminja: začetni analitski korak z vrednostjo high, ki mu sledijo koraki preoblikovanja z vrednostjo low ali none, odvisno od modela. Preverite, ali vrednost ustreza modelu agenta: Small 4 sprejema high in none; Large 4 sprejema low, medium in high. Nazadnje beležite uporabo žetonov na korak; to je edini način, da ugotovite, ali se razmišljanje za vaš primer uporabe splača.
Ključne ugotovitve
- Pri API-jih Agents in Conversations parameter
reasoning_effortpodajte znotrajcompletion_args - Odgovori prispejo v
outputs; besedilo se nahaja v vnosihmessage.output, vključno z razmislekom - API Conversations hrani zgodovino na strežniku: ob vsakem koraku je ni treba znova pošiljati
- Raven lahko spremenite ob vsakem koraku z
conversations.append - Agent lahko združuje vgrajena orodja in razmišljanje, vendar se uporaba sešteva