Következtetés az ügynökökben és beszélgetésekben
Ezen az oldalon
A leckét 2026. november 2-án írtuk át a Mistral Small 4 és Large 4 modellekhez. A Mistral dokumentációja szerint a
reasoning_effortparaméter elérhető az Agents (Ügynökök) és Conversations (Beszélgetések) végpontokon belül acompletion_argsmezőben. Források: Reasoning · Python SDK — Conversations.
Három módszer a következtető modell hívására
A korábbi leckékben a Chat Completions API-t használtuk: minden híváskor elküldted a teljes előzményt, és a reasoning_effort paramétert közvetlenül a kérésbe helyezted. A Mistral két további felületet is kínál: az Agents API-t, amely újrafelhasználható konfigurációt (modell, utasítások, eszközök, paraméterek) ment el, valamint a Conversations API-t, amely a szerveren tárolja az előzményeket. Ebben a két API-ban nem a legfelső szinten állítod be a következtetést, hanem a completion_args objektumba ágyazod, más generálási paraméterek mellé.
Egy következtető ügynök
A következtetési szintnek az ügynök definíciójában történő beállítása elkerüli, hogy minden híváskor meg kelljen ismételni, és biztosítja, hogy a teljes csapatod ugyanazt a beállítást használja:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
A beszélgetés kimeneteinek olvasása
Egy beszélgetés nem choices tömböt ad vissza, hanem bejegyzések (outputs) listáját. A modell válasza a message.output típusú bejegyzésekben található. Akárcsak a Chat Completions esetén, a tartalom lehet szöveg vagy darabok (chunkok) listája, amely tartalmazhat egy ThinkChunk elemet is. A 3. leckéből ismerős separer függvény pontosan ugyanúgy működik:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Más bejegyzések írják le, mi történt a kör során, például az eszközök végrehajtását (tool.execution) vagy egy függvényhívást. Ha csak a végső válasz érdekel, ezeket figyelmen kívül hagyhatod.
Beszélgetés ügynök nélkül
Egyszeri feladatokhoz a Conversations API közvetlenül is elfogad egy modellt, előzetes ügynök-beállítás nélkül. A szerver tárolja az előzményeket, és a conversations.append metódussal folytathatod a párbeszédet, szükség esetén adott körre igazítva a következtetési szintet:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
Ez kézzelfogható előny a Chat Completionshez képest, ahol a dokumentáció előírja, hogy minden új körben újra el kell küldened az asszisztens teljes üzenetét, a reflexióval együtt (7. lecke). A Conversations API-val a szerver őrzi az előzményeket; nem kell minden híváskor újra elküldened őket.
Következtetés és eszközök
Egy ügynök kombinálhatja a következtetést és az eszközöket: az ügynök létrehozásakor a tools és a completion_args független mezők. Így egy elemző ügynök rendelkezhet webes kereséssel és mély következtetéssel is:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Figyeld azonban a költségeket: a reflexió és az eszköz hívások összeadódnak egyetlen kör számlájában.
A három megközelítés összehasonlítása
| Kritérium | Chat Completions | Agents (Ügynökök) | Conversations (Beszélgetések) |
|---|---|---|---|
| Hol állítsd be a következtetést | reasoning_effort a kérésben | completion_args az ügynökben | completion_args a start vagy append hívásban |
| Előzmények | Minden híváskor újra elküldve, reflexióval együtt | A beszélgetés hordozza | A szerveren tárolva |
Beépített eszközök (web_search…) | Nem | Igen | Igen |
| Tipikus használat | Egyszeri hívások, teljes kontroll | Megosztott, újrafelhasználható konfiguráció | Többkörös párbeszédek |
Integrációs legjobb gyakorlatok
Állítsd be a következtetési szintet az ügynökben, ha a feladat egységes, és körönként, ha változik: egy kezdeti elemző kört high szinttel, majd átfogalmazó köröket low vagy none szinttel, a modelltől függően. Ellenőrizd, hogy az érték megfelel-e az ügynök modelljének: a Small 4 elfogadja a high és none értékeket; a Large 4 elfogadja a low, medium és high értékeket. Végül naplózd a tokenfelhasználást körönként; ez az egyetlen módja annak, hogy tudd, megtérül-e a következtetés az adott használati esetedben.
Főbb megállapítások
- Az Agents és Conversations API-kban a
reasoning_effortparamétert acompletion_argsobjektumon belül kell átadni - A válaszok az
outputstömbben érkeznek; a szöveg amessage.outputtípusú bejegyzésekben található, a reflexióval együtt - A Conversations API a szerveren tárolja az előzményeket: nem kell minden körben újra elküldeni őket
- A szintet körönként módosíthatod a
conversations.appendhívással - Egy ügynök kombinálhatja a beépített eszközöket és a következtetést, de ez halmozódó felhasználási költséggel jár