Samprotavimas agentuose ir pokalbiuose
Šiame puslapyje
Pamoka perrašyta 2026 m. lapkričio 2 d. skirta „Mistral Small 4“ ir „Large 4“. „Mistral“ dokumentacijoje nurodyta, kad
reasoning_effortyra prieinamas „Agents“ ir „Conversations“ galiniuose taškuose (endpoints) laukecompletion_args. Šaltiniai: Reasoning · Python SDK — Conversations.
Trys būdai iškvieti samprotavimo modelį
Ankstesnėse pamokose naudojome „Chat Completions“ API: siuntėte visą istoriją su kiekvienu užklausimu, o reasoning_effort buvo įtraukiamas tiesiai į užklausą. „Mistral“ siūlo dar dvi sąsajas: „Agents“ API, kuri išsaugo pakartotinai naudojamą konfigūraciją (modelį, instrukcijas, įrankius, parametrus), ir „Conversations“ API, kuri istoriją saugo serveryje. Šiose dviejose API samprotavimo lygio nenustatote aukščiausiu lygmeniu; jį įterpiate į completion_args kartu su kitais generavimo parametrais.
Agentas, kuris samprotauja
Samprotavimo lygio nustatymas apibrėžiant agentą leidžia išvengti jo kartojimo kiekviename kvietime ir užtikrina, kad visa jūsų komanda naudotų tą patį nustatymą:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
Pokalbių atsakymų skaitymas
Pokalbis negrąžina choices; jis grąžina įrašų (outputs) sąrašą. Modelio atsakymas yra įrašuose, kurių tipas message.output. Kaip ir „Chat Completions“ atveju, turinys yra arba eilutė, arba gabalėlių sąrašas, kuris gali apimti ThinkChunk. 3 pamokoje naudota funkcija separer veikia lygiai taip pat:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Kiti įrašai aprašo, kas įvyko during ėjimo metu, pavyzdžiui, įrankio vykdymas (tool.execution) arba funkcijos iškvietimas. Jei jus domina tik galutinis atsakymas, juos galite ignoruoti.
Pokalbis be agento
Vienkartinėms užduotims „Conversations“ API priima modelį tiesiogiai, be išankstinio agento nustatymo. Serveris saugo istoriją, o dialogą tęsite naudodami conversations.append, prireikus koreguodami samprotavimo lygį konkrečiam ėjimui:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
Tai yra konkretus pranašumas, palyginti su „Chat Completions“, kur dokumentacija reikalauja iš naujo atsiųsti visą asistento žinutę, įskaitant refleksiją, kiekviename naujame ėjime (7 pamoka). Naudojant „Conversations“ API, serveris saugo istoriją; jos nereikia siųsti iš naujo kiekvienu kvietimu.
Samprotavimas ir įrankiai
Agentas gali derinti samprotavimą ir įrankius: kuriant agentą, tools ir completion_args yra nepriklausomi laukai. Taigi analizės agentas gali turėti ir žiniatinklio paiešką, ir gilų samprotavimą:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Tačiau stebėkite kainą: refleksija ir įrankių iškvietimai viename ėjime sumuojasi sąskaitoje.
Trijų metodų palyginimas
| Kriterijus | Chat Completions | Agents | Conversations |
|---|---|---|---|
| Kur nustatyti samprotavimą | reasoning_effort užklausoje | completion_args agente | completion_args funkcijose start arba append |
| Istorija | Siunčiama iš naujo kiekvienu kvietimu, įskaitant refleksiją | Nešama pokalbio | Saugoma serveryje |
Integruoti įrankiai (web_search…) | Ne | Taip | Taip |
| Tipinis naudojimas | Vienkartiniai kvietimai, pilna kontrolė | Bendra, pakartotinai naudojama konfigūracija | Daugiaėgiai pokalbiai |
Integracijos geriausios praktikos
Nustatykite samprotavimo lygį agente, kai užduotis yra vienoda, ir kiekviename ėjime, kai ji kinta: pradinė analizė nustatyta kaip high, o tolesni performulavimo ėjimai – kaip low arba none, priklausomai nuo modelio. Patikrinkite, ar reikšmė tinka agento modeliui: „Small 4“ priima high ir none; „Large 4“ priima low, medium ir high. Galiausiai registruokite žetonų naudojimą kiekviename ėjime; tai vienintelis būdas sužinoti, ar samprotavimas atsiperka jūsų naudojimo atveju.
Svarbiausi punktai
- „Agents“ ir „Conversations“ API perduokite
reasoning_effortlaukecompletion_args - Atsakymai gaunami
outputs; tekstas yra įrašuosemessage.output, įskaitant refleksiją - „Conversations“ API istoriją saugo serveryje: nereikia jos siųsti iš naujo kiekvienu ėjimu
- Lygį galite keisti kiekviename ėjime naudodami
conversations.append - Agentas gali derinti integruotus įrankius ir samprotavimą, tačiau tai didina bendrą naudojimą