Razmišljanje u agentima i razgovorima
Na ovoj stranici
Lekcija je ponovno napisana 2. studenoga 2026. za Mistral Small 4 i Large 4. Mistralova dokumentacija navodi da je
reasoning_effortdostupan na krajnjim točkama Agents i Conversations unutar poljacompletion_args. Izvori: Reasoning · Python SDK — Conversations.
Tri načina pozivanja modela za razmišljanje
Prethodne lekcije koristile su Chat Completions API: slao si cijelu povijest sa svakim pozivom, a reasoning_effort je išao izravno u zahtjev. Mistral nudi još dva sučelja: Agents API, koji sprema konfiguraciju koja se može ponovno koristiti (model, upute, alati, parametri), i Conversations API, koji čuva povijest na poslužitelju. U ova dva API-ja ne postavljaš razmišljanje na najvišoj razini; ugniježđuješ ga unutar completion_args uz ostale parametre generiranja.
Agent koji razmišlja
Postavljanje razine razmišljanja u definiciji agenta izbjegava njegovo ponavljanje pri svakom pozivu i osigurava da cijeli tvoj tim koristi istu postavku:
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-small-2603",
name="Financial Analyst",
instructions=(
"You analyze financial situations for SMEs. "
"End every response with a quantified recommendation and its assumptions."
),
completion_args={"reasoning_effort": "high"},
)
reponse = client.beta.conversations.start(
agent_id=agent.id,
inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)
Čitanje izlaza razgovora
Razgovor ne vraća choices; vraća popis unosa (outputs). Odgovor modela nalazi se u unosima tipa message.output. Kao i kod Chat Completions, sadržaj je ili niz znakova ili popis isječaka koji mogu uključivati ThinkChunk. Funkcija separer iz Lekcije 3 radi točno kao i prije:
for entry in reponse.outputs:
if entry.type == "message.output":
reflexion, texte = separer(entry.content)
print(texte)
Ostali unosi opisuju što se dogodilo tijekom okretaja, poput izvršavanja alata (tool.execution) ili poziva funkcije. Zanemari ih ako te zanima samo konačni odgovor.
Razgovor bez agenta
Za jednokratne zadatke, Conversations API prihvaća model izravno, bez prethodne postavke agenta. Poslužitelj čuva povijest, a razmjenu nastavljaš s conversations.append, po potrebi prilagođavajući razinu razmišljanja za određeni okretaj:
conv = client.beta.conversations.start(
model="mistral-large-4-0",
inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
completion_args={"reasoning_effort": "high"},
)
suite = client.beta.conversations.append(
conversation_id=conv.conversation_id,
inputs="Summarize this plan in five steps for executive leadership.",
completion_args={"reasoning_effort": "low"}, # a summary doesn't need deep reflection
)
Ovo je konkretna prednost u odnosu na Chat Completions, gdje dokumentacija zahtijeva da ponovno pošalješ cijelu poruku asistenta, uključujući refleksiju, pri svakom novom okretaju (Lekcija 7). Uz Conversations API, poslužitelj čuva povijest; ne moraš je ponovno slati pri svakom pozivu.
Razmišljanje i alati
Agent može kombinirati razmišljanje i alate: tools i completion_args neovisna su polja pri stvaranju agenta. Agent za analizu tako može imati web pretraživanje i duboko razmišljanje:
agent_veille = client.beta.agents.create(
model="mistral-small-2603",
name="Competitive Intelligence",
instructions="You compare competitor offers using cited public sources.",
tools=[{"type": "web_search"}],
completion_args={"reasoning_effort": "high"},
)
Ipak, pazi na troškove: refleksija i pozivi alata zbrajaju se na računu za jedan okretaj.
Usporedba triju pristupa
| Kriterij | Chat Completions | Agents | Conversations |
|---|---|---|---|
| Gdje postaviti razmišljanje | reasoning_effort u zahtjevu | completion_args u agentu | completion_args u start ili append |
| Povijest | Ponovno slanje pri svakom pozivu, uključujući refleksiju | Prenosi je razgovor | Čuva se na poslužitelju |
Ugrađeni alati (web_search…) | Ne | Da | Da |
| Tipična upotreba | Jednokratni pozivi, potpuna kontrola | Dijeljena konfiguracija za ponovnu upotrebu | Razmjene u više okretaja |
Najbolje prakse integracije
Postavi razinu razmišljanja u agenta kada je zadatak ujednačen, a po okretaju kada varira: početni okretaj analize na high, nakon čega slijede okretaji reformulacije na low ili none, ovisno o modelu. Provjeri odgovara li vrijednost modelu agenta: Small 4 prihvaća high i none; Large 4 prihvaća low, medium i high. Konačno, bilježi upotrebu tokena po okretaju; to je jedini način da saznaš isplati li se razmišljanje za tvoj slučaj upotrebe.
Ključne točke
- U Agents i Conversations API-jima proslijedi
reasoning_effortunutarcompletion_args - Odgovori stižu u
outputs; tekst se nalazi u unosimamessage.output, uključujući refleksiju - Conversations API čuva povijest na poslužitelju: nema potrebe za ponovnim slanjem svakog okretaja
- Razinu možeš mijenjati pri svakom okretaju s
conversations.append - Agent može kombinirati ugrađene alate i razmišljanje, uz trošak kumulativne upotrebe