Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Razmišljanje v agentih in pogovorih

Lekcija 4 od 12 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Trije načini klica modela za razmišljanje
  2. Agent, ki razmišlja
  3. Branje izhodov pogovora
  4. Pogovor brez agenta
  5. Razmišljanje in orodja
  6. Primerjava treh pristopov
  7. Najboljše prakse za integracijo
  8. Ključne ugotovitve

Lekcija je bila ponovno napisana 2. novembra 2026 za modela Mistral Small 4 in Large 4. Dokumentacija podjetja Mistral navaja, da je parameter reasoning_effort na voljo na končnih točkah Agents in Conversations znotraj polja completion_args. Viri: Reasoning · Python SDK — Conversations.

Trije načini klica modela za razmišljanje

Prejšnje lekcije so uporabljale API Chat Completions: z vsakim klicem ste poslali celotno zgodovino, parameter reasoning_effort pa ste vključili neposredno v zahtevo. Mistral ponuja še dva vmesnika: API Agents, ki shrani ponovno uporabno konfiguracijo (model, navodila, orodja, parametri), in API Conversations, ki zgodovino hrani na strežniku. Pri teh dveh API-jih ravni razmišljanja ne nastavite na najvišji ravni, temveč jo gnezdite znotraj completion_args ob drugih parametrih generiranja.

Agent, ki razmišlja

Nastavitev ravni razmišljanja v definiciji agenta prepreči njeno ponavljanje ob vsakem klicu in zagotavlja, da celotna ekipa uporablja isto nastavitev:

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

agent = client.beta.agents.create(
    model="mistral-small-2603",
    name="Financial Analyst",
    instructions=(
        "You analyze financial situations for SMEs. "
        "End every response with a quantified recommendation and its assumptions."
    ),
    completion_args={"reasoning_effort": "high"},
)

reponse = client.beta.conversations.start(
    agent_id=agent.id,
    inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)

Branje izhodov pogovora

Pogovor ne vrne choices, temveč seznam vnosov (outputs). Odgovor modela se nahaja v vnosih tipa message.output. Tako kot pri Chat Completions je vsebina bodisi niz bodisi seznam delčkov, ki lahko vključujejo ThinkChunk. Funkcija separer iz 3. lekcije deluje popolnoma enako kot prej:

for entry in reponse.outputs:
    if entry.type == "message.output":
        reflexion, texte = separer(entry.content)
        print(texte)

Drugi vnosi opisujejo, kaj se je zgodilo med korakom, na primer izvajanje orodja (tool.execution) ali klic funkcije. Če vas zanima le končni odgovor, jih lahko ignorirate.

Pogovor brez agenta

Za enkratna opravila API Conversations sprejme model neposredno, brez predhodne nastavitve agenta. Strežnik hrani zgodovino in izmenjavo nadaljujete z conversations.append, pri čemer lahko po potrebi prilagodite raven razmišljanja za določen korak:

conv = client.beta.conversations.start(
    model="mistral-large-4-0",
    inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
    completion_args={"reasoning_effort": "high"},
)

suite = client.beta.conversations.append(
    conversation_id=conv.conversation_id,
    inputs="Summarize this plan in five steps for executive leadership.",
    completion_args={"reasoning_effort": "low"},   # a summary doesn't need deep reflection
)

To je konkretna prednost pred Chat Completions, kjer dokumentacija zahteva, da ob vsakem novem koraku ponovno pošljete celotno sporočilo asistenta, vključno z razmislekom (7. lekcija). Pri API-ju Conversations strežnik hrani zgodovino; ob vsakem klicu je ni treba znova pošiljati.

Razmišljanje in orodja

Agent lahko združuje razmišljanje in orodja: tools in completion_args so neodvisna polja pri ustvarjanju agenta. Analitski agent ima tako lahko dostop do spletnega iskanja in globokega razmišljanja:

agent_veille = client.beta.agents.create(
    model="mistral-small-2603",
    name="Competitive Intelligence",
    instructions="You compare competitor offers using cited public sources.",
    tools=[{"type": "web_search"}],
    completion_args={"reasoning_effort": "high"},
)

Vendar bodite pozorni na stroške: razmislek in klici orodij se v enem koraku seštejejo na računu.

Primerjava treh pristopov

MeriloChat CompletionsAgentsConversations
Kje nastaviti razmišljanjereasoning_effort v zahtevicompletion_args v agentucompletion_args v start ali append
ZgodovinaPonovno pošiljanje ob vsakem klicu, vključno z razmislekomPrenesena s pogovoromShranjena na strežniku
Vgrajena orodja (web_search…)NeDaDa
Tipična uporabaEnkratni klici, popoln nadzorSkupna, ponovno uporabna konfiguracijaVečkorakne izmenjave

Najboljše prakse za integracijo

Raven razmišljanja nastavite v agentu, ko je naloga enotna, in po korakih, ko se spreminja: začetni analitski korak z vrednostjo high, ki mu sledijo koraki preoblikovanja z vrednostjo low ali none, odvisno od modela. Preverite, ali vrednost ustreza modelu agenta: Small 4 sprejema high in none; Large 4 sprejema low, medium in high. Nazadnje beležite uporabo žetonov na korak; to je edini način, da ugotovite, ali se razmišljanje za vaš primer uporabe splača.

Ključne ugotovitve

  • Pri API-jih Agents in Conversations parameter reasoning_effort podajte znotraj completion_args
  • Odgovori prispejo v outputs; besedilo se nahaja v vnosih message.output, vključno z razmislekom
  • API Conversations hrani zgodovino na strežniku: ob vsakem koraku je ni treba znova pošiljati
  • Raven lahko spremenite ob vsakem koraku z conversations.append
  • Agent lahko združuje vgrajena orodja in razmišljanje, vendar se uporaba sešteva