Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Samprotavimas agentuose ir pokalbiuose

Paskaita 4 iš 12 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. Trys būdai iškvieti samprotavimo modelį
  2. Agentas, kuris samprotauja
  3. Pokalbių atsakymų skaitymas
  4. Pokalbis be agento
  5. Samprotavimas ir įrankiai
  6. Trijų metodų palyginimas
  7. Integracijos geriausios praktikos
  8. Svarbiausi punktai

Pamoka perrašyta 2026 m. lapkričio 2 d. skirta „Mistral Small 4“ ir „Large 4“. „Mistral“ dokumentacijoje nurodyta, kad reasoning_effort yra prieinamas „Agents“ ir „Conversations“ galiniuose taškuose (endpoints) lauke completion_args. Šaltiniai: Reasoning · Python SDK — Conversations.

Trys būdai iškvieti samprotavimo modelį

Ankstesnėse pamokose naudojome „Chat Completions“ API: siuntėte visą istoriją su kiekvienu užklausimu, o reasoning_effort buvo įtraukiamas tiesiai į užklausą. „Mistral“ siūlo dar dvi sąsajas: „Agents“ API, kuri išsaugo pakartotinai naudojamą konfigūraciją (modelį, instrukcijas, įrankius, parametrus), ir „Conversations“ API, kuri istoriją saugo serveryje. Šiose dviejose API samprotavimo lygio nenustatote aukščiausiu lygmeniu; jį įterpiate į completion_args kartu su kitais generavimo parametrais.

Agentas, kuris samprotauja

Samprotavimo lygio nustatymas apibrėžiant agentą leidžia išvengti jo kartojimo kiekviename kvietime ir užtikrina, kad visa jūsų komanda naudotų tą patį nustatymą:

import os
from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

agent = client.beta.agents.create(
    model="mistral-small-2603",
    name="Financial Analyst",
    instructions=(
        "You analyze financial situations for SMEs. "
        "End every response with a quantified recommendation and its assumptions."
    ),
    completion_args={"reasoning_effort": "high"},
)

reponse = client.beta.conversations.start(
    agent_id=agent.id,
    inputs="Our working capital requirement has doubled in a year while revenue grew by 15%. What should we look at first?",
)

Pokalbių atsakymų skaitymas

Pokalbis negrąžina choices; jis grąžina įrašų (outputs) sąrašą. Modelio atsakymas yra įrašuose, kurių tipas message.output. Kaip ir „Chat Completions“ atveju, turinys yra arba eilutė, arba gabalėlių sąrašas, kuris gali apimti ThinkChunk. 3 pamokoje naudota funkcija separer veikia lygiai taip pat:

for entry in reponse.outputs:
    if entry.type == "message.output":
        reflexion, texte = separer(entry.content)
        print(texte)

Kiti įrašai aprašo, kas įvyko during ėjimo metu, pavyzdžiui, įrankio vykdymas (tool.execution) arba funkcijos iškvietimas. Jei jus domina tik galutinis atsakymas, juos galite ignoruoti.

Pokalbis be agento

Vienkartinėms užduotims „Conversations“ API priima modelį tiesiogiai, be išankstinio agento nustatymo. Serveris saugo istoriją, o dialogą tęsite naudodami conversations.append, prireikus koreguodami samprotavimo lygį konkrečiam ėjimui:

conv = client.beta.conversations.start(
    model="mistral-large-4-0",
    inputs="Propose a migration plan for a 2 TB PostgreSQL database with zero downtime.",
    completion_args={"reasoning_effort": "high"},
)

suite = client.beta.conversations.append(
    conversation_id=conv.conversation_id,
    inputs="Summarize this plan in five steps for executive leadership.",
    completion_args={"reasoning_effort": "low"},   # a summary doesn't need deep reflection
)

Tai yra konkretus pranašumas, palyginti su „Chat Completions“, kur dokumentacija reikalauja iš naujo atsiųsti visą asistento žinutę, įskaitant refleksiją, kiekviename naujame ėjime (7 pamoka). Naudojant „Conversations“ API, serveris saugo istoriją; jos nereikia siųsti iš naujo kiekvienu kvietimu.

Samprotavimas ir įrankiai

Agentas gali derinti samprotavimą ir įrankius: kuriant agentą, tools ir completion_args yra nepriklausomi laukai. Taigi analizės agentas gali turėti ir žiniatinklio paiešką, ir gilų samprotavimą:

agent_veille = client.beta.agents.create(
    model="mistral-small-2603",
    name="Competitive Intelligence",
    instructions="You compare competitor offers using cited public sources.",
    tools=[{"type": "web_search"}],
    completion_args={"reasoning_effort": "high"},
)

Tačiau stebėkite kainą: refleksija ir įrankių iškvietimai viename ėjime sumuojasi sąskaitoje.

Trijų metodų palyginimas

KriterijusChat CompletionsAgentsConversations
Kur nustatyti samprotavimąreasoning_effort užklausojecompletion_args agentecompletion_args funkcijose start arba append
IstorijaSiunčiama iš naujo kiekvienu kvietimu, įskaitant refleksijąNešama pokalbioSaugoma serveryje
Integruoti įrankiai (web_search…)NeTaipTaip
Tipinis naudojimasVienkartiniai kvietimai, pilna kontrolėBendra, pakartotinai naudojama konfigūracijaDaugiaėgiai pokalbiai

Integracijos geriausios praktikos

Nustatykite samprotavimo lygį agente, kai užduotis yra vienoda, ir kiekviename ėjime, kai ji kinta: pradinė analizė nustatyta kaip high, o tolesni performulavimo ėjimai – kaip low arba none, priklausomai nuo modelio. Patikrinkite, ar reikšmė tinka agento modeliui: „Small 4“ priima high ir none; „Large 4“ priima low, medium ir high. Galiausiai registruokite žetonų naudojimą kiekviename ėjime; tai vienintelis būdas sužinoti, ar samprotavimas atsiperka jūsų naudojimo atveju.

Svarbiausi punktai

  • „Agents“ ir „Conversations“ API perduokite reasoning_effort lauke completion_args
  • Atsakymai gaunami outputs; tekstas yra įrašuose message.output, įskaitant refleksiją
  • „Conversations“ API istoriją saugo serveryje: nereikia jos siųsti iš naujo kiekvienu ėjimu
  • Lygį galite keisti kiekviename ėjime naudodami conversations.append
  • Agentas gali derinti integruotus įrankius ir samprotavimą, tačiau tai didina bendrą naudojimą