Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Agenti proti klepetalnim botom: kdaj potrebujete agenta?

Lekcija 2 od 18 Posodobljeno 2. november 2026 Razvijalec
Na tej strani
  1. Klepetalni bot ni vedno dovolj
  2. Chat Completions — Klasični model
  3. API Agents — Avtonomni model
  4. Kdaj preklopiti na agente?
  5. Spekter kompleksnosti
  6. Primerjalni primer
  7. Stroški in zakasnitev
  8. Ključne ugotovitve

Klepetalni bot ni vedno dovolj

Verjetno si že uporabil API Mistral Chat Completions za gradnjo pogovornih pomočnikov. Za številne primere uporabe je to povsem dovolj. Izkušnja, da bi vse preklopil na agente zgolj zato, ker je tehnologija novejša, je lahko draga tako glede zakasnitve kot porabe žetonov. Vendar nekatere naloge zahtevajo več od preprostega besedilnega odgovora. Ta lekcija ti ponuja merila za odločanje: kako prepoznati situacije, kjer klic chat.complete() opravi delo, in tiste, ki resnično upravičujejo prehod na API Agents.

Chat Completions — Klasični model

S chat.complete() pošlješ seznam sporočil in prejmeš odgovor. Mehanizem je brezstanjen: model nima spomina med klici in zgodovino moraš rekonstruirati za vsako zahtevo.

from mistralai.client import Mistral

client = Mistral(api_key="your-key")

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "What is the capital of France?"}
    ]
)
print(response.choices[0].message.content)

Ta vzorec ostaja prava izbira za preprosta vprašanja in odgovore, splošno generiranje besedila (povzetki, prevodi, pisanje), razvrščanje, ekstrakcijo informacij in enkratne klice funkcij. Te naloge imajo skupno lastnost: so transformacije besedilo-v-besedilo, rešene v enem samem sklepanjskem koraku, brez potrebe, da bi model karkoli pridobil od zunaj.

API Agents — Avtonomni model

Z API-jem Agents ustvariš trajnega agenta, opremljenega z navodili, orodji in vedenjem, definiranim enkrat za vselej. Agent ohranja svoje stanje skozi pogovore in lahko deluje avtonomno.

agent = client.beta.agents.create(
    model="mistral-large-latest",
    name="Research Assistant",
    instructions="You are a research assistant. Use web search to answer with sources.",
    tools=[{"type": "web_search"}]
)

Kdaj preklopiti na agente?

Katerikoli od naslednjih signalov upravičuje preklop. Najpogostejši je potreba po orodjih: takoj ko mora tvoj pomočnik iskati po spletu, izvajati kodo ali poizvedovati po zbirki dokumentov, te Chat Completions prisili, da izvedbo ožičiš sam. Sledi trajnost stanja: če želiš, da si model zapomni prejšnja izmenjave, ne da bi moral z vsako zahtevo znova pošiljati celotno nit, agent to obravnava samodejno. Enako pomembno je število korakov: odgovor, ki zahteva verigo sklepanja z vmesnimi dejanji, implicira zanko, API Agents pa implementira prav to zanko. Več specializacij potiska v isto smer: finančni agent, ki delegira na agenta za spletno iskanje in nato na agenta za izračune, spada pod orkestracijo več agentov. Nazadnje upoštevaj izvedbeno okolje – pri agentih se orodja izvajajo v oblaku Mistral, ne na tvoji infrastrukturi.

Nasprotno pa ostani pri klasičnem klepetalnem botu, če je naloga preprosta transformacija besedilo-v-besedilo, če zgodovino na strani odjemalca že upravljaš po svojih željah, če ni potrebnih vgrajenih orodij in če en sam sklepanjski korak zadostuje za proizvodnjo pričakovanega odgovora.

Spekter kompleksnosti

Te izbire je koristno obravnavati kot kontinuum in ne kot binarno alternativo. Na prvi ravni je preprost klepet: vprašanje, odgovor, prek Chat Completions. Na drugi ravni je klepet z orodji: vprašanje sproži klic funkcije pred odgovorom, še vedno z uporabo Chat Completions in klicev funkcij. Na tretji ravni je posamezen agent: zahteva vodi do načrtovanja, nato več dejanj in nato odgovora – to je domena API-ja Agents. Na četrti ravni so večagentni sistemi: usmerjevalni agent razdeli zahtevo specializiranim agentom, katerih izhodi so nato sintetizirani, kar zahteva API Agents in predaje.

Pravilo, izpeljano iz tega spektra, je preprosto: uporabi najpreprostejšo raven, ki zadovolji tvojo potrebo. Ne razporejaj večagentnega sistema za odgovarjanje na pogosta vprašanja.

Primerjalni primer

Razlika je jasnejša s konkretnim primerom. S Chat Completions vse upravljaš ročno, model pa ostaja omejen na svoje učno znanje.

# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know

Z agentom, opremljenim s spletnim iskanjem, isto vprašanje sproži resnično iskanje in odgovor z viri, ne da bi moral napisati vrstico kode za orkestracijo.

# The agent has access to web search
agent = client.beta.agents.create(
    model="mistral-large-latest",
    name="Weather Agent",
    instructions="Answer weather questions using web search.",
    tools=[{"type": "web_search"}]
)

response = client.beta.conversations.start(
    agent_id=agent.id,
    inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources

Stroški in zakasnitev

Ta moč ima svojo ceno, ki jo moraš predvideti pred uvedbo v proizvodnjo. Zakasnitev se poveča, ker lahko agent izvede več notranjih obratov – iskanje, nato sklepanje, nato sestavljanje –, medtem ko Chat Completions opravi le enega. Poraba žetonov prav tako naraste, saj se sistemska navodila in kontekst pogovora modelu pošiljajo ob vsakem obratu. Nazadnje, pogovori trajno obstajajo na strani Mistrala, vedenje, ki ga lahko onemogočiš z store=False, če to zahtevajo tvoje omejitve glede zasebnosti.

Ta dodatni strošek je popolnoma upravičen, ko ga naloga zahteva. Za preprostega klepetalnega bota za pogosta vprašanja ni: ostani pri Chat Completions.

Ključne ugotovitve

  • Chat Completions je brezstanjen in zadostuje za preproste naloge
  • API Agents dodaja trajnost, vgrajena orodja in orkestracijo več agentov
  • Vedno uporabi najnižjo raven kompleksnosti, ki zadovolji tvojo potrebo
  • Preklop na agente je upravičen, ko potrebuješ orodja, trajnost ali več agentov