Agenti nasuprot chatbotovima: kada su vam potrebni agenti?
Na ovoj stranici
Chatbot nije uvijek dovoljan
Vjerojatno si već koristio Mistral Chat Completions API za izgradnju konverzacijskih asistenata. Za mnoge slučajeve upotrebe to je više nego dovoljno. Iskušenje da se sve prebaci na agente samo zato što je tehnologija novija može biti skupo, kako u smislu kašnjenja (latencije), tako i potrošnje tokena. Međutim, neki zadaci zahtijevaju više od jednostavnog tekstualnog odgovora. Ova lekcija daje ti kriterije za donošenje odluka: kako prepoznati situacije u kojima poziv funkcije chat.complete() obavlja posao i one koje doista opravdavaju prelazak na Agents API.
Chat Completions — Klasični model
Kod chat.complete(), šalješ popis poruka i primaš odgovor. Mehanizam je bez stanja (stateless): model nema memoriju između poziva, pa moraš rekonstruirati povijest za svaki zahtjev.
from mistralai.client import Mistral
client = Mistral(api_key="your-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
]
)
print(response.choices[0].message.content)
Ovaj obrazac ostaje ispravan izbor za jednostavna pitanja i odgovore, opće generiranje teksta (sažeci, prijevodi, pisanje), klasifikaciju, ekstrakciju informacija i jednokratno pozivanje funkcija. Ovi zadaci dijele zajedničku osobinu: to su transformacije tekst-u-tekst koje se rješavaju u jednom prolazu rezoniranja, bez potrebe da model išta dohvaća iz vanjskog svijeta.
Agents API — Autonomni model
Pomoću Agents API-ja stvaraš trajnog agenta opremljenog uputama, alatima i ponašanjem definiranim jednom zauvijek. Agent održava svoje stanje kroz razgovore i može djelovati autonomno.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Research Assistant",
instructions="You are a research assistant. Use web search to answer with sources.",
tools=[{"type": "web_search"}]
)
Kada prijeći na agente?
Bilo koji od sljedećih signala opravdava prelazak. Najčešći je potreba za alatima: čim tvoj asistent mora pretraživati web, izvršavati kod ili upititi korpus dokumenata, Chat Completions te prisiljava da sam ručno povežeš izvršavanje. Zatim slijedi ustrajnost stanja: ako želiš da model pamti prethodne razmjene bez da ti ponovno šalješ cijeli niz poruka sa svakim zahtjevom, agent to rješava izvorno. Broj koraka jednako je važan: odgovor koji zahtijeva lanac rezoniranja s međukoracima podrazumijeva petlju, a Agents API upravo tu petlju implementira. Više specijalnosti gura u istom smjeru: financijski agent koji delegira agentu za pretraživanje weba, a zatim agentu za izračune, spada pod orchestraciju više agenata. Konačno, razmotri okruženje izvršavanja — kod agenata alati se pokreću u Mistralovom oblaku, a ne na tvojoj infrastrukturi.
S druge strane, ostani kod klasičnog chatbota ako je zadatak jednostavna transformacija tekst-u-tekst, ako već upravljaš poviješću na strani klijenta po svojoj mjeri, ako nisu potrebni ugrađeni alati i ako je jedan prolaz rezoniranja dovoljan za dobivanje očekivanog odgovora.
Spektar složenosti
Pomaže gledati na ove izbore kao na kontinuum, a ne kao na binarnu alternativu. Na prvoj razini nalazi se jednostavan chat: pitanje, odgovor, putem Chat Completionsa. Na drugoj je chat opremljen alatima: pitanje pokreće poziv funkcije prije odgovora, i dalje koristeći Chat Completions i pozivanje funkcija. Na trećoj je pojedinačni agent: zahtjev vodi do planiranja, zatim višestrukih radnji, pa odgovora — to je domena Agents API-ja. Na četvrtoj su multi-agenti: agent usmjerivač distribuira zahtjev specijaliziranim agentima čiji se izlazi zatim sintetiziraju, što zahtijeva Agents API i predaje (handoffs).
Pravilo koje proizlazi iz ovog spektra jednostavno je: koristi najjednostavniju razinu koja zadovoljava tvoju potrebu. Ne raspoređuj sustav s više agenata za odgovaranje na često postavljana pitanja (FAQ).
Usporedni primjer
Razlika je jasnija na konkretnom primjeru. Kod Chat Completionsa sve upravljaš ručno, a model ostaje ograničen na svoje znanje iz obuke.
# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know
Kod agenta opremljenog pretraživanjem weba, isto pitanje pokreće stvarno pretraživanje i odgovor s izvorima, bez da ti napišeš ijednu liniju koda za orchestraciju.
# The agent has access to web search
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Weather Agent",
instructions="Answer weather questions using web search.",
tools=[{"type": "web_search"}]
)
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources
Trošak i kašnjenje
Ova moć ima svoju cijenu koju moraš predvidjeti prije puštanja u proizvodnju. Kašnjenje se povećava jer agent može izvršiti više unutarnjih okretaja — pretraživanje, zatim rezoniranje, pa izrada nacrta — dok Chat Completions obavlja samo jedan. Potrošnja tokena također raste jer se sistemske upute i kontekst razgovora šalju modelu natrag pri svakom okretaju. Konačno, razgovori se trajno pohranjuju na Mistralovoj strani, ponašanje koje možeš onemogućiti s store=False ako to zahtijevaju tvoja ograničenja privatnosti.
Ovo opterećenje savršeno je opravdano kada to zadatak zahtijeva. Za jednostavan FAQ chatbot nije: ostani kod Chat Completionsa.
Ključne točke
- Chat Completions je bez stanja i dovoljan za jednostavne zadatke
- Agents API dodaje ustrajnost, ugrađene alate i orchestraciju više agenata
- Uvijek koristi najnižu razinu složenosti koja zadovoljava tvoju potrebu
- Prelazak na agente opravdan je kada su ti potrebni alati, ustrajnost ili više agenata