Agenți vs. Chatboți: Când aveți nevoie de un agent?
Pe această pagină
Un chatbot nu este întotdeauna suficient
Probabil ați utilizat deja API-ul Mistral Chat Completions pentru a construi asistenți conversaționali. Pentru multe cazuri de utilizare, acest lucru este mai mult decât suficient. Tentația de a trece totul la agenți doar pentru că tehnologia este mai nouă poate fi costisitoare, atât în ceea ce privește latența, cât și consumul de tokeni. Cu toate acestea, unele sarcini necesită mai mult decât un simplu răspuns text. Această lecție vă oferă criteriile de decizie: cum să recunoașteți situațiile în care un apel către chat.complete() este suficient și pe cele care justifică cu adevărat trecerea la API-ul Agents.
Chat Completions — Modelul clasic
Cu chat.complete(), trimiteți o listă de mesaje și primiți un răspuns. Mecanismul este fără stare (stateless): modelul nu are memorie între apeluri, iar dumneavoastră trebuie să reconstruiți istoricul pentru fiecare solicitare.
from mistralai.client import Mistral
client = Mistral(api_key="your-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
]
)
print(response.choices[0].message.content)
Acest model rămâne alegerea corectă pentru întrebări și răspunsuri simple, generarea de text general (rezumate, traduceri, redactare), clasificare, extragerea informațiilor și apelarea de funcții ocazionale. Aceste sarcini au o trăsătură comună: sunt transformări de tip text-către-text, rezolvate într-o singură trecere de raționament, fără ca modelul să aibă nevoie să preia ceva din exterior.
API-ul Agents — Modelul autonom
Cu API-ul Agents, creați un agent persistent, echipat cu instrucțiuni, instrumente și un comportament definit o dată pentru totdeauna. Agentul își menține starea pe parcursul conversațiilor și poate acționa autonom.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Research Assistant",
instructions="You are a research assistant. Use web search to answer with sources.",
tools=[{"type": "web_search"}]
)
Când să treceți la agenți?
Oricare dintre semnalele de mai jos justifică trecerea. Cel mai frecvent este nevoia de instrumente: de îndată ce asistentul dumneavoastră trebuie să caute pe web, să execute cod sau să interogheze un corpus de documente, Chat Completions vă obligă să gestionați singuri execuția. Urmează persistența stării: dacă doriți ca modelul să își amintească schimburile anterioare fără ca dumneavoastră să retrimiteți întregul fir de conversație la fiecare solicitare, agentul gestionează acest lucru nativ. Numărul de pași contează la fel de mult: un răspuns care necesită un lanț de raționament cu acțiuni intermediare implică o buclă, iar API-ul Agents implementează exact acea buclă. Mai multe specializări împing în aceeași direcție: un agent financiar care deleagă către un agent de căutare web, apoi către un agent de calcul, intră sub incidența orchestrării multi-agenți. În final, luați în considerare mediul de execuție: cu agenții, instrumentele rulează în cloud-ul Mistral, nu pe infrastructura dumneavoastră.
Dimpotrivă, rămâneți la un chatbot clasic dacă sarcina este o simplă transformare text-către-text, dacă gestionați deja istoricul lato parte client conform preferințelor dumneavoastră, dacă nu sunt necesare instrumente integrate și dacă o singură trecere de raționament este suficientă pentru a produce răspunsul așteptat.
Spectrul complexității
Este util să priviți aceste alegeri ca pe un continuum, nu ca pe o alternativă binară. La primul nivel, chat simplu: o întrebare, un răspuns, prin Chat Completions. La al doilea, chat echipat cu instrumente: întrebarea declanșează un apel de funcție înainte de răspuns, folosind tot Chat Completions și apelarea de funcții. La al treilea, agentul unic: solicitarea duce la planificare, apoi la multiple acțiuni, apoi la un răspuns — acesta este domeniul API-ului Agents. La al patrulea, multi-agenți: un agent router distribuie solicitarea către agenți specializați, ale căror rezultate sunt apoi sintetizate, ceea ce necesită API-ul Agents și transferuri (handoffs).
Regula derivată din acest spectru este simplă: utilizați nivelul cel mai simplu care satisface nevoia dumneavoastră. Nu implementați un sistem multi-agenți pentru a răspunde la întrebări frecvente (FAQ).
Exemplu comparativ
Diferența este mai clară printr-un exemplu concret. Cu Chat Completions, gestionați totul manual, iar modelul rămâne limitat la cunoștințele sale de antrenament.
# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know
Cu un agent echipat cu căutare web, aceeași întrebare declanșează o căutare reală și un răspuns sourstat, fără ca dumneavoastră să scrieți o singură linie de cod de orchestrare.
# The agent has access to web search
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Weather Agent",
instructions="Answer weather questions using web search.",
tools=[{"type": "web_search"}]
)
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources
Cost și latență
Această putere are un preț, pe care trebuie să îl anticipați înainte de producție. Latența crește deoarece agentul poate efectua multiple tururi interne — căutare, apoi raționament, apoi redactare — în timp ce Chat Completions efectuează doar unul. Consumul de tokeni crește, de asemenea, deoarece instrucțiunile de sistem și contextul conversației sunt retrimise modelului la fiecare tur. În final, conversațiile persistă pe partea Mistral, un comportament pe care îl puteți dezactiva cu store=False dacă constrângerile dumneavoastră de confidențialitate o cer.
Această suprasarcină este perfect justificată atunci când sarcina o impune. Pentru un chatbot simplu de tip FAQ, nu este cazul: rămâneți la Chat Completions.
Puncte cheie
- Chat Completions este fără stare și suficient pentru sarcini simple
- API-ul Agents adaugă persistență, instrumente integrate și orchestrare multi-agenți
- Utilizați întotdeauna nivelul de complexitate cel mai scăzut care satisface nevoia dumneavoastră
- Trecerea la agenți este justificată atunci când aveți nevoie de instrumente, persistență sau multi-agenți