Agenter vs. Chatbots: Hvornår har du brug for en agent?
På denne side
En chatbot er ikke altid nok
Du har sandsynligvis allerede brugt Mistral Chat Completions API til at bygge samtaleassistenter. Til mange brugstilfælde er dette mere end rigeligt. Fristelsen til at konvertere alt til agenter, blot fordi teknologien er nyere, kan blive dyr både med hensyn til ventetid og token-forbrug. Nogle opgaver kræver dog mere end et simpelt tekstsvar. Denne lektion giver dig beslutningskriterierne: hvordan du genkender situationer, hvor et kald til chat.complete() gør jobbet, og dem der reelt berettiger et skift til Agents API.
Chat Completions — Den klassiske model
Med chat.complete() sender du en liste over beskeder og modtager et svar. Mekanismen er tilstandsløs: modellen har ingen hukommelse mellem kald, og du skal genopbygge historikken for hver anmodning.
from mistralai.client import Mistral
client = Mistral(api_key="your-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
]
)
print(response.choices[0].message.content)
Dette mønster forbliver det rigtige valg til simpelt spørgsmål-svar, generel tekstgenerering – sammendrag, oversættelser, skrivning – klassificering, informationsekstraktion og engangs-funktionskald. Disse opgaver har en fælles egenskab: de er tekst-til-tekst-transformationer, der løses i en enkelt ræsonnementsrunde, uden at modellen behøver at hente noget udefra.
Agents API — Den autonome model
Med Agents API opretter du en vedvarende agent udstyret med instrukser, værktøjer og adfærd, der defineres én gang for alle. Agenten bevarer sin tilstand på tværs af samtaler og kan handle autonomt.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Research Assistant",
instructions="You are a research assistant. Use web search to answer with sources.",
tools=[{"type": "web_search"}]
)
Hvornår skal du skifte til agenter?
Et enkelt af følgende signaler berettiger skiftet. Det hyppigste er behovet for værktøjer: så snart din assistent skal søge på nettet, udføre kode eller spørge et dokumentkorpus, tvinger Chat Completions dig til selv at styre eksekveringen. Dernæst kommer vedvarende tilstand: hvis du vil have modellen til at huske tidligere udvekslinger uden at du skal gensende hele tråden med hver anmodning, håndterer agenten dette indbygget. Antallet af trin betyder lige så meget: et svar, der kræver en kæde af ræsonnementer med mellemliggende handlinger, indebærer en løkke, og Agents API implementerer netop denne løkke. Flere specialiteter trækker i samme retning: en finansiel agent, der delegerer til en web-søgningsagent og derefter til en beregningsagent, falder ind under multi-agent-orkestrering. Overvej endelig eksekveringsmiljøet – med agenter kører værktøjerne i Mistral-clouden, ikke på din infrastruktur.
Omvendt skal du holde fast i en klassisk chatbot, hvis opgaven er en simpel tekst-til-tekst-transformation, hvis du allerede administrerer historikken på klientsiden efter eget ønske, hvis der ikke kræves indbyggede værktøjer, og hvis en enkelt ræsonnementsrunde er nok til at producere det forventede svar.
Kompleksitetsspektret
Det hjælper at se disse valg som et kontinuum snarere end et binært alternativ. På første niveau, simpel chat: et spørgsmål, et svar, via Chat Completions. På andet niveau, chat med værktøjer: spørgsmålet udløser et funktionskald før svaret, stadig ved brug af Chat Completions og funktionskald. På tredje niveau, den enkelte agent: anmodningen fører til planlægning, derefter flere handlinger, derefter et svar – dette er Agents API’s domæne. På fjerde niveau, multi-agenter: en router-agent distribuerer anmodningen til specialiserede agenter, hvis output derefter syntetiseres, hvilket kræver Agents API og overdragelser.
Reglen udledt af dette spektrum er simpel: brug det enkleste niveau, der opfylder dit behov. Udrul ikke et multi-agent-system for at besvare ofte stillede spørgsmål.
Sammenlignende eksempel
Forskellen bliver tydeligere med et konkret eksempel. Med Chat Completions styrer du alt manuelt, og modellen forbliver begrænset til sin træningsviden.
# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know
Med en agent udstyret med websøgning udløser det samme spørgsmål en rigtig søgning og et svar med kilder, uden at du skriver en eneste linje orkestreringskode.
# The agent has access to web search
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Weather Agent",
instructions="Answer weather questions using web search.",
tools=[{"type": "web_search"}]
)
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources
Omkostninger og ventetid
Denne kraft har en pris, som du skal forudse før produktionssætning. Ventetiden stiger, fordi agenten kan udføre flere interne ture – søgning, derefter ræsonnement, derefter udkast – hvorimod Chat Completions kun udfører én. Token-forbruget stiger også, da systeminstrukser og samtalekontekst sendes tilbage til modellen ved hver tur. Endelig persistere samtaler på Mistral-siden, en adfærd du kan deaktivere med store=False, hvis dine privatlivskrav kræver det.
Dette overhead er fuldt ud berettiget, når opgaven kræver det. Til en simpel chatbot med ofte stillede spørgsmål er det ikke tilfældet: hold fast i Chat Completions.
Vigtige pointer
- Chat Completions er tilstandsløs og tilstrækkelig til simple opgaver
- Agents API tilføjer persistens, indbyggede værktøjer og multi-agent-orkestrering
- Brug altid det laveste kompleksitetsniveau, der opfylder dit behov
- Skift til agenter er berettiget, når du har brug for værktøjer, persistens eller multi-agenter