Agenti vs. chatboti: Kdy potřebujete agenta?
Na této stránce
Chatbot nemusí vždy stačit
Pravděpodobně už jsi používal API Mistral Chat Completions k vytváření konverzačních asistentů. Pro mnoho případů použití to bohatě stačí. Pokušení převést vše na agenty jen proto, že je tato technologie novější, může být nákladné z hlediska latence i spotřeby tokenů. Některé úkoly však vyžadují více než pouhou textovou odpověď. Tato lekce ti poskytne kritéria pro rozhodování: jak rozpoznat situace, kdy stačí volání chat.complete(), a ty, které skutečně ospravedlňují přechod na Agents API.
Chat Completions – Klasický model
Pomocí chat.complete() odešleš seznam zpráv a obdržíš odpověď. Mechanismus je bezstavový: model si mezi voláními nic nepamatuje a historii musíš pro každý požadavek znovu sestavit.
from mistralai.client import Mistral
client = Mistral(api_key="your-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
]
)
print(response.choices[0].message.content)
Tento vzor zůstává správnou volbou pro jednoduché otázky a odpovědi, obecnou generaci textu – shrnutí, překlady, psaní – klasifikaci, extrakci informací a jednorázové volání funkcí. Tyto úkoly mají společnou vlastnost: jde o transformace textu na text vyřešené v jediném průchodu uvažováním, aniž by model musel něco získávat z vnějšího prostředí.
Agents API – Autonomní model
Pomocí Agents API vytvoříš perzistentního agenta vybaveného instrukcemi, nástroji a chováním definovaným jednou provždy. Agent si udržuje svůj stav napříč konverzacemi a může působit autonomně.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Research Assistant",
instructions="You are a research assistant. Use web search to answer with sources.",
tools=[{"type": "web_search"}]
)
Kdy přejít na agenty?
K přechodu tě opravňuje kterýkoli z následujících signálů. Nejčastější je potřeba nástrojů: jakmile musí tvůj asistent vyhledávat na webu, spouštět kód nebo dotazovat korpus dokumentů, Chat Completions tě nutí, abys provedení zapojil sám. Dalším důvodem je perzistence stavu: pokud chceš, aby si model pamatoval předchozí výměny, aniž bys musel s každým požadavkem znovu odesílat celé vlákno, agent to zvládne nativně. Záleží také na počtu kroků: odpověď vyžadující řetězec úvah s mezilehlými akcemi implikuje smyčku a Agents API přesně tuto smyčku implementuje. Více specializací tlačí stejným směrem: finanční agent delegující na agenta pro vyhledávání na webu a poté na výpočetního agenta spadá pod orchestraci více agentů. Nakonec zvaž prostředí provádění – u agentů běží nástroje v cloudu Mistral, nikoli na tvé infrastruktuře.
Naopak zůstaň u klasického chatbota, pokud je úkolem jednoduchá transformace textu na text, pokud již spravuješ historii na straně klienta podle svých představ, pokud nejsou potřeba žádné vestavěné nástroje a pokud k vytvoření očekávané odpovědi stačí jediný průchod uvažováním.
Spektrum složitosti
Pomáhá vnímat tyto volby jako kontinuum, nikoli jako binární alternativu. Na první úrovni je jednoduchý chat: otázka, odpověď, přes Chat Completions. Na druhé úrovni chat vybavený nástroji: otázka spustí volání funkce před odpovědí, stále pomocí Chat Completions a volání funkcí. Na třetí úrovni jediný agent: požadavek vede k plánování, poté k více akcím a nakonec k odpovědi – to je doména Agents API. Na čtvrté úrovni více agentů: agent-směrovač distribuuje požadavek specializovaným agentům, jejichž výstupy jsou následně syntetizovány, což vyžaduje Agents API a předávání úkolů (handoffs).
Pravidlo vyplývající z tohoto spektra je jednoduché: použij nejjednodušší úroveň, která splňuje tvou potřebu. Nenasazuj systém více agentů pouze pro odpovídání na často kladené dotazy.
Srovnávací příklad
Rozdíl je zřetelnější na konkrétním příkladu. U Chat Completions vše spravuješ ručně a model zůstává omezen na své tréninkové znalosti.
# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know
U agenta vybaveného vyhledáváním na webu stejná otázka spustí skutečné hledání a odpověď s uvedením zdrojů, aniž bys musel napsat jediný řádek orchestračného kódu.
# The agent has access to web search
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Weather Agent",
instructions="Answer weather questions using web search.",
tools=[{"type": "web_search"}]
)
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources
Náklady a latence
Tato síla má svou cenu, kterou musíš před nasazením do produkce anticipovat. Latence roste, protože agent může provést více interních kol – hledání, poté uvažování, poté formulace odpovědi – zatímco Chat Completions provádí pouze jedno. Spotřeba tokenů také stoupá, protože systémové instrukce a kontext konverzace jsou modelu odesílány zpět v každém kole. Nakonec konverzace přetrvávají na straně Mistral, což je chování, které můžeš vypnout pomocí store=False, pokud to tvé požadavky na soukromí vyžadují.
Tato režie je dokonale ospravedlnitelná, když to úkol vyžaduje. Pro jednoduchého chatbota s FAQ to neplatí: zůstaň u Chat Completions.
Klíčové poznatky
- Chat Completions je bezstavový a pro jednoduché úkoly postačuje
- Agents API přidává perzistenci, vestavěné nástroje a orchestraci více agentů
- Vždy používej nejnižší úroveň složitosti, která splňuje tvou potřebu
- Přechod na agenty je ospravedlněn, když potřebuješ nástroje, perzistenci nebo více agentů