Agentit vs. chatbotit: Milloin tarvitset agentin?
Tällä sivulla
Chatbot ei aina riitä
Olet todennäköisesti jo käyttänyt Mistral Chat Completions -rajapintaa keskustelevien avustajien rakentamiseen. Moniin käyttötarkoituksiin tämä on enemmän kuin tarpeeksi. Kiusaus siirtää kaikki agentteihin pelkästään siksi, että teknologia on uudempi, voi tulla kalliiksi sekä viiveen että token-kulutuksen kannalta. Jotkut tehtävät vaativat kuitenkin enemmän kuin pelkän tekstivastauksen. Tämä oppitunti antaa sinulle päätöskriteerit: miten tunnistat tilanteet, joissa chat.complete()-kutsu riittää, ja ne, jotka todella perustelevat siirtymisen Agents API:n käyttöön.
Chat Completions – Klassinen malli
chat.complete()-funktiolla lähetät listan viestejä ja saat vastauksen. Mekanismi on tilaton: mallilla ei ole muistia kutsujen välillä, ja sinun on rekonstruoitava historia jokaista pyyntöä varten.
from mistralai.client import Mistral
client = Mistral(api_key="your-key")
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "What is the capital of France?"}
]
)
print(response.choices[0].message.content)
Tämä malli on edelleen oikea valinta yksinkertaisiin kysymys-vastaus-tehtäviin, yleiseen tekstin tuottamiseen (yhteenveto, käännös, kirjoittaminen), luokitteluun, tiedon ekstraktioon ja kertaluonteisiin funktiokutsuihin. Näillä tehtävillä on yhteinen piirre: ne ovat teksti-teksti-muunnoksia, jotka ratkeavat yhdellä päättelykierroksella ilman, että mallin tarvitsee hakea mitään ulkopuolelta.
Agents API – Autonominen malli
Agents API:n avulla luot pysyvän agentin, joka on varustettu ohjeistuksilla, työkaluilla ja käyttäytymissäännöillä, jotka määritellään kerran kaiken kattavasti. Agentti ylläpitää tilaansa keskustelujen yli ja pystyy toimimaan autonomisesti.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Research Assistant",
instructions="You are a research assistant. Use web search to answer with sources.",
tools=[{"type": "web_search"}]
)
Milloin siirtyä agentteihin?
Mikä tahansa seuraavista signaaleista perustelee siirtymisen. Yleisin on tarve työkaluille: heti kun avustajasi tarvitsee hakea tietoa verkosta, suorittaa koodia tai kysellä dokumenttikannasta, Chat Completions pakottaa sinut kytkemään suorituksen itse. Seuraavaksi tulee tilan pysyvyys: jos haluat mallin muistavan aiemmat vaiheet ilman, että lähetät koko ketjun uudelleen jokaisella pyynnöllä, agentti hoitaa tämän natiivisti. Myös vaiheiden määrä ratkaisee: vastaus, joka vaatii päättelyketjun välivaiheineen, implikoi silmukan, ja Agents API toteuttaa juuri tämän silmukan. Useat erikoisalat työntävät samaan suuntaan: talousagentti, joka delegoi tehtävän verkkohakuagentille ja sen jälkeen laskenta-agentille, kuuluu moniagentti-orkestrointiin. Lopuksi huomioi suoritusympäristö: agenteilla työkalut suoritetaan Mistralin pilvessä, eivät omassa infrastruktuurissasi.
Päinvastoin, pysy klassisessa chatbotissa, jos tehtävä on yksinkertainen teksti-teksti-muunnos, jos hallinnoit historiaa asiakaspuolella mieleiselläsi tavalla, jos sisäänrakennettuja työkaluja ei tarvita ja jos yksi päättelykierros riittää tuottamaan odotetun vastauksen.
Monimutkaisuusspektri
On hyödyllistä nähdä nämä valinnat jatkumona eikä binäärisenä vaihtoehtona. Ensimmäisellä tasolla on yksinkertainen keskustelu: kysymys, vastaus, Chat Completionsin kautta. Toisella tasolla on työkaluilla varustettu keskustelu: kysymys laukaisee funktiokutsun ennen vastausta, käyttäen edelleen Chat Completionsia ja funktiokutsuja. Kolmannella tasolla on yksittäinen agentti: pyyntö johtaa suunnitteluun, sitten useisiin toimintoihin ja lopulta vastaukseen – tämä on Agents API:n aluetta. Neljännellä tasolla on moniagenttijärjestelmä: reititinagentti jakaa pyynnön erikoistuneille agenteille, joiden tuotokset syntetisoidaan; tämä vaatii Agents API:n ja käsienvaihdot (handoffs).
Tästä spektristä johdettu sääntö on yksinkertainen: käytä yksinkertaisinta tasoa, joka tyydyttää tarpeesi. Älä ota käyttöön moniagenttijärjestelmää vastataksesi usein kysyttyihin kysymyksiin (FAQ).
Vertaileva esimerkki
Ero selkeytyy konkreettisella esimerkillä. Chat Completionsilla hallinnoit kaikkea manuaalisesti, ja malli pysyy rajoitettuna sen harjoitusdataan.
# You manage everything manually
messages = [{"role": "user", "content": "What is the weather in Paris?"}]
response = client.chat.complete(model="mistral-large-latest", messages=messages)
# The model CANNOT search the web—it hallucinates or says it doesn't know
Verkkohakulla varustetulla agentilla sama kysymys laukaisee todellisen haun ja lähteistettyyn vastaukseen ilman, että sinun tarvitsee kirjoittaa riviäkään orkestrointikoodia.
# The agent has access to web search
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Weather Agent",
instructions="Answer weather questions using web search.",
tools=[{"type": "web_search"}]
)
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="What is the weather in Paris?"
)
# The agent automatically searches the web and cites its sources
Kustannukset ja viive
Tämä teho tulee hinnalla, ja sinun on ennakoitava se ennen tuotantoon siirtymistä. Viive kasvaa, koska agentti voi suorittaa useita sisäisiä kierroksia – haku, sitten päättely, sitten luonnostelu – kun taas Chat Completions suorittaa vain yhden. Myös token-kulutus nousee, sillä järjestelmäohjeet ja keskustelukonteksti lähetetään takaisin mallille jokaisella kierroksella. Lopuksi, keskustelut persistoituvat Mistralin puolella; voit tarvittaessa poistaa tämän käytöstä asetuksella store=False, jos tietosuojavaatimuksesi niin vaativat.
Tämä ylikuormitus on täysin perusteltua, kun tehtävä sitä vaatii. Yksinkertaiseen FAQ-chatbottiin se ei ole: pysy Chat Completionsissa.
Keskeiset asiat
- Chat Completions on tilaton ja riittää yksinkertaisiin tehtäviin
- Agents API lisää pysyvyyden, sisäänrakennetut työkalut ja moniagentti-orkestroinnin
- Käytä aina pienintä monimutkaisuustasoa, joka tyydyttää tarpeesi
- Siirtyminen agentteihin on perusteltua, kun tarvitset työkaluja, pysyvyyttä tai moniagenttijärjestelmiä