Johdatus usean agentin siirtymiin
Tällä sivulla
Miksi orkestroida useita agentteja?
Olet tähän asti työskennellyt yksittäisten agenttien kanssa: yksi agentti, sen ohjeet ja sen työkalut. Tämä malli törmää nopeasti rajoihinsa, kun tehtävä vaatii erilaisia taitoja. Ota esimerkiksi markkinatutkimuspyyntö: sinun täytyy etsiä dataa, analysoida sitä numeerisesti ja tuottaa sitten luettava raportti. Voisit yrittää antaa kaiken yhdelle agentille, mutta ohjeet paisuisivat jokaisen uuden vaatimuksen myötä, kunnes niistä tulee ristiriitainen tekstipölli, jota malli soveltaa yhä tehottomammin. Mistral API tarjoaa vaihtoehdon: erikoistuneiden agenttien ketjut, jotka antavat viestin eteenpäin.
Tämä on siirtymän (handoff) käsite: yksi agentti siirtää keskustelun hallinnan toiselle agentille, joka on paremmin varusteltu kyseiseen osatehtävään. Itse keskustelu ei muutu – vain ohjat pitävä käsi vaihtuu.
Miten siirtymät toimivat
Mekanismi peilaa täsmälleen sitä, mitä ihmisorganisaatio tekee kohdatessaan yhdistetyn pyynnön. Reititysagentti (router agent) vastaanottaa alkuperäisen kyselyn kuin puhelinvaihteen hoitaja. Se analysoi pyynnön, tunnistaa, mikä erikoisagentti on parhaassa asemassa hoitamaan sen, ja siirtää sitten keskustelun tälle asiantuntijalle. Erikoisagentti hoitaa osatehtävänsä ja voi tarvittaessa siirtää vastuun edelleen kolmannelle agentille, jos se kohtaa oman osaamisalueensa ulkopuolisen tarpeen. Lopullinen vastaus palaa käyttäjälle, joka näkee vain yhden keskustelukumppanin.
Tästä seuraa neljä etua, jotka vahvistavat toisiaan. Ensinnäkin erikoistuminen: jokaisella agentilla on rajattu tehtäväalue ja tarkat ohjeet. Verkkohakuagentti ei hoida laskutoimituksia, eikä päinvastoin. Tämä parantaa vastausten laatua, koska mikään ohje ei ole ristiriidassa toisen kanssa. Toiseksi ylläpidettävyys: erikoisagentin toiminnan muuttaminen ei vaikuta muihin. Voit vaihtaa sen mallia, ohjeita tai työkaluja koskematta muuhun järjestelmään. Kolmanneksi skaalautuvuus seuraa tästä suoraan: uuden ominaisuuden lisääminen tarkoittaa uuden erikoisagentin luomista ja rekisteröimistä siirtymäkohteeksi. Reititysagentti valitsee sen, kun pyyntö vastaa sen osaamisaluetta. Viimeiseksi jäljitettävyys: jokainen siirtymä tuottaa agent.handoff-tapahtuman tulosteisiin, jolloin voit jälkikäteen rekonstruoida, mikä agentti hoiti minkäkin osan pyynnöstä, ilman että sinun tarvitsee itse instrumentoida mitään.
Tyypillinen arkkitehtuuri
User
│
▼
Router Agent (orchestrator)
├── Web Search Agent (web_search)
├── Calculator Agent (code_interpreter)
├── Writer Agent (specific instructions)
└── Document Agent (document_library)
Reititysagentti päättää dynaamisesti, mille agentille siirtyä kyselyn perusteella. Se ei rajoitu yhteen siirtymään: se voi myös orkestroida peräkkäisiä virtauksia, kuten haku, sitten laskenta ja sitten kirjoitus, jolloin jokainen vaihe rikastuttaa kontekstia seuraavaa varten.
Seurataan todellista pyyntöä: “Etsi nykyinen EKP:n korko ja laske yhdistetyn koron vaikutus 10 vuodelle 100 000 euron sijoitukselle.” Rahoitusagentti toimii reitittäjänä, vastaanottaa pyynnön ja huomaa sen sisältävän kaksi erillistä tarvetta. Se siirtää ensin tehtävän Web Search -agentille, joka hakee nykyisen EKP:n koron – tiedon, jota mikään malli ei voi tietää muististaan. Toinen siirtymä antaa vastuun Calculator-agentille, joka soveltaa yhdistetyn koron kaavaa juuri löydettyyn korkoon. Käyttäjä saa yhden tuloksen, jonka mukana tulevat hakulähteet ja laskentatiedot.
Suoritustilat
Mistral API tarjoaa kaksi tilaa siirtymille, ja valitset niistä keskustelun käynnistyshetkellä. Palvelintila on oletusarvo.
response = client.beta.conversations.start(
agent_id=router_agent.id,
inputs="Complex query",
handoff_execution="server"
)
Mistral hoitaa kaiken automaattisesti: siirtymät, agenttien suorituksen ja vastauksen syntetisoinnin. Saat vain lopputuloksen, mikä on kätevää ja riittävää, kunhan sinun ei tarvitse puuttua vaiheiden väliin.
response = client.beta.conversations.start(
agent_id=router_agent.id,
inputs="Complex query",
handoff_execution="client"
)
Asiakastilassa saat siirtymätapahtumat ja päätät, mitä tehdä jokaisessa vaiheessa. Valitse tämä tila, jos ihmisen on hyväksyttävä arkaluonteinen siirtymä, jos sinun on kirjattava jokainen siirtymä tarkastusta varten tai jos liiketoimintalogiikkasi vaatii reititystä, jota malli ei pysty päättelemään. Näitä kahta tilaa käsittelevä oppitunti kertoo yksityiskohtaisesti kompromisseista.
Tulostetapahtumat
Kun siirtymä tapahtuu, tulosteisiin ilmestyy kolmen tyyppisiä tapahtumia:
agent.handoff– Agentti A siirtää vastuun agentille B (sisältää molempien agenttien tunnisteet)tool.execution– Agentti B suorittaa työkalunsamessage.output– Agentti B:n vastaus
for entry in response.outputs:
if entry.type == "agent.handoff":
print(f"Transfer: {entry.previous_agent_id} → {entry.next_agent_id}")
elif entry.type == "tool.execution":
print(f"Tool executed: {entry.tool_name}")
elif entry.type == "message.output":
print(f"Response: {entry.content}")
Kirjoita tämä silmukka jo ensimmäisten kokeilujesi aikana, ennen kuin järjestelmä on valmis. Moniagenttijärjestelmä, joka vastaa oikein mutta jonka polkua et voi jäljittää, muuttuu mahdottomaksi korjata sinä päivänä, kun se vastaa väärin: et tiedä, ohjasiko reititysagentti väärin, suoriutuiko erikoisagentti huonosti vai katosiko siirtymä matkan varrella. Kolme oikeaan paikkaan sijoitettua print-komentoa pelastaa sinut tältä sokeudelta.
Keskeiset asiat
- Siirtymät mahdollistavat agentin luovuttavan hallinnan toiselle erikoistuneelle agentille
- Tyypillinen arkkitehtuuri: reititysagentti → erikoisagentit
- Palvelintila = täysin automaattinen; asiakastila = manuaalinen hallinta siirtymille
- Jokainen siirtymä tuottaa jäljitettävän tapahtuman tulosteisiin
- Agenttien väliselle ketjutukselle ei ole syvyysrajaa