Ievads vairāku aģentu nodošanai
Šajā lapā
Kāpēc orķestrēt vairākus aģentus?
Līdz šim tu esi strādājis ar atsevišķiem aģentiem: viens aģents, tā instrukcijas, tā rīki. Šis modelis ātri sasniedz savas robežas, kad uzdevums prasa dažādas prasmes. Paņemsim tirgus izpētes pieprasījumu: tev jāmeklē dati, jāveic to skaitliskā analīze un pēc tam jāizveido lasāms ziņojums. Tu vari mēģināt uzticēt visu vienam aģentam, taču instrukcijas kļūs arvien garākas ar katru jauno prasību, līdz tās pārvērtīsies pretrunīgā teksta bluķī, ko modelis izpilda arvien mazāk efektīvi. Mistral API piedāvā alternatīvu: specializētu aģentu ķēdes, kas nodod stafeti.
Šī ir nodošanas (handoff) koncepcija: viens aģents nodod sarunas vadību citam aģentam, kas ir labāk aprīkots konkrētā apakšuzdevuma veikšanai. Pati saruna nemainās – mainās tikai roka, kas tur grožus.
Kā darbojas nodošana
Mehānisms precīzi atspoguļo to, ko dara cilvēku organizācija, saskaroties ar sarežģītu pieprasījumu. Maršrutētāja aģents saņem sākotnējo vaicājumu, līdzīgi kā telefona centrāles operators, kas pieņem zvanu. Tas analizē pieprasījumu, identificē, kurš specializētais aģents ir vispiemērotākais tā apstrādei, un pēc tam nodod sarunu šim speciālistam. Speciālists veic savu apakšuzdevumu un, ja tas saskaras ar nepieciešamību, kas pārsniedz tā kompetenci, var nodot sarunu trešajam aģentam. Galīgā atbilde nonāk pie lietotāja, kurš redz tikai vienu sarunu biedru.
No tā izriet četras priekšrocības, kas viena otru pastiprina. Pirmkārt, specializācija: katram aģentam ir ierobežota darbības joma un precīzas instrukcijas. Tīmekļa meklēšanas aģents neveic aprēķinus un otrādi. Tas uzlabo atbilžu kvalitāti, jo neviena instrukcija nav pretrunā ar citu. Otrkārt, uzturamība: specialista uzvedības maiņa neietekmē pārējos. Tu vari nomainīt tā modeli, instrukcijas vai rīkus, nepieskaroties pārējai sistēmai. Treškārt, tieši no tā izriet mērogojamība – jaunas spējas pievienošana nozīmē jauna specializēta aģenta izveidi un tā reģistrēšanu kā nodošanas mērķi. Maršrutētājs to izvēlas, kad pieprasījums atbilst tā profilam. Visbeidzot, izsekojamība: katra nodošana ģenerē agent.handoff notikumu izvados, ļaujot tev pēc fakta rekonstruēt, kurš aģents apstrādāja kuru pieprasījuma daļu, neveicot papildu instrumentēšanu.
Tipiska arhitektūra
Lietotājs
│
▼
Maršrutētāja aģents (orķestrators)
├── Tīmekļa meklēšanas aģents (web_search)
├── Kalkulatora aģents (code_interpreter)
├── Rakstnieka aģents (specific instructions)
└── Dokumentu aģents (document_library)
Maršrutētājs dinamiski lemj, kuram aģentam nodot sarunu, balstoties uz vaicājumu. Tas nav ierobežots tikai ar vienu nodošanu: tas var arī orķestrēt secīgas plūsmas, piemēram, meklēt, tad aprēķināt, tad rakstīt, kur katrs solis bagātina kontekstu nākamajam.
Izsekosim reālam pieprasījumam: „Atrodi pašreizējo ECB procentu likmi un aprēķini salikto efektu 10 gadu periodā 100 000 € ieguldījumam.” Finanšu aģents, darbojoties kā maršrutētājs, saņem pieprasījumu un redz, ka tas satur divas atšķirīgas vajadzības. Tas vispirms nodod sarunu tīmekļa meklēšanas aģentam, kas iegūst pašreizējo ECB likmi – datus, kurus neviens modelis nevar zināt no atmiņas. Otrā nodošana nodod vadību kalkulatora aģentam, kas piemēro salikto procentu formulu tikko atrastajai likmei. Lietotājs saņem vienu rezultātu, ko papildina meklēšanas avoti un aprēķina detaļas.
Izpildes režīmi
Mistral API piedāvā divus nodošanas režīmus, un tu izvēlies vienu no tiem sarunas sākumā. Servera režīms ir noklusējuma variants.
response = client.beta.conversations.start(
agent_id=router_agent.id,
inputs="Complex query",
handoff_execution="server"
)
Mistral tad automātiski veic visu: nodošanas, aģentu izpildi un atbilžu sintēzi. Tu saņem tikai galīgo rezultātu, kas ir ērti un pietiekami, kamēr tev nav nepieciešams kaut ko iejaukt starp soļiem.
response = client.beta.conversations.start(
agent_id=router_agent.id,
inputs="Complex query",
handoff_execution="client"
)
Klienta režīmā tu saņem nodošanas notikumus un pats lemj, ko darīt katrā solī. Izvēlies šo režīmu, ja cilvēkam ir jāapstiprina sensitīva nodošana, ja tev ir jāreģistrē katra nodošana revīzijas nolūkos vai ja tava biznesa loģika prasa maršrutēšanu, ko modelis nevar paredzēt. Nodarbībā, kas veltīta šiem diviem režīmiem, tiks detalizēti aplūkoti kompromisi.
Izvades notikumi
Kad notiek nodošana, izvados parādās trīs veidu notikumi:
agent.handoff— Aģents A nodod vadību aģentam B (satur abu aģentu ID)tool.execution— Aģents B izpilda savus rīkusmessage.output— Aģenta B atbilde
for entry in response.outputs:
if entry.type == "agent.handoff":
print(f"Transfer: {entry.previous_agent_id} → {entry.next_agent_id}")
elif entry.type == "tool.execution":
print(f"Tool executed: {entry.tool_name}")
elif entry.type == "message.output":
print(f"Response: {entry.content}")
Uzraksti šo ciklu jau savu pirmo mēģinājumu laikā, pat pirms sistēma ir pilnībā pabeigta. Vairāku aģentu sistēma, kas atbild pareizi, bet kuras ceļu nevari izsekot, kļūst neiespējami labojama dienā, kad tā sniedz nepareizu atbildi: tu nezināsi, vai maršrutētājs novirzīja nepareizi, vai speciālists strādāja slikti, vai arī nodošana pazuda ceļā. Trīs pareizi novietoti print paziņojumi pasargā tevi no šīs aklosti.
Galvenās atziņas
- Nodošana ļauj aģentam nodot vadību citam specializētam aģentam
- Tipiska arhitektūra: maršrutētāja aģents → specializētie aģenti
- Servera režīms = pilnībā automātisks; klientu režīms = manuāla nodošanu kontrole
- Katra nodošana ģenerē izsekojamu notikumu izvados
- Nav ierobežojumu aģentu ķēdes dziļumam