Mitme agendi päringu täielik töövoog
Sellel lehel
Päringust vastuseni
Ajavahemikul, mil saadad oma päringu, kuni vastuse ilmumiseni, toimub palju rohkem kui tavalise LLM-i väljakutse korral. Selle tee samm-sammuline jälgimine aitab sul mõista ebatavalist latentsust, liiga üldist vastust või üllatavat tokenite arvet.
1. samm: päringu vastuvõtmine ja analüüs
Kui sinu päring jõuab mudelini grok-4.20-multi-agent-0309, alustab juhtiv agent selle analüüsiga. Ta määrab ülesande olemuse – faktiline uurimistöö, võrdlev analüüs, süntees –, hindab, mitut aspekti tuleb uurida, tuvastab vajalikud tööriistad ja valib strateegia alluvate agentidele ülesannete delegeerimiseks.
Sa seda esmast analüüsi ei näe: see on osa juhtiva agendi tasustatavast arutluskäigust ja ei ilmu kunagi vastusesse. See on ka punkt, kus ebaselge sõnastus tekitab kõige rohkem kahju, sest kõik järgnev põhineb sellel esmasel lugemisel.
2. samm: alluvate agentide käivitamine
Seejärel delegeerib juhtiv agent alaülesanded. Iga alluv agent saab konkreetse korralduse ja asub tööle paralleelselt teistega. Eelnevalt mainitud Euroopa pilvestrateegiate päringu puhul näeks jaotus välja selline: üks agent uurib teenusepakkujate värskeid teateid, teine analüüsib regulatiivseid aspekte (GDPR, AI Act), kolmas võrdleb hinnakavasid ja neljas uurib tehnilist dokumentatsiooni.
16 agendi korral muutub jaotus veelgi peenemaks ja hõlmab rohkem vaatenurki: iga teenusepakkuja võib saada oma uurija ja regulatiivsed aspektid saab jagada mitme jurisdiktsiooni vahel.
3. samm: uurimistöö ja arutelu
Alluvad agendid ei tööta isoleeritult. Nad kasutavad sisseehitatud tööriistu – web_search, x_search, code_execution ja teisi –, vahetavad omavahel teavet, et vältida dubleerimist ja täpsustada suundi, ning juhivad juhtiva agendi tähelepanu ootamatutele leidudele, mis väärivad edasist uurimist. Just see sisemine suhtlus eristab mitme agendi süsteemi lihtsast paralleelsest väljakutsest: agent, kes leiab kolleegi omaga vastuolus olevat teavet, saab uurimistöö ümber suunata.
See on ka kõige pikem faas ja kaugelt kõige kulukam, sest iga agent genereerib oma sisendi, väljundi ja arutlustokenid. Kui päring töötab minut aega, ilma et teksti ilmuks, kulubki see aeg just siia.
4. samm: juhtiva agendi süntees
Kui alluvad agendid on töö lõpetanud või arutluseelarve on ammendunud, võtab juhtiv agent ohjad enda kätte ja käivitab alati sama jada. Kõigepealt kogub ta kõik tulemused kokku ja eemaldab dubleerimised – pilvepäringu puhul toovad tõenäoliselt kolm agent välja sama regionaalse kättesaadavuse teate, mis peaks ilmuma vaid üks kord. Seejärel struktureerib ta teabe sinu soovitud vormingusse, viitab vajadusel allikatele ja koostab lõpliku vastuse.
Just siin otsustatakse tulemuse tajutav kvaliteet: sama uurimistöö põhjal saad kas üldistava lõigu või loetava võrdlustabeli, sõltuvalt sellest, kui täpselt kirjeldasid oodatavat väljundit.
Mida sa vastu saad
Vastus sisaldab juhtiva agendi kirjutatud teksti – tema sünteesi –, kõigi agentide, sealhulgas juhtiva agendi, tehtud tööriistakutseid ja juhul, kui lubasid use_encrypted_content=True, krüpteeritud sisuplokki. Need tööriistakutsed on ainus aken, mille kaudu näed kulisside taga tehtud tegelikku tööd.
Ülejäänu ei jõua sinuni kunagi: mitte alluvate agentide sisemine arutluskäik lihttekstina, mitte nende omavaheline suhtlus, mitte juhtiva agendi valitud delegeerimisstrateegia üksikasjad. Seega pole mõtet nende elementide ümber ehitada jälgimistööriista – need ei lahku mudelist kunagi.
Voogedastus
Voogedastusrežiimis näed, kuidas juhtiva agendi vastus järk-järgult kujuneb. Parameeter verbose_streaming läheb veelgi kaugemale ja saadab sulle tööriistakutsed nende toimumise hetkel, mis annab sulle otsese vaate agentide tegevusele.
Kasu on pikkade päringute puhul reaalne: saad jälgida, kuidas veebiotsingud üksteise järel käivituvad, samal ajal kui agendid töötavad, ja näidata oma kasutajale midagi muud kui staatilist laadimisanimatsooni.
Latentsuse mõju
Mitme agendi süsteem on oma olemuselt aeglasem kui tavaline väljakutse kolmel kumulatiivsel põhjusel: alluvad agendid teevad tööd paralleelselt, kuid kooskõlastamisel on oma hind; juhtiv agent peab enne sünteesimist ootama kõiki tulemusi ja latentsus kasvab kaasatud agentide arvuga.
See annab sulle lihtsa disainireegli. Interaktiivseks kasutamiseks – vestlusrobot, otsinguriba – jää 4 agendi juurde. Reserveeri 16 agentit asünkroonsete ülesannete jaoks: taustal genereeritav aruanne, öine jälgimistöö või analüüs, mille tulemust kasutaja hiljem üle vaatab.
Peamised punktid
- Töövoog koosneb 4 sammust: analüüs → delegeerimine → uurimistöö → süntees
- Alluvad agendid töötavad paralleelselt ja vahetavad omavahel teavet
- Saad vastu ainult juhtiva agendi vastuse ja tööriistakutsed
- Voogedastus parameetriga
verbose_streamingvõimaldab tegevust reaalajas jälgida - Latentsus on suurem kui tavalise väljakutse puhul, eriti 16 agendi kasutamisel