Visas daugiaagenčio užklausos eigas
Šiame puslapyje
Nuo užklausos iki atsakymo
Tarp momento, kai išsiunti užklausą, ir momento, kai pasirodo atsakymas, vyksta daug daugiau procesų nei įprasto LLM kvietimo atveju. Žingsnis po žingsnio perėję šį kelią, geriau suprasi, kaip aiškinti neįprastą delsą, pernelyg bendrą atsakymą ar netikėtą tokenų sąskaitą.
1 žingsnis: užklausos gavimas ir analizė
Kai tavo užklausa pasiekia modelį grok-4.20-multi-agent-0309, pagrindinis agentas pirmiausia ją analizuoja. Jis nustato užduoties pobūdį – faktų paieška, lyginamoji analizė, sintezė – įvertina, kiek aspektų reikia išnagrinėti, identifikuoja reikalingus įrankius ir nusistato strategiją, kaip deleguoti darbus pavaldiniams agentams.
Šios pradinės analizės nematai: ji yra pagrindinio agento apmokestinamo samprotavimo dalis ir niekada neatsiranda atsakyme. Būtent čia dviprasmiški formulavimai daro didžiausią žalą, nes visas tolesnis procesas remiasi šiuo pirmuoju perskaitymu.
2 žingsnis: pavaldinių agentų paleidimas
Toliau pagrindinis agentas deleguoja potikes. Kiekvienas pavaldinis agentas gauna konkretų nurodymą ir pradeda dirbti lygiagrečiai su kitais. Minėtai užklausai apie Europos debesijos strategijas suskirstymas atrodytų taip: vienas agentas tiria naujausius tiekėjų pranešimus, antras analizuoja reguliavimo aspektus (BDAR, DI aktas), trečias lygina kainodaros planus, o ketvirtas nagrinėja techninę dokumentaciją.
Esant 16 agentų, suskirstymas tampa dar tikslesnis ir apima daugiau kampų: kiekvienam tiekėjui gali tekti savo tyrinėtojas, o reguliavimo aspektai gali būti padalinti tarp kelių jurisdikcijų.
3 žingsnis: tyrimas ir diskusija
Pavaldiniai agentai nedirba izoliuotai. Jie naudoja integruotus įrankius – web_search, x_search, code_execution ir kitus – keičiasi informacija tarpusavyje, kad išvengtų dubliavimosi ir patikslintų savo kryptis, bei signalizuoja pagrindiniam agentui apie netikėtus radinius, kuriuos verta tirti toliau. Šis vidinis pokalbis yra tai, kas išskiria daugiaagentę sistemą nuo paprasto lygiagrečio kvietimo: agentas, randantis informaciją, prieštaraujančią kolegos radiniams, gali nukreipti tyrimą kita linkme.
Tai taip pat yra ilgiausia ir gerokai brangiausia fazė, nes kiekvienas agentas generuoja savo įvesties, išvesties ir samprotavimo tokenus. Kai užklausa vyksta minutę, o tekstas nerodomas, laikas eikvojamas būtent čia.
4 žingsnis: pagrindinio agento sintezė
Kai pavaldiniai agentai baigia darbą arba pasiekiamas samprotavimo biudžetas, perima pagrindinis agentas ir visada vykdo tą pačią seką. Pirmiausia jis surenka visus rezultatus, tada pašalina dublikatus – debesijos užklausos atveju trys agentai greičiausiai rastų tą patį regioninio prieinamumo pranešimą, kuris turėtų atsirasti tik vieną kartą. Toliau jis struktūrizuoja informaciją tavo prašytu formatu, cituoja šaltinius, kur tai aktualu, ir galiausiai suformuoja galutinį atsakymą.
Būtent čia lemiamas suvokiamas rezultato kokybės lygis: turint tuos pačius tyrimo duomenis, gausi arba bendrą pastraipą, arba skaitomą lyginamąją lentelę – tai priklauso nuo to, kaip tiksliai apibūdinai laukiamą rezultatą.
Ką gauni
Atsakyme yra pagrindinio agento parašytas tekstas – jo sintezė, visų agentų, įskaitant pagrindinį, atlikti įrankių kvietimai ir, jei įgalinai use_encrypted_content=True, užšifruoto turinio blokas. Šie įrankių kvietimai yra tavo vienintelis langas į užkulisiuose atliktą darbą.
Visa kita iki tavęs nepasiekia: nei pavaldinių agentų vidinis samprotavimas grynuoju tekstu, nei jų tarpusavio susirašinėjimai, nei pagrindinio agento pasirinktos delegavimo strategijos detalės. Todėl nėra prasmės kurti stebėsenos įrankio, besiremiančio šiais elementais – jie niekada neišeina iš modelio ribų.
Srautinis perdavimas (Streaming)
Srautiniu režimu matai, kaip palaipsniui formuojasi pagrindinio agento atsakymas. Parametras verbose_streaming eina dar toliau ir siunčia tau įrankių kvietimus jiems vykstant, taip suteikdamas tiesioginį vaizdą į agentų veiklą.
Ilgesnėms užklausoms nauda yra reali: gali stebėti, kaip agentams dirbant vienas po kito vykdomos interneto paieškos, ir rodyti savo naudotojui ką nors daugiau nei tik statinį apkrovos indikatorių.
Delso pasekmės
Daugiaagentė sistema iš esmės yra lėtesnė nei standartinis kvietimas dėl trijų kaupiamųjų priežasčių: nors pavaldiniai agentai dirba lygiagrečiai, koordinavimas turi savo kainą; pagrindinis agentas turi laukti visų rezultatų prieš atlikdamas sintezę; o delsa didėja didėjant dalyvaujančių agentų skaičiui.
Tai suteikia tau paprastą projektavimo taisyklę. Interaktyviam naudojimui – pokalbių botui, paieškos juostai – laikykis 4 agentų ribos. 16 agentų palik asinchroninėms užduotims: fone generuojamai ataskaitai, naktinei stebėsenos užduočiai ar analizei, kurios rezultatą naudotojas peržiūrės vėliau.
Svarbiausi punktai
- Eiga susideda iš 4 žingsnių: analizė → delegavimas → tyrimas → sintezė
- Pavaldiniai agentai dirba lygiagrečiai ir keičiasi informacija tarpusavyje
- Gauni tik pagrindinio agento atsakymą ir įrankių kvietimus
- Srautinis perdavimas su
verbose_streamingleidžia stebėti veiklą realiuoju laiku - Delsa yra didesnė nei standartinio kvietimo, ypač naudojant 16 agentų