Pilnais daudzagentu pieprasījuma cikls
Šajā lapā
No pieprasījuma līdz atbildei
Laikā starp brīdi, kad nosūti savu pieprasījumu, un brīdi, kad parādās atbilde, notiek daudz vairāk nekā standarta LLM izsaukuma gadījumā. Šī ceļa izsekošana soli pa solim tev palīdzēs, ja būs jāinterpretē neparasta latentce, pārāk vispārīga atbilde vai negaidīts tokena rēķins.
1. solis: pieprasījuma saņemšana un analīze
Kad tavs pieprasījums sasniedz modeli grok-4.20-multi-agent-0309, vadošais agents to vispirms analizē. Tas nosaka uzdevuma raksturu – faktoloģiska izpēte, salīdzinoša analīze, sintēze –, novērtē, cik aspektus jāizpēta, identificē nepieciešamos rīkus un izvēlas stratēģiju, kā deleģēt uzdevumus apakšagentiem.
Tu šo sākotnējo analīzi neredzi: tā ir daļa no vadošā agenta apmaksātās spriešanas un nekad neparādās atbildē. Tieši šeit neskaidra formulējuma radītais kaitējums ir vislielākais, jo viss turpmākais balstās uz šo pirmo lasījumu.
2. solis: apakšagentu palaišana
Tālāk vadošais agents deleģē apakšuzdevumus. Katrs apakšagents saņem konkrētu norādi un sāk strādāt paralēli pārējiem. Iepriekš minētajam pieprasījumam par Eiropas mākoņu stratēģijām sadalījums izskatītos šādi: viens agents pēta jaunākos pakalpojumu sniedzēju paziņojumus, otrais analizē normatīvos aspektus (GDPR, AI likums), trešais salīdzina cenu plānus, bet ceturtais izskata tehnisko dokumentāciju.
Izmantojot 16 agentus, sadalījums kļūst smalkāks un aptver vairāk leņķu: katram pakalpojumu sniedzējam var būt savs pētnieks, bet normatīvie aspekti var tikt sadalīti starp vairākām jurisdikcijām.
3. solis: izpēte un diskusija
Apakšagenti nestrādā izolēti. Tie izmanto iebūvētos rīkus – web_search, x_search, code_execution un citus –, apmainās ar informāciju savā starpā, lai izvairītos no dublikātiem un precizētu savas izpētes virzienus, kā arī ziņo vadošajam agentam par negaidītiem atklājumiem, kas pelnījuši turpmāku izpēti. Tieši šī iekšējā saruna atšķir daudzagentu sistēmu no vienkārša paralēla izsaukuma: agents, kas atrod informāciju, kas ir pretrunā ar kolēģa datiem, var novirzīt izpēti citā gultnē.
Tā ir arī visgarākā fāze un daleko dārgākā, jo katrs agents ģenerē savus ievades, izvades un spriešanas tokenus. Ja pieprasījums rit minūti, bet teksts neparādās, laiks tiek tērēts tieši šeit.
4. solis: vadošā agenta sintēze
Kad apakšagenti ir pabeiguši darbu vai ir sasniegts spriešanas budžets, vadību pārņem vadošais agents, kas vienmēr izpilda vienu un to pašu secību. Tas vispirms savāc visus rezultātus, pēc tam dzēš dublikātus – mākoņu pieprasījuma gadījumā trīs agenti, visticamāk, būs atraduši vienu un to pašu reģionālās pieejamības paziņojumu, un tam jāparādās tikai vienreiz. Tad tas strukturē informāciju tavā pieprasītajā formātā, attiecīgajos gadījumos norāda avotus un visbeidzot ģenerē gala atbildi.
Tieši šeit tiek noteikta rezultāta uztvertā kvalitāte: ar vienu un to pašu izpēti tu vari iegūt vai nu visaptverošu rindkopu, vai lasāmu salīdzinājuma tabulu atkarībā no tā, cik precīzi esi aprakstījis sagaidāmo izstrādi.
Ko tu saņem
Atbilde satur vadošā agenta rakstīto tekstu – tā sintēzi –, visu agentu, tostarp vadošā agenta, veiktos rīku izsaukumus un, ja esi aktivizējis use_encrypted_content=True, šifrēta satura bloku. Šie rīku izsaukumi ir tavs vienīgais logs uz aizkulisēs veikto darbu.
Pārējais līdz tevim nenonāk: ne apakšagentu iekšējā spriešana brīvā tekstā, ne to savstarpējā apmaiņa, ne vadošā agenta izvēlētās deleģēšanas stratēģijas detaļas. Tāpēc nav jēgas veidot uzraudzības rīku, kas balstīts uz šiem elementiem – tie nekad neatstāj modeli.
Straumēšana
Straumēšanas režīmā tu redzi, kā pakāpeniski veidojas vadošā agenta atbilde. Parametrs verbose_streaming iet vēl tālāk un nosūta tev rīku izsaukumus to veikšanas brīdī, nodrošinot tiešu skatu uz agentu darbību.
Ilgiem pieprasījumiem ieguvums ir reāls: tu vari vērot, kā viens pēc otra tiek veikti meklējumi tīmeklī, kamēr agenti strādā, un rādīt savam lietotājam kaut ko citu, nevis statisku ielādes indikatoru.
Ietekme uz latentci
Daudzagentu sistēma pēc savas būtības ir lēnāka nekā standarta izsaukums trīs kumulatīvu iemeslu dēļ: lai gan apakšagenti strādā paralēli, koordinācijai ir sava cena, vadošajam agentam jāgaida visi rezultāti, pirms tas veic sintēzi, un latentce pieaug līdz ar iesaistīto agentu skaitu.
No tā izriet vienkāršs projektēšanas noteikums. Interaktīvai lietošanai – tērzēšanas robotam, meklēšanas joslai – paliec pie 4 agentiem. 16 agentus atstāj asinhroniem uzdevumiem: fonā ģenerētam ziņojumam, nakts monitoringa darbam vai analīzei, kuras rezultātu lietotājs apskatīs vēlāk.
Galvenās atziņas
- Cikls norisinās 4 soļos: analīze → deleģēšana → izpēte → sintēze
- Apakšagenti strādā paralēli un apmainās ar informāciju savā starpā
- Tu saņem tikai vadošā agenta atbildi un rīku izsaukumus
- Straumēšana ar
verbose_streamingļauj sekot līdzi darbībai reāllaikā - Latentce ir augstāka nekā standarta izsaukumam, it īpaši, izmantojot 16 agentus