Celý priebeh požiadavky viacerých agentov
Na tejto strane
Od požiadavky po odpoveď
Medzi okamihom, keď odošleš svoju požiadavku, a momentom, keď sa objaví odpoveď, sa deje oveľa viac než pri štandardnom volaní LLM. Postupné prejdutie tejto cesty ti pomôže, keď budeš potrebovať interpretovať nezvyčajnú latenciu, príliš všeobecnú odpoveď alebo prekvapivú faktúru za tokeny.
Krok 1: Prijatie a analýza požiadavky
Keď tvoja požiadavka dorazí k modelu grok-4.20-multi-agent-0309, hlavný agent ju začne analyzovať. Určí povahu úlohy – faktický výskum, komparatívna analýza, syntéza – posúdi, koľko aspektov treba preskúmať, identifikuje nástroje, ktoré môže potrebovať, a stanoví svoju stratégiu delegovania na podriadených agentov.
Túto počiatočnú analýzu nevidíš: je súčasťou fakturovaného uvažovania hlavného agenta a nikdy sa nezobrazí v odpovedi. Je to tiež bod, kde nejednoznačné formulácie spôsobujú najväčšie škody, pretože všetko, čo nasleduje, stojí na tomto prvotnom prečítaní.
Krok 2: Spustenie podriadených agentov
Hlavný agent následne deleguje dielčie úlohy. Každý podriadený agent dostane špecifickú smernicu a začne pracovať paralelne s ostatnými. Pri vyššie spomenutej požiadavke týkajúcej sa európskych stratégií cloud computingu by rozdelenie vyzeralo takto: jeden agent skúma nedávne oznámenia poskytovateľov, druhý analyzuje regulačné aspekty (GDPR, AI Act), tretí porovnáva cenové hladiny a štvrtý skúma technickú dokumentáciu.
Pri 16 agentoch je rozdelenie jemnejšie a pokrýva viac uhlov pohľadu: každý poskytovateľ môže mať vlastného výskumníka a regulačné aspekty sa môžu rozdeliť medzi niekoľko jurisdikcií.
Krok 3: Výskum a diskusia
Podriadení agenti nepracujú v izolácii. Využívajú vstavané nástroje – web_search, x_search, code_execution a ďalšie –, vymieňajú si informácie, aby sa vyhli duplicitám a spresnili svoje smerovanie, a signalizujú hlavnému agentovi neočakávané zistenia, ktoré si zaslúžia ďalšie preskúmanie. Práve táto vnútorná konverzácia odlišuje viacerých agentov od jednoduchého paralelného volania: agent, ktorý nájde informácie odporujúce zisteniam kolegu, môže výskum presmerovať.
Je to tiež najdlhšia fáza a zďaleka najdrahšia, pretože každý agent generuje svoje vlastné vstupné, výstupné a uvažovacie tokeny. Keď požiadavka beží minútu bez toho, aby sa objavil nejaký text, práve sem smeruje tento čas.
Krok 4: Syntéza hlavným agentom
Akonáhle podriadení agenti skončia alebo sa vyčerpá rozpočet na uvažovanie, preberá iniciatívu hlavný agent a vždy spustí rovnakú sekvenciu. Najprv zhromaždí všetky výsledky, potom odstráni duplicity – pri požiadavke na cloud pravdepodobne traja agenti narazia na rovnaké oznámenie o regionálnej dostupnosti, ktoré by sa malo objaviť len raz. Následne štruktúruje informácie do formátu, ktorý si vyžiadal, cituje zdroje tam, kde je to relevantné, a nakoniec vytvorí finálnu odpoveď.
Práve tu sa rozhoduje o vnímanej kvalite výsledku: pri rovnakom výskume dostaneš buď všeobecný odsek, alebo čitateľnú porávnaciu tabuľku, v závislosti od toho, ako presne si opísal očakávaný výstup.
Čo dostaneš
Odpoveď obsahuje text napísaný hlavným agentom – jeho syntézu –, volania nástrojov vykonané všetkými agentmi vrátane hlavného agenta a ak si povolil use_encrypted_content=True, aj blok so šifrovaným obsahom. Tieto volania nástrojov sú tvojim jediným oknom do práce, ktorá sa skutočne odohrala v zákulisí.
Zvyšok sa k tebe nikdy nedostane: ani vnútorné uvažovanie podriadených agentov v plain texte, ani výmeny, ktoré medzi sebou mali, ani detaily stratégie delegovania, ktorú hlavný agent zvolil. Nemá teda zmysel stavať okolo týchto prvkov nástroj na monitorovanie – nikdy neopustia model.
Streamovanie
V režime streamovania vidíš, ako sa odpoveď hlavného agenta postupne buduje. Parameter verbose_streaming ide ešte ďalej a posiela ti aj volania nástrojov, ako sa dejú, čo ti poskytuje priamy pohľad na aktivitu agentov.
Výhoda je reálna pri dlhých požiadavkách: môžeš sledovať, ako sa jedno za druhým spúšťajú webové vyhľadávania, zatiaľ čo agenti pracujú, a ukázať svojmu používateľovi niečo iné než statický indikátor načítavania.
Dôsledky pre latenciu
Práca s viacerými agentmi je inherentne pomalšia než štandardné volanie, a to z troch kumulatívnych dôvodov: podriadení agenti síce pracujú paralelne, ale koordinácia má svoju cenu, hlavný agent musí počkať na všetky výsledky pred syntézou a latencia rastie s počtom zapojených agentov.
To ti dáva jednoduché pravidlo pre dizajn. Pre interaktívne použitie – chatbot, vyhľadávacie pole – zostaň pri 4 agentoch. Vyhradzuj 16 agentov pre asynchrónne úlohy: správu generovanú na pozadí, nočnú úlohu monitorovania alebo analýzu, ktorej výsledok si používateľ prezrie až neskôr.
Kľúčové poznatky
- Priebeh nasleduje 4 kroky: analýza → delegovanie → výskum → syntéza
- Podriadení agenti pracujú paralelne a vymieňajú si medzi sebou informácie
- Dostaneš iba odpoveď hlavného agenta a volania nástrojov
- Streamovanie s
verbose_streamingti umožňuje sledovať aktivitu v reálnom čase - Latencia je vyššia než pri štandardnom volaní, najmä pri 16 agentoch