Celoten potek zahteve z več agenti
Na tej strani
Od zahteve do odgovora
Med trenutkom, ko pošlješ svojo zahtevo, in trenutkom, ko se prikaže odgovor, se zgodi veliko več kot pri običajnem klicu LLM. Sledenje tej poti korak za korakom ti bo v pomoč, ko boš moral razložiti nenavadno zakasnitev, preveč splošen odgovor ali presenetljiv obračun žetonov.
1. korak: sprejem in analiza zahteve
Ko tvoja zahteva prispe do modela grok-4.20-multi-agent-0309, vodilni agent najprej opravi njeno analizo. Določi naravo naloge – dejansko raziskovanje, primerjalna analiza, sinteza – oceni, koliko vidikov je treba raziskati, identificira orodja, ki jih bo morda potreboval, in se odloči za strategijo delegiranja podrejenim agentom.
Te začetne analize ne vidiš: je del obračunanega razmišljanja vodilnega agenta in se nikoli ne pojavi v odgovoru. Prav tukaj dvoumna formulacija naredi največ škode, saj vse, kar sledi, temelji na tem prvem branju.
2. korak: zagon podrejenih agentov
Vodilni agent nato delegira podnaloge. Vsak podrejeni agent prejme specifično navodilo in začne delovati vzporedno z drugimi. Pri prej omenjeni zahtevi glede evropskih strategij v oblaku bi bila razdelitev videti takole: en agent raziskuje nedavna sporočila ponudnikov, drugi analizira regulativne vidike (GDPR, zakon o AI), tretji primerja cenovne ravni, četrti pa preučuje tehnično dokumentacijo.
Pri 16 agentih je razčlenitev še bolj fina in zajema več kotov: vsak ponudnik lahko dobi svojega raziskovalca, regulativni vidiki pa se lahko razdelijo med več jurisdikcij.
3. korak: raziskovanje in razprava
Podrejeni agenti ne delujejo v izolaciji. Uporabljajo vgrajena orodja – web_search, x_search, code_execution in druga –, izmenjujejo informacije med seboj, da se izognejo podvajanju in izboljšajo svoje sledi, ter vodilnemu agentu sporočijo nepričakovane ugotovitve, ki si zaslužijo nadaljnje raziskovanje. Ta notranji pogovor je tisto, kar ločuje večagentni sistem od preprostega vzporednega klica: agent, ki najde informacije, ki nasprotujejo ugotovitvam kolega, lahko preusmeri raziskavo.
To je tudi najdaljša faza in daleč najdražja, saj vsak agent ustvari svoje vhodne, izhodne in razmislečne žetone. Ko zahteva teče minuto, ne da bi se pojavilo kakšno besedilo, čas mine prav tukaj.
4. korak: sinteza s strani vodilnega agenta
Ko podrejeni agenti končajo ali ko se doseže proračun za razmišljanje, prevzame vodilni agent in vedno izvede isto zaporedje. Najprej zbere vse rezultate, nato odstrani podvojene vnose – pri zahtevi v zvezi z oblakom bodo verjetno trije agenti naleteli na isto napoved o regionalni razpoložljivosti, ta pa naj se pojavi le enkrat. Nato strukturira informacije v formatu, ki si ga zahteval, navede vire, kjer je to relevantno, in nazadnje ustvari končni odgovor.
Tukaj se odloča o zaznani kakovosti rezultata: z istim raziskovanjem boš dobil bodisi splošen odstavek bodisi berljivo primerjalno tabelo, odvisno od tega, kako natančno si opisal pričakovani izdelek.
Kaj prejmeš
Odgovor vsebuje besedilo, ki ga je napisal vodilni agent – njegovo sintezo –, klice orodij, ki so jih izvedli vsi agenti, vključno z vodilnim, in, če si omogočil use_encrypted_content=True, blok šifrirane vsebine. Ti klici orodij so tvoje edino okno v delo, ki se dejansko odvija v ozadju.
Preostalo nikoli ne pride do tebe: ne notranje razmišljanje podrejenih agentov v navadnem besedilu, ne izmenjave med njimi, ne podrobnosti strategije delegiranja, ki jo je izbral vodilni agent. Zato nima smisla graditi orodja za spremljanje okoli teh elementov – nikoli ne zapustijo modela.
Pretakanje (Streaming)
V načinu pretakanja vidiš, kako se odgovor vodilnega agenta postopoma gradi. Parameter verbose_streaming gre še dlje in ti pošilja tudi klice orodij, ko se zgodijo, kar ti daje neposreden vpogled v dejavnost agentov.
Prednost je pri dolgih zahtevah resnična: lahko opazuješ, kako se spletna iskanja sprožajo eno za drugim, medtem ko agenti delajo, in svojemu uporabniku prikažeš nekaj drugega kot statični indikator nalaganja.
Posledice za zakasnitev
Večagentni sistem je po naravi počasnejši od običajnega klica zaradi treh kumulativnih razlogov: podrejeni agenti sicer delajo vzporedno, vendar ima usklajevanje svojo ceno, vodilni agent mora počakati na vse rezultate, preden opravi sintezo, zakasnitev pa narašča s številom vključenih agentov.
To ti daje preprosto oblikovalsko pravilo. Za interaktivno uporabo – klepetalni bot, iskalno vrstico – ostani pri 4 agentih. 16 agentov prihrani za asinhrona opravila: poročilo, ustvarjeno v ozadju, nočno nalogo spremljanja ali analizo, katere rezultat bo uporabnik pregledal kasneje.
Ključne ugotovitve
- Potek sledi 4 korakom: analiza → delegiranje → raziskovanje → sinteza
- Podrejeni agenti delujejo vzporedno in med seboj izmenjujejo informacije
- Prejmeš le odgovor vodilnega agenta in klice orodij
- Pretakanje z
verbose_streamingti omogoča spremljanje dejavnosti v realnem času - Zakasnitev je večja kot pri običajnem klicu, še posebej pri 16 agentih