Egy többügynökös kérés teljes folyamata
Ezen az oldalon
A kéréstől a válaszig
A pillanat, amikor elküldöd a kérésedet, és a válasz megjelenése között sokkal több történik, mint egy szabványos LLM-hívás esetén. Ha lépésről lépésre követed ezt az utat, az segít majd értelmezni a szokatlan késleltetést, a túlságosan általános válaszokat vagy a meglepő tokenköltségeket.
1. lépés: A kérés fogadása és elemzése
Amikor a kérésed eléri a grok-4.20-multi-agent-0309 modellt, a vezető ügynök először elemzi azt. Meghatározza a feladat jellegét – tényfeltáró kutatás, összehasonlító elemzés, szintézis –, felméri, hány szempontot kell feltárni, azonosítja a szükséges eszközöket, és kiválasztja az alárendelt ügynököknek történő delegálás stratégiáját.
Ezt a kezdeti elemzést nem látod: ez a vezető ügynök számlázott következtetési folyamatának része, és soha nem jelenik meg a válaszban. Ez az a pont, ahol a kétértelmű megfogalmazás okozza a legnagyobb kárt, hiszen minden ezt követő lépés erre az első olvasatra épül.
2. lépés: Az alárendelt ügynökök indítása
A vezető ügynök ezt követően delegálja az alfeladatokat. Minden egyes alárendelt ügynök kap egy konkrét utasítást, és párhuzamosan kezd dolgozni a többiekkel. A korábban említett, európai felhőstratégiákról szóló kérés esetén a felosztás így nézne ki: az egyik ügynök a szolgáltatók legfrissebb bejelentéseit kutatja, a második a szabályozási szempontokat (GDPR, AI-törvény) elemzi, a harmadik az árszinteket hasonlítja össze, a negyedik pedig a technikai dokumentációt vizsgálja.
16 ügynök esetén a felbontás még finomabb, és több szempontot fed le: minden egyes szolgáltató kaphat saját kutatót, a szabályozási szempontok pedig több joghatóság szerint is szétválaszthatók.
3. lépés: Kutatás és egyeztetés
Az alárendelt ügynökök nem elszigetelten dolgoznak. Használják a beépített eszközöket – web_search, x_search, code_execution és mások –, információkat cserélnek egymással az ismétlések elkerülése és nyomvonalaik finomítása érdekében, valamint jelzik a vezető ügynöknek a váratlan felfedezéseket, amelyek további vizsgálatot érdemelnek. Ez a belső párbeszéd különbözteti meg a többügynökös rendszert az egyszerű párhuzamos hívástól: egy ügynök, amely egy kollégájáéval ellentmondó információt talál, új irányba terelheti a kutatást.
Ez egyben a leghosszabb fázis is, messze a legköltségesebb, mivel minden ügynök generálja a saját bemeneti, kimeneti és következtetési tokenjeit. Amikor egy kérés egy percig fut anélkül, hogy szöveg jelenne meg, ez az az idő, ami itt telik el.
4. lépés: Szintézis a vezető ügynök által
Miután az alárendelt ügynökök befejezték a munkájukat, vagy elérték a következtetési keretet, a vezető ügynök veszi át az irányítást, és mindig ugyanazt a sorrendet futtatja le. Először összegyűjti az összes eredményt, majd eltávolítja az ismétléseket – a felhős kérés esetén három ügynök valószínűleg ugyanazt a regionális elérhetőségi bejelentést hozta felszínre, és ennek csak egyszer kell szerepelnie. Ezt követően a kért formátumba rendezi az információkat, ahol releváns, hivatkozik a forrásokra, végül pedig előállítja a végső választ.
Itt dől el az eredmény észlelt minősége: ugyanazzal a kutatással vagy egy mindent felölelő bekezdést, vagy egy olvasható összehasonlító táblázatot kapsz, attól függően, hogy mennyire pontosan írtad le a várt deliverable-t.
Amit kapsz
A válasz tartalmazza a vezető ügynök által írt szöveget – a szintézist –, az összes ügynök (beleértve a vezetőt is) által végrehajtott eszközlehívásokat, és ha engedélyezted a use_encrypted_content=True beállítást, akkor egy titkosított tartalom blokkot is. Ezek az eszközlehívások jelentik az egyetlen ablakot a színfalak mögött végzett tényleges munkára.
A többi soha nem jut el hozzád: sem az alárendelt ügynökök nyílt szöveges belső következtetései, sem az egymással folytatott egyeztetéseik, sem a vezető ügynök által választott delegálási stratégia részletei. Nincs tehát értelme monitoring eszközt építeni ezekre az elemekre – azok soha nem hagyják el a modellt.
Streamelés
Streamelési módban láthatod, ahogy a vezető ügynök válasza fokozatosan felépül. A verbose_streaming paraméter még tovább megy, és valós időben elküldi neked az eszközlehívásokat is, ami közvetlen betekintést nyújt az ügynökök tevékenységébe.
Ennek a valódi előnye hosszú kéréseknél jelentkezik: láthatod, ahogy az ügynökök munkája közben egymás után indulnak a webes keresések, és valami mást mutathatsz a felhasználódnak, mint egy statikus betöltő animációt.
Késleltetési vonatkozások
A többügynökös rendszer inherent módon lassabb, mint egy szabványos hívás, három halmozódó ok miatt: az alárendelt ügynökök párhuzamosan dolgoznak ugyan, de a koordinációnak van költsége; a vezető ügynöknek meg kell várnia az összes eredményt a szintézis előtt; és a késleltetés nő a bevont ügynökök számával.
Ebből egy egyszerű tervezési szabály adódik. Interaktív használatra – chatbot, keresősáv – maradj a 4 ügynöknél. A 16 ügynököt aszinkron feladatokra tartalékold: háttérben generált jelentés, éjszakai monitoring feladat, vagy olyan elemzés, amelynek eredményét a felhasználó később tekinti át.
Főbb megállapítások
- A folyamat 4 lépésből áll: elemzés → delegálás → kutatás → szintézis
- Az alárendelt ügynökök párhuzamosan dolgoznak és információt cserélnek egymással
- Csak a vezető ügynök válaszát és az eszközlehívásokat kapod meg
- A
verbose_streaminghasználatával valós időben követheted a tevékenységet - A késleltetés nagyobb, mint egy szabványos hívásnál, különösen 16 ügynök esetén