Пълен поток на заявка с множество агенти
На тази страница
От заявката до отговора
Между момента, в който изпращате заявката си, и момента, в който се появява отговорът, се случва много повече, отколкото при стандартно извикване на LLM. Проследяването на този път стъпка по стъпка ще Ви помогне, когато трябва да интерпретирате необичайно забавяне, твърде общ отговор или изненадваща сметка за токени.
Стъпка 1: Получаване и анализ на заявката
Когато Вашата заявка достигне модела grok-4.20-multi-agent-0309, водещият агент започва с нейния анализ. Той определя естеството на задачата – фактологично проучване, сравнителен анализ, синтез – преценява колко аспекта да изследва, идентифицира инструментите, които може да са му необходими, и избира стратегията си за делегиране на под-агентите.
Вие не виждате този първоначален анализ: той е част от таксуваното разсъждение на водещия агент и никога не се появява в отговора. Това е и точката, в която двусмислените формулировки нанасят най-големи щети, защото всичко следващо се гради върху това първо прочитане.
Стъпка 2: Стартиране на под-агентите
След това водещият агент делегира подзадачите. Всеки под-агент получава конкретна директива и започва работа паралелно с останалите. За споменатата по-рано заявка относно европейските стратегии за облачни услуги разделянето би изглеждало така: един агент проучва скорошни обявления на доставчици, втори анализира регулаторните аспекти (GDPR, AI Act), трети сравнява ценовите нива, а четвърти разглежда техническата документация.
При 16 агента разбивката става по-фина и обхваща повече ъгли: всеки доставчик може да получи собствен изследовател, а регулаторните аспекти могат да се разделят между няколко юрисдикции.
Стъпка 3: Проучване и дискусия
Под-агентите не работят в изолация. Те използват вградените инструменти – web_search, x_search, code_execution и други – обменят информация помежду си, за да избегнат дублиране и да прецизират своите насоки, и сигнализират на водещия агент за неочаквани находки, които заслужават допълнително проучване. Този вътрешен разговор е това, което отличава мулти-агентния подход от просто паралелно извикване: агент, който открие информация, противоречаща на тази на колега, може да пренасочи проучването.
Това е и най-дългата фаза и далеч най-скъпата, защото всеки агент генерира свои собствени входни, изходни и разсъдителни токени. Когато една заявка тече една минута, без да се появи текст, ето къде отива това време.
Стъпка 4: Синтез от водещия агент
Щом под-агентите приключат или се достигне бюджетът за разсъждение, водещият агент поема контрола и винаги изпълнява една и съща последователност. Първо събира всички резултати, след което премахва дубликатите – за заявката за облачни услуги три агента вероятно ще са извадили едно и също обявление за регионална наличност и то трябва да се появи само веднъж. След това структурира информацията във формата, който сте поискали, цитира източниците, където е уместно, и накрая генерира крайния отговор.
Тук се решава възприеманото качество на резултата: при едно и също проучване ще получите или обобщаващ параграф, или четлива сравнителна таблица, в зависимост от това колко точно сте описали очаквания резултат.
Какво получавате
Отговорът съдържа текста, написан от водещия агент – неговия синтез – извикванията на инструменти, направени от всички агенти, включително водещия, и, ако сте активирали use_encrypted_content=True, блок с криптирано съдържание. Тези извиквания на инструменти са единственият Ви прозорец към работата, извършена действително зад кулисите.
Останалото никога не достига до Вас: нито вътрешното разсъждение на под-агентите в чист текст, нито размените, които са имали помежду си, нито детайлите от стратегията за делегиране, избрана от водещия агент. Затова няма смисъл да изграждате инструмент за мониторинг около тези елементи – те никога не напускат модела.
Потоково предаване (Streaming)
В режим на потоково предаване виждате как отговорът на водещия агент се изгражда прогресивно. Параметърът verbose_streaming отива по-далеч и Ви изпраща също извикванията на инструменти, докато се случват, което Ви дава директен поглед върху дейността на агентите.
Ползата е реална при дълги заявки: можете да наблюдавате как уеб търсенията се задействат едно след друго, докато агентите работят, и да покажете на потребителя си нещо различно от статичен индикатор за зареждане.
Последици за латентността
Мулти-агентният подход е присъщо по-бавен от стандартното извикване поради три кумулативни причини: под-агентите вършат работа паралелно, но координацията има цена; водещият агент трябва да изчака всички резултати, преди да направи синтеза; и латентността нараства с броя на включените агенти.
Това Ви дава просто правило за проектиране. За интерактивна употреба – чатбот, лента за търсене – останете на 4 агента. Запазете 16-те агента за асинхронни задачи: доклад, генериран във фонов режим, задача за мониторинг през нощта, анализ, чийто резултат потребителят ще прегледа по-късно.
Ключови изводи
- Потокът следва 4 стъпки: анализ → делегиране → проучване → синтез
- Под-агентите работят паралелно и обменят информация помежду си
- Получавате само отговора на водещия агент и извикванията на инструменти
- Потоковото предаване с
verbose_streamingВи позволява да следите дейността в реално време - Латентността е по-висока от тази при стандартно извикване, особено при 16 агента