Részletes streaming és titkosított tartalom
Ezen az oldalon
Ügynökök munkájának valós idejű követése
Egy többügynökös kérés időigényes: minél több ügynököt indítasz el egy tág témakörben, annál tovább tart. 16 ügynök esetén a várakozás akár több tíz másodperc is lehet. Eközben az alkalmazásod nem tud semmit a folyamatról, a felhasználód pedig egy befagyott képernyőt bámul. Két mechanizmus oldja meg ezt a problémát, de teljesen más feladatot látnak el: a részletes streaming (verbose streaming) ablakot nyit az ügynökök tevékenységére a következtetés során, míg a titkosított tartalom megőrzi az állapotukat egyik beszélgetési fordulóról a másikra. Ha összekevered őket, rossz paramétert kapcsolsz be, és tokeneket pazarolsz.
Mit mutat a szabványos streaming?
Szabványos streaming esetén csak a vezető ügynök végső szövegét kapod meg, ahogy az generálódik, semmi mást.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Ez a legtöbb integrációhoz tökéletesen elegendő: szóról szóra jeleníted meg a választ, a felhasználó látja, ahogy megjelenik a tartalom, és kész is vagy. A vakfolt azonban az upstream folyamatokban rejlik. Amíg az alügynökök keresgélnek, és a vezető még nem kezdte el az összefoglalást, a stream üres marad. Így nincs módod megkülönböztetni a folyamatban lévő keresést egy beragadt kéréstől.
A doboz kinyitása a verbose_streaming segítségével
Csak add hozzá a verbose_streaming elemet az include paraméterhez, és az eszközhívások is megjelennek a streamben, ahogy történnek.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Az eszközhívások is valós időben láthatók
Ezután látod, ahogy indulnak a webes keresések, megérkeznek az eredmények, és a vezető ügynök elkezd írni. Ebből közvetlenül három felhasználási mód adódik. Hibakeresésnél ellenőrizheted, hogy az ügynökök a várt irányba keresgélnek-e: ha a kérdésed a nyilvános reakciókra vonatkozik, de minden lekérdezés műszaki adatlapokat céloz meg, akkor a promptoddal van baj, nem a modellel. A felhasználói élmény szempontjából ezek az események táplálhatnak egy őszinte folyamatjelzőt – „források keresése“, „eredmények elemzése“ – egy általános pörgető ikon helyett. Végül pedig a monitorozás szempontjából utólag is megértheted, miért tartott egy percig egy kérés, mert látod, hány keresést indítottak el.
A titkosított tartalom nem ablak, hanem memória
A use_encrypted_content egy teljesen másik kérdésre ad választ. Nem tesz láthatóvá semmilyen gondolatmenetet olvasható szövegként: lehetővé teszi a modell számára, hogy megtartsa az ügynökök belső állapotát ugyanazon beszélgetés fordulói között.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Ha ez a paraméter aktív, a válasz tartalmaz egy titkosított blokkot, amely az alügynökök állapotát rögzíti: a kereséseik eredményeit és az összegyűjtött kontextust. A következő üzenetnél ez a blokk automatikusan visszakerül a modellhez, így az a már megtalált információkból indul ki, ahelyett, hogy mindent újra kiszámolna. Nem tudod elolvasni – ez a modellnek szól, nem az alkalmazásod naplófájljának.
A bekapcsolásáról szóló döntés egy egyszerű kritériumon múlik: felteszel-e több, egymáshoz kapcsolódó kérdést? Egy olyan munkamenet, ahol először egy áttekintést kérsz, majd mélyebben beleásod magad a harmadik pontba, egyértelműen profitál ebből, akárcsak egy hosszú vizsgálat, ahol a korábbi fordulók kontextusa a lényeg. Ezzel szemben egy elszigetelt kérdésnél, amely egyetlen választ vár és semmi mást, a titkosított blokk csak többletterhet jelent: minden fordulóban plusz tokeneket fogyaszt, amelyeket ugyanúgy számláznak, mint a többit.
Semmi sem akadályozza meg, hogy kombináld a két mechanizmust – sőt, ez a természetes beállítás egy interaktív kutatási asszisztenshez: valós időben követed a tevékenységet, a kontextus pedig megmarad egyik fordulóról a másikra.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Főbb megállapítások
- A
verbose_streamingvalós időben fedi fel az eszközhívásokat (hibakeresés, UX, monitorozás) - A
use_encrypted_contentmegőrzi az alügynökök állapotát a beszélgetési fordulók között - A titkosított tartalom nem olvasható – a modellt szolgálja, nem téged
- Kombináld mindkettőt interaktív kutatási munkamenetekhez
- Csak akkor kapcsold be a titkosított tartalmat, ha több fordulós beszélgetésre számítasz