Podrobné streamovanie a šifrovaný obsah
Na tejto strane
Sledovanie práce agentov v reálnom čase
Požiadavka pre viacerých agentov trvá určitý čas a čím viac agentov spustíš, tým dlhšie to trvá: pri 16 agentoch pracujúcich na širokej téme sa čakacia doba natiahne na desiatky sekúnd. Počas toho tvoja aplikácia netuší, čo sa deje, a tvoj používateľ hľadí na zamrznutú obrazovku. Tento problém riešia dva mechanizmy, ktoré však plnia úplne odlišné úlohy: podrobné streamovanie (verbose streaming) otvára okno do činnosti agentov počas inferencie, zatiaľ čo šifrovaný obsah zachováva ich stav z jedného kola konverzácie do druhého. Pomýlenie týchto dvoch pojmov ťa privedie k tomu, že povolíš nesprávny parameter a plytváš tokenmi.
Čo ukazuje štandardné streamovanie
Pri štandardnom streamovaní dostávaš finálny text vedúceho agenta tak, ako je generovaný, a nič viac.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
To úplne stačí pre väčšinu integrácií: odpoveď zobrazuješ slovo po slove, používateľ vidí, že sa niečo deje, a máš vybavené. Slabým miestom je však fáza pred samotnou odpoveďou. Pokým podriadení agenti vyhľadávajú a vedúci agent ešte nezačal svoju syntézu, stream zostáva prázdny a nemáš spôsob, ako rozlíšiť prebiehajúce vyhľadávanie od zaseknutej požiadavky.
Otvorenie krabice pomocou verbose_streaming
Stačí pridať verbose_streaming do parametra include a volania nástrojov sa ti začnú zobrazovať v streame v reálnom čase.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Následne uvidíš, ako odchádzajú webové vyhľadávania, prichádzajú výsledky a vedúci agent začne písať. Z toho priamo vyplývajú tri využitia. Pri ladení (debugging) overíš, či agenti vyhľadávajú správnym smerom: ak sa tvoja otázka týka verejných reakcií a každý dopyt cieli na technické špecifikácie, problém je v tvojom promte, nie v modeli. Pre používateľskú skúsenosť tieto udalosti napájajú úprimný indikátor priebehu – „hľadajú sa zdroje“, „analyzujú sa výsledky“ – namiesto všeobecného točiaceho sa kolieska. Napokon, pri monitoringu môžeš dodatočne pochopiť, prečo požiadavka trvala minútu, pretože vieš, koľko vyhľadávaní sa spustilo.
Šifrovaný obsah nie je okno; je to pamäť
use_encrypted_content odpovedá na úplne inú otázku. Neodhaľuje žiadne uvažovanie v plain texte: umožňuje modelu zachovať vnútorný stav agentov medzi jednotlivými kolami v rámci tej istej konverzácie.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Keď je tento parameter aktívny, odpoveď obsahuje šifrovaný blok so stavom podriadených agentov: výsledky ich vyhľadávania a kontext, ktorý nazhromaždili. Pri ďalšej správe sa tento blok automaticky odovzdá späť a model začína od toho, čo už bolo nájdené, namiesto toho, aby všetko prepočítaval odznova. Nemôžeš si ho prečítať – je určený pre model, nie pre log tvojej aplikácie.
Rozhodnutie, či ho povoliť, závisí od jednoduchého kritéria: budeš klásť niekoľko súvisiacich otázok? Relácia, kde najprv požiadaš o prehľad a následne o hlbší ponor do tretieho bodu, z toho jasne ťaží, rovnako ako dlhé vyšetrovanie, kde je kontext z predchádzajúcich kôl tým hlavným cieľom. Naopak, pri izolovanej otázke, ktorá si vyžaduje jednu odpoveď a nič viac, je šifrovaný blok len réžia: pridáva tokeny pri každom kole, ktoré sa fakturujú ako všetky ostatné.
Nič ti nebráni kombinovať oba mechanizmy – v skutočnosti je to prirodzené nastavenie pre interaktívneho výskumného asistenta: sleduješ činnosť naživo a kontext pretrváva z jedného kola do druhého.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Kľúčové poznatky
verbose_streamingodhaľuje volania nástrojov v reálnom čase (ladení, UX, monitoring)use_encrypted_contentzachováva stav podriadených agentov medzi kolami konverzácie- Šifrovaný obsah nie je čitateľný – slúži modelu, nie tebe
- Kombinuj obe možnosti pre interaktívne výskumné relácie
- Šifrovaný obsah povoľ len vtedy, ak očakávaš konverzácie s viacerými kolami