Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Podrobné streamovanie a šifrovaný obsah

Lekcia 8 z 14 Aktualizované 29. júla 2026 Vývojár
Na tejto strane
  1. Sledovanie práce agentov v reálnom čase
  2. Čo ukazuje štandardné streamovanie
  3. Otvorenie krabice pomocou verbose_streaming
  4. Šifrovaný obsah nie je okno; je to pamäť
  5. Kľúčové poznatky

Sledovanie práce agentov v reálnom čase

Požiadavka pre viacerých agentov trvá určitý čas a čím viac agentov spustíš, tým dlhšie to trvá: pri 16 agentoch pracujúcich na širokej téme sa čakacia doba natiahne na desiatky sekúnd. Počas toho tvoja aplikácia netuší, čo sa deje, a tvoj používateľ hľadí na zamrznutú obrazovku. Tento problém riešia dva mechanizmy, ktoré však plnia úplne odlišné úlohy: podrobné streamovanie (verbose streaming) otvára okno do činnosti agentov počas inferencie, zatiaľ čo šifrovaný obsah zachováva ich stav z jedného kola konverzácie do druhého. Pomýlenie týchto dvoch pojmov ťa privedie k tomu, že povolíš nesprávny parameter a plytváš tokenmi.

Čo ukazuje štandardné streamovanie

Pri štandardnom streamovaní dostávaš finálny text vedúceho agenta tak, ako je generovaný, a nič viac.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
)
chat.append(user("My question"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)

To úplne stačí pre väčšinu integrácií: odpoveď zobrazuješ slovo po slove, používateľ vidí, že sa niečo deje, a máš vybavené. Slabým miestom je však fáza pred samotnou odpoveďou. Pokým podriadení agenti vyhľadávajú a vedúci agent ešte nezačal svoju syntézu, stream zostáva prázdny a nemáš spôsob, ako rozlíšiť prebiehajúce vyhľadávanie od zaseknutej požiadavky.

Otvorenie krabice pomocou verbose_streaming

Stačí pridať verbose_streaming do parametra include a volania nástrojov sa ti začnú zobrazovať v streame v reálnom čase.

from xai_sdk.tools import web_search, x_search

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
)

chat.append(user("Analyze reactions to Apple's latest announcements"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)
    # Tool calls are also visible in real time

Následne uvidíš, ako odchádzajú webové vyhľadávania, prichádzajú výsledky a vedúci agent začne písať. Z toho priamo vyplývajú tri využitia. Pri ladení (debugging) overíš, či agenti vyhľadávajú správnym smerom: ak sa tvoja otázka týka verejných reakcií a každý dopyt cieli na technické špecifikácie, problém je v tvojom promte, nie v modeli. Pre používateľskú skúsenosť tieto udalosti napájajú úprimný indikátor priebehu – „hľadajú sa zdroje“, „analyzujú sa výsledky“ – namiesto všeobecného točiaceho sa kolieska. Napokon, pri monitoringu môžeš dodatočne pochopiť, prečo požiadavka trvala minútu, pretože vieš, koľko vyhľadávaní sa spustilo.

Šifrovaný obsah nie je okno; je to pamäť

use_encrypted_content odpovedá na úplne inú otázku. Neodhaľuje žiadne uvažovanie v plain texte: umožňuje modelu zachovať vnútorný stav agentov medzi jednotlivými kolami v rámci tej istej konverzácie.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
    use_encrypted_content=True,
)

Keď je tento parameter aktívny, odpoveď obsahuje šifrovaný blok so stavom podriadených agentov: výsledky ich vyhľadávania a kontext, ktorý nazhromaždili. Pri ďalšej správe sa tento blok automaticky odovzdá späť a model začína od toho, čo už bolo nájdené, namiesto toho, aby všetko prepočítaval odznova. Nemôžeš si ho prečítať – je určený pre model, nie pre log tvojej aplikácie.

Rozhodnutie, či ho povoliť, závisí od jednoduchého kritéria: budeš klásť niekoľko súvisiacich otázok? Relácia, kde najprv požiadaš o prehľad a následne o hlbší ponor do tretieho bodu, z toho jasne ťaží, rovnako ako dlhé vyšetrovanie, kde je kontext z predchádzajúcich kôl tým hlavným cieľom. Naopak, pri izolovanej otázke, ktorá si vyžaduje jednu odpoveď a nič viac, je šifrovaný blok len réžia: pridáva tokeny pri každom kole, ktoré sa fakturujú ako všetky ostatné.

Nič ti nebráni kombinovať oba mechanizmy – v skutočnosti je to prirodzené nastavenie pre interaktívneho výskumného asistenta: sleduješ činnosť naživo a kontext pretrváva z jedného kola do druhého.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
    use_encrypted_content=True,
)

Kľúčové poznatky

  • verbose_streaming odhaľuje volania nástrojov v reálnom čase (ladení, UX, monitoring)
  • use_encrypted_content zachováva stav podriadených agentov medzi kolami konverzácie
  • Šifrovaný obsah nie je čitateľný – slúži modelu, nie tebe
  • Kombinuj obe možnosti pre interaktívne výskumné relácie
  • Šifrovaný obsah povoľ len vtedy, ak očakávaš konverzácie s viacerými kolami