Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

Uitgebreide streaming en versleutelde inhoud

Les 8 van 14 Bijgewerkt op 29 juli 2026 Ontwikkelaar
Op deze pagina
  1. Het werk van agents in realtime volgen
  2. Wat standaardstreaming toont
  3. De doos openen met verbose_streaming
  4. Versleutelde inhoud is geen venster; het is geheugen
  5. Belangrijkste punten

Het werk van agents in realtime volgen

Een verzoek aan meerdere agents kost tijd. Hoe meer agents u start, hoe langer het duurt: bij 16 agents die werken aan een breed onderwerp, loopt de wachttijd op tot tientallen seconden. Ondertussen weet uw applicatie niets van wat er gebeurt, en staart uw gebruiker naar een bevroren scherm. Twee mechanismen lossen dit probleem op, maar ze vervullen een heel andere functie: uitgebreide streaming (verbose streaming) opent een venster op de activiteiten van de agents tijdens de inferentie, terwijl versleutelde inhoud hun staat behoudt van de ene conversatiebeurt naar de volgende. Verwarring tussen beide leidt ertoe dat u de verkeerde parameter inschakelt en tokens verspilt.

Wat standaardstreaming toont

Bij standaardstreaming ontvangt u alleen de definitieve tekst van de leider terwijl deze wordt gegenereerd, en niets anders.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
)
chat.append(user("My question"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)

Dit is voor de meeste integraties volkomen voldoende: u toont het antwoord woord voor woord, de gebruiker ziet iets verschijnen en u bent klaar. Het blinde vlek bevindt zich stroomopwaarts. Zolang de sub-agents zoeken en de leider nog niet met zijn synthese is begonnen, blijft de stream leeg. U hebt dan geen manier om een zoekopdracht die bezig is te onderscheiden van een vastgelopen verzoek.

De doos openen met verbose_streaming

Voeg simpelweg verbose_streaming toe aan de parameter include, en tool-calls verschijnen ook in de stream terwijl ze plaatsvinden.

from xai_sdk.tools import web_search, x_search

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
)

chat.append(user("Analyze reactions to Apple's latest announcements"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)
    # Tool calls are also visible in real time

U ziet dan webzoekopdrachten vertrekken, resultaten binnenkomen en de leider beginnen met schrijven. Hieruit volgen direct drie gebruiksscenario’s. Voor debugging controleert u of de agents in de verwachte richting zoeken: als uw vraag gaat over publieke reacties en elke query zich richt op specificaties, ligt het probleem bij uw prompt, niet bij het model. Voor de gebruikerservaring voeden deze gebeurtenissen een eerlijke voortgangsindicator – “bronnen zoeken”, “resultaten analyseren” – in plaats van een generieke laadcirkel. Tot slot kunt u voor monitoring achteraf begrijpen waarom een verzoek een minuut duurde, omdat u weet hoeveel zoekopdrachten zijn gestart.

Versleutelde inhoud is geen venster; het is geheugen

use_encrypted_content beantwoordt een andere vraag. Het legt geen enkele redenering bloot in platte tekst: het stelt het model in staat de interne staat van de agents te behouden tussen beurten binnen dezelfde conversatie.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
    use_encrypted_content=True,
)

Wanneer deze parameter actief is, bevat het antwoord een versleuteld blok met de staat van de sub-agents: de resultaten van hun zoekopdrachten en de context die ze hebben verzameld. Bij het volgende bericht wordt dit blok automatisch teruggestuurd, en begint het model vanaf wat al is gevonden in plaats van alles opnieuw te berekenen. U kunt het niet lezen; het is bedoeld voor het model, niet voor uw applicatielog.

De beslissing om dit in te schakelen hangt af van een eenvoudig criterium: gaat u meerdere gerelateerde vragen stellen? Een sessie waarin u eerst om een overzicht vraagt en vervolgens dieper ingaat op het derde punt, heeft daar duidelijk baat bij, net als een langdurig onderzoek waarbij de context van eerdere beurten het hele doel is. Omgekeerd is het versleutelde blok bij een geïsoleerde vraag die om één antwoord en niets meer vraagt, alleen maar overhead: het voegt bij elke beurt tokens toe, die net als alle andere worden gefactureerd.

Niets weerhoudt u ervan om beide mechanismen te combineren; sterker nog, dat is de natuurlijke opzet voor een interactieve research-assistent: u volgt de activiteiten live, en de context blijft behouden van de ene beurt naar de volgende.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
    use_encrypted_content=True,
)

Belangrijkste punten

  • verbose_streaming onthult tool-calls in realtime (debugging, UX, monitoring)
  • use_encrypted_content behoudt de staat van sub-agents tussen conversatiebeurten
  • Versleutelde inhoud is niet leesbaar; deze dient het model, niet u
  • Combineer beide voor interactieve research-sessies
  • Schakel versleutelde inhoud alleen in als u conversaties met meerdere beurten verwacht