Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Detaljeret streaming og krypteret indhold

Lektion 8 af 14 Opdateret 29. juli 2026 Udvikler
På denne side
  1. Følg agenters arbejde i realtid
  2. Hvad standard-streaming viser
  3. Åbn boksen med verbose_streaming
  4. Krypteret indhold er ikke et vindue; det er hukommelse
  5. Vigtige pointer

Følg agenters arbejde i realtid

En anmodning til flere agenter tager tid, og jo flere agenter du lancerer, desto længere tid tager det: Med 16 agenter, der kører på et bredt emne, kan ventetiden løbe op i titals sekunder. I mellemtiden ved din applikation intet om, hvad der sker, og din bruger stirrer på en frossen skærm. To mekanismer løser dette problem, men de slet ikke samme opgave: Detaljeret streaming (verbose streaming) åbner et vindue ind til agenternes aktivitet under inferens, mens krypteret indhold bevarer deres tilstand fra det ene svar i samtalen til det næste. At forveksle de to får dig til at aktivere den forkerte parameter og spilde tokens.

Hvad standard-streaming viser

Med standard-streaming modtager du lederens endelige tekst, efterhånden som den genereres, og intet andet.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
)
chat.append(user("My question"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)

Det er fuldt ud tilstrækkeligt til de fleste integrationer: Du viser svaret ord for ord, brugeren ser noget dukke op, og så er du færdig. Det blinde punkt ligger tidligere i processen. Så længe underagenterne søger, og lederen ikke er begyndt på sin syntese, forbliver strømmen tom, og du har ingen måde at skelne en søgning undervejs fra en anmodning, der er gået i stå.

Åbn boksen med verbose_streaming

Tilføj blot verbose_streaming til parameteren include, så vises værktøjskald også i strømmen, efterhånden som de sker.

from xai_sdk.tools import web_search, x_search

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
)

chat.append(user("Analyze reactions to Apple's latest announcements"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)
    # Tool calls are also visible in real time

Du ser derefter websøgninger blive sendt afsted, resultater komme tilbage, og lederen begynde at skrive. Tre anvendelser følger direkte heraf. Til fejlfinding tjekker du, at agenterne søger i den forventede retning: Hvis dit spørgsmål handler om offentlige reaktioner, og hver eneste forespørgsel målretter sig mod specifikationer, er det dit prompt, der er problemet – ikke modellen. Til brugeroplevelsen fodrer disse begivenheder en ærlig fremskridtsindikator – „søger efter kilder”, „analyserer resultater” – i stedet for en generisk spinner. Endelig kan du til overvågning i bagefter forstå, hvorfor en anmodning tog et minut, fordi du ved, hvor mange søgninger der blev lanceret.

Krypteret indhold er ikke et vindue; det er hukommelse

use_encrypted_content besvarer et andet spørgsmål. Det eksponerer ingen ræsonnementer i klartekst: Det lader modellen beholde agenternes interne tilstand mellem svar i samme samtale.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
    use_encrypted_content=True,
)

Når denne parameter er aktiv, inkluderer svaret en krypteret blok, der indeholder underagenternes tilstand: resultaterne af deres søgninger og den kontekst, de har akkumuleret. Ved næste besked sendes denne blok automatisk tilbage, og modellen starter ud fra det, der allerede er fundet, i stedet for at genberegne alt. Du kan ikke læse det – det er beregnet til modellen, ikke til din applikations log.

Beslutningen om at aktivere det boils down til et simpelt kriterium: Vil du stille flere relaterede spørgsmål? En session, hvor du først beder om et overblik og derefter en dybdegående analyse af det tredje punkt, får en klar fordel, det samme gør en lang undersøgelse, hvor konteksten fra tidligere svar er hele pointen. Omvendt er den krypterede blok blot overhead for et isoleret spørgsmål, der kræver ét svar og ikke mere: Det tilføjer tokens ved hvert svar, som faktureres på lige fod med alt andet.

Intet hindrer dig i at kombinere de to mekanismer – faktisk er det den naturlige opsætning for en interaktiv research-assistent: Du følger aktiviteten live, og konteksten overlever fra det ene svar til det næste.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
    use_encrypted_content=True,
)

Vigtige pointer

  • verbose_streaming afslører værktøjskald i realtid (fejlsøgning, UX, overvågning)
  • use_encrypted_content bevarer underagenters tilstand mellem svar i samtalen
  • Krypteret indhold er ikke læsbart – det tjener modellen, ikke dig
  • Kombinér begge til interaktive research-sessioner
  • Aktivér kun krypteret indhold, hvis du forventer samtaler over flere svar