Strömning med detaljerad loggning och krypterat innehåll
På denna sida
Följ agenternas arbete i realtid
En begäran till flera agenter tar tid, och ju fler agenter du startar, desto längre tar det: med 16 agenter som arbetar med ett brett ämne kan väntetiden löpa upp till tiotals sekunder. Under tiden vet ditt program ingenting om vad som händer, och din användare stirrar på en frusen skärm. Två mekanismer löser detta problem, men de gör helt olika saker: strömning med detaljerad loggning (verbose_streaming) öppnar ett fönster in i agenternas aktivitet under inferensen, medan krypterat innehåll bevarar deras tillstånd från en konversationsomgång till nästa. Att blanda ihop dessa två leder till att du aktiverar fel parameter och slösar tokens.
Vad vanlig strömning visar
Med vanlig strömning får du endast ledarens slutgiltiga text i takt med att den genereras, och inget annat.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Detta är helt tillräckligt för de flesta integrationer: du visar svaret ord för ord, användaren ser något dyka upp, och klart. Den blindfläck som återstår finns uppströms. Så länge underagenterna söker och ledaren inte har påbörjat sin syntes, förblir strömmen tom, och du har inget sätt att skilja en pågående sökning från en begäran som har fastnat.
Öppna lådan med verbose_streaming
Lägg helt enkelt till verbose_streaming i parametern include, så flödar även verktygsanrop genom strömmen i realtid.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Då ser du webbsökningar skickas iväg, resultat komma tillbaka och ledaren börja skriva. Tre användningsområden följer direkt av detta. För felsökning kontrollerar du att agenterna söker i rätt riktning: om din fråga gäller allmänna reaktioner men varje sökning riktar sig mot specifikationsblad, är det din prompt som är problemet, inte modellen. För användarupplevelsen matar dessa händelser en ärlig framstegsindikator – “söker efter källor”, “analyserar resultat” – istället för en generisk snurrande ikon. Slutligen, för övervakning, kan du i efterhand förstå varför en begäran tog en minut, eftersom du vet hur många sökningar som lanserades.
Krypterat innehåll är inte ett fönster; det är ett minne
use_encrypted_content svarar på en helt annan fråga. Det exponerar ingen resonemangsföring i klartext: det låter modellen behålla underagenternas interna tillstånd mellan omgångar i samma konversation.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
När denna parameter är aktiv inkluderar svaret ett krypterat block som innehåller underagenternas tillstånd: resultaten av deras sökningar och den kontext de har samlat på sig. Vid nästa meddelande skickas detta block tillbaka automatiskt, och modellen utgår från det som redan har hittats istället för att beräkna om allt. Du kan inte läsa det – det är avsett för modellen, inte för din applikationslogg.
Beslutet att aktivera detta kokar ner till ett enkelt kriterium: kommer du att ställa flera relaterade frågor? En session där du först ber om en översikt och sedan fördjupar dig i den tredje punkten får en tydlig fördel, liksom en lång utredning där kontexten från tidigare omgångar är hela poängen. Omvänt, för en isolerad fråga som kräver ett enda svar och inget mer, är det krypterade blocket bara overhead: det lägger till tokens vid varje omgång, som debiteras precis som allt annat.
Inget hindrar dig från att kombinera de två mekanismerna – faktum är att detta är den naturliga konfigurationen för en interaktiv forskningsassistent: du följer aktiviteten live, och kontexten överlever från en omgång till nästa.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Viktiga punkter
verbose_streamingavslöjar verktygsanrop i realtid (felsökning, UX, övervakning)use_encrypted_contentbevarar underagenternas tillstånd mellan konversationsomgångar- Krypterat innehåll är inte läsbart – det tjänar modellen, inte dig
- Kombinera båda för interaktiva research-sessioner
- Aktivera krypterat innehåll endast om du förväntar dig konversationer över flera omgångar