Verbose Streaming und verschlüsselte Inhalte
Auf dieser Seite
Echtzeit-Verfolgung der Agentenarbeit
Eine Anfrage an mehrere Agenten benötigt Zeit, und je mehr Agenten Sie starten, desto länger dauert es: Bei 16 laufenden Agenten zu einem breiten Thema kann die Wartezeit in die Zehnersekunden gehen. Gleichzeitig weiß Ihre Anwendung nichts über den Vorgang, und Ihr Nutzer starrt auf einen eingefrorenen Bildschirm. Zwei Mechanismen lösen dieses Problem, erfüllen aber völlig unterschiedliche Aufgaben: Verbose Streaming öffnet ein Fenster in die Agentenaktivität während der Inferenz, während verschlüsselte Inhalte ihren Zustand von einem Gesprächsdurchlauf zum nächsten bewahren. Die Verwechslung beider führt dazu, dass Sie den falschen Parameter aktivieren und Token verschwenden.
Was Standard-Streaming zeigt
Bei Standard-Streaming erhalten Sie den finalen Text des Leiters, während er generiert wird, und nichts anderes.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Das ist für die meisten Integrationen völlig ausreichend: Sie zeigen die Antwort Wort für Wort, der Nutzer sieht etwas erscheinen, und Sie sind fertig. Der Blindpunkt liegt jedoch upstream. Solange die Sub-Agenten suchen und der Leiter noch nicht mit seiner Synthese begonnen hat, bleibt der Stream leer, und Sie haben keine Möglichkeit, eine laufende Suche von einer gestoppten Anfrage zu unterscheiden.
Die Box mit verbose_streaming öffnen
Fügen Sie einfach verbose_streaming zum include-Parameter hinzu, und Tool-Aufrufe kommen ebenfalls in Echtzeit über den Stream.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool-Aufrufe sind ebenfalls in Echtzeit sichtbar
Sie sehen dann, wie Web-Suchen ausgeführt werden, Ergebnisse zurückkehren und der Leiter mit dem Schreiben beginnt. Drei Anwendungen ergeben sich direkt daraus. Für die Fehlersuche prüfen Sie, ob die Agenten in die erwartete Richtung suchen: Wenn Ihre Frage nach öffentlichen Reaktionen lautet und jede Abfrage jedoch nur technische Datenblätter anspricht, liegt das Problem im Prompt, nicht im Modell. Für das Nutzererlebnis füttern diese Ereignisse einen ehrlichen Fortschrittsindikator – „Suche nach Quellen”, „Analyse der Ergebnisse” – anstelle eines generischen Ladekreises. Schließlich können Sie für die Überwachung nachträglich verstehen, warum eine Anfrage eine Minute dauerte, da Sie wissen, wie viele Suchen gestartet wurden.
Verschlüsselte Inhalte sind kein Fenster; sie sind Gedächtnis
use_encrypted_content beantwortet eine andere Frage. Es offenbart kein Reasoning in Klartext: Es ermöglicht dem Modell, den internen Zustand der Agenten zwischen den Durchläufen desselben Gesprächs zu behalten.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Wenn dieser Parameter aktiv ist, enthält die Antwort einen verschlüsselten Block mit dem Zustand der Sub-Agenten: die Ergebnisse ihrer Suchen und den von ihnen angesammelten Kontext. Bei der nächsten Nachricht wird dieser Block automatisch zurückgegeben, und das Modell beginnt dort, wo bereits etwas gefunden wurde, anstatt alles neu zu berechnen. Sie können ihn nicht lesen – er ist für das Modell gedacht, nicht für Ihre Anwendungsprotokolle.
Die Entscheidung, ihn zu aktivieren, hängt von einem einfachen Kriterium ab: Stellen Sie mehrere zusammenhängende Fragen? Eine Sitzung, in der Sie zunächst einen Überblick anfordern und dann eine vertiefte Analyse des dritten Punkts, profitiert deutlich davon, ebenso wie eine langwierige Untersuchung, bei der der Kontext aus vorherigen Durchläufen der eigentliche Zweck ist. Umgekehrt ist der verschlüsselte Block bei einer isolierten Frage, die nur eine Antwort erfordert, lediglich Overhead: Er fügt bei jedem Durchlauf Token hinzu, die wie alle anderen auch berechnet werden.
Es hindert Sie nichts daran, beide Mechanismen zu kombinieren – tatsächlich ist dies die natürliche Konfiguration für einen interaktiven Forschungsassistenten: Sie verfolgen die Aktivität live, und der Kontext überdauert von einem Durchlauf zum nächsten.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Kernaussagen
verbose_streamingmacht Tool-Aufrufe in Echtzeit sichtbar (Fehlersuche, UX, Überwachung)use_encrypted_contentbewahrt den Zustand der Sub-Agenten zwischen Gesprächsdurchläufen- Verschlüsselte Inhalte sind nicht lesbar – sie dienen dem Modell, nicht Ihnen
- Kombinieren Sie beide für interaktive Forschungssitzungen
- Aktivieren Sie verschlüsselte Inhalte nur, wenn Sie mehrstufige Gespräche erwarten