Detaljno strujanje i šifrirani sadržaj
Na ovoj stranici
Praćenje rada agenata u stvarnom vremenu
Zahtjev za više agenata traje određeno vrijeme, a što više agenata pokreneš, to će trajati duže: uz 16 agenata koji rade na širokoj temi, čekanje se mjeri u desecima sekundi. U međuvremenu, tvoja aplikacija ne zna što se događa, a tvoj korisnik gleda u zamrznuti zaslon. Dva mehanizma rješavaju ovaj problem, ali obavljaju potpuno različite zadatke: detaljno strujanje (verbose streaming) otvara prozor u aktivnost agenata tijekom zaključivanja, dok šifrirani sadržaj čuva njihovo stanje iz jednog okreta razgovora u drugi. Miješanje ova dva pojma navest će te da omogućiš pogrešan parametar i uzalud trošiš tokene.
Što prikazuje standardno strujanje
Kod standardnog strujanja primaš samo konačni tekst voditelja dok se generira, i ništa više.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
To je sasvim dovoljno za većinu integracija: odgovor prikazuješ riječ po riječ, korisnik vidi kako se sadržaj pojavljuje i to je to. Slijepa točka nalazi se uzvodno. Dokle god pod-agenti pretražuju, a voditelj nije započeo sa sintezom, strujanje ostaje prazno i nemaš načina razlikovati pretraživanje u tijeku od zahtjeva koji je zastao.
Otvaranje kutije s verbose_streaming
Samo dodaj verbose_streaming u parametar include i pozivi alata također će stizati kroz strujanje dok se događaju.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Tada ćeš vidjeti kako se web-pretraživanja šalju, kako rezultati stižu natrag i kako voditelj počinje pisati. Iz toga izravno proizlaze tri primjene. Za otklanjanje grešaka provjeravaš pretražuju li agenti u očekivanom smjeru: ako se tvoje pitanje odnosi na javne reakcije, a svaki upit cilja na tehničke specifikacije, problem je u tvojem promptu, a ne u modelu. Za korisničko iskustvo ti događaji napajaju iskren pokazatelj napretka – „pretraživanje izvora“, „analiza rezultata“ – umjesto generičkog vrtila. Naposljetku, za nadzor možeš naknadno razumjeti zašto je zahtjev trajao minutu jer znaš koliko je pretraživanja pokrenuto.
Šifrirani sadržaj nije prozor; to je memorija
use_encrypted_content odgovara na drugo pitanje. On ne otkriva nikakvo zaključivanje u običnom tekstu: omogućuje modelu da zadrži interno stanje agenata između okreta unutar istog razgovora.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Kada je ovaj parametar aktivan, odgovor uključuje šifrirani blok koji sadrži stanje pod-agenata: rezultate njihovih pretraživanja i kontekst koji su akumulirali. Kod sljedeće poruke taj se blok automatski vraća natrag i model kreće od onoga što je već pronađeno umjesto da ponovno izračunava sve. Ne možeš ga pročitati – namijenjen je modelu, a ne zapisu tvoje aplikacije.
Odluka o njegovu omogućivanju svodi se na jednostavan kriterij: planiraš li postaviti nekoliko povezanih pitanja? Sesija u kojoj prvo tražiš pregled, a zatim dublju analizu treće točke ima jasnu korist, kao i duga istraga gdje je kontekst iz prethodnih okreta sama svrha. Suprotno tome, za izolirano pitanje koje zahtijeva jedan odgovor i ništa više, šifrirani blok je samo dodatno opterećenje: dodaje tokene u svakom okretu, koji se naplaćuju kao i svi ostali.
Ništa te ne sprječava da kombiniraš oba mehanizma – zapravo, to je prirodna postavka za interaktivnog istraživačkog asistenta: pratiš aktivnost uživo, a kontekst preživljava iz jednog okreta u drugi.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Ključne točke
verbose_streamingotkriva pozive alata u stvarnom vremenu (otklanjanje grešaka, UX, nadzor)use_encrypted_contentčuva stanje pod-agenata između okreta razgovora- Šifrirani sadržaj nije čitljiv – služi modelu, a ne tebi
- Kombiniraj oboje za interaktivne istraživačke sesije
- Omogući šifrirani sadržaj samo ako očekuješ razgovore s više okreta