Podrobno pretakanje in šifrirana vsebina
Na tej strani
Spremljanje dela agentov v realnem času
Zahtevek za več agentov traja svoj čas; več agentov kot zaženeš, dlje časa boš čakal: pri 16 agentih, ki delujejo na široko temo, se čakalna doba meri v desetih sekundah. V tem času tvoja aplikacija nima pojma, kaj se dogaja, uporabnik pa strmi v zamrznjen zaslon. Ta težava rešujeta dva mehanizma, ki pa opravljata povsem različni nalogi: podrobno pretakanje (verbose streaming) odpre okno v dejavnost agentov med sklepanjem, medtem ko šifrirana vsebina ohranja njihovo stanje od ene poteze pogovora do naslednje. Zamenjava obeh te vodi do napačnega vklopa parametrov in nepotrebnega trošenja žetonov.
Kaj prikazuje standardno pretakanje
Pri standardnem pretakanju prejmeš končno besedilo vodilnega agenta, ko se generira, in ničesar drugega.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
To je za večino integracij povsem dovolj: odgovor prikazuješ besedo za besedo, uporabnik vidi, kako se nekaj pojavlja, in opravil si. Slepa pega je v zgornjem toku. Dokler podagenti iščejo in vodilni agent še ni začel s sintezo, tok ostaja prazen in nimaš načina, da bi razlikoval iskanje v teku od zatikanja zahtevka.
Odpiranje škatle z verbose_streaming
Preprosto dodaj verbose_streaming v parameter include in klici orodij bodo prav tako prispeli v tok, ko se zgodijo.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Tako vidiš, kako se sprožijo spletna iskanja, kako prispajo rezultati in kako vodilni agent začne pisati. Iz tega neposredno izhajajo trije primeri uporabe. Pri razhroščevanju preveriš, ali agenti iščejo v pričakovani smeri: če je tvoje vprašanje o javnih reakcijah, vsi poizvedbi pa ciljajo na tehnične specifikacije, je težava v tvojem pozivu, ne v modelu. Za uporabniško izkušnjo ti ti dogodki omogočajo iskren kazalnik napredka – „iskanje virov”, „analiza rezultatov” – namesto generičnega vrtečega se kroga. Nazadnje, za nadzor lahko naknadno razumeš, zakaj je zahtevek trajal minuto, saj veš, koliko iskanj je bilo sproženih.
Šifrirana vsebina ni okno; je spomin
use_encrypted_content odgovarja na drugo vprašanje. Ne razkriva nobenega sklepanja v navadnem besedilu: modelu omogoča, da ohrani notranje stanje agentov med zaporednimi potezami v istem pogovoru.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Ko je ta parameter aktiven, odgovor vključuje šifriran blok, ki vsebuje stanje podagentov: rezultate njihovih iskanj in kontekst, ki so ga zbrali. Ob naslednjem sporočilu se ta blok samodejno vrne nazaj in model začne tam, kjer je že našel, namesto da bi vse znova izračunal. Tega ne moreš brati – namenjen je modelu, ne dnevniku tvoje aplikacije.
Odločitev za vklop temelji na preprostem merilu: ali boš zastavil več povezanih vprašanj? Seja, kjer najprej zahtevaš pregled, nato pa poglobljeno analizo tretje točke, ima jasno korist, prav tako dolga preiskava, kjer je kontekst iz prejšnjih potez bistvenega pomena. Nasprotno pa je pri izoliranem vprašanju, ki zahteva en sam odgovor in nič več, šifrirani blok le dodatna obremenitev: dodaja žetone pri vsaki potezi, ki se obračunajo kot vsi ostali.
Nič ti ne preprečuje, da bi oba mehanizma združil – pravzaprav je to naravna postavitev za interaktivnega raziskovalnega pomočnika: dejavnost spremljaš v živo, kontekst pa preživi od ene poteze do naslednje.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Ključne ugotovitve
verbose_streamingrazkriva klice orodij v realnem času (razhroščevanje, uporabniška izkušnja, nadzor)use_encrypted_contentohranja stanje podagentov med zaporednimi potezami pogovora- Šifrirana vsebina ni berljiva – služi modelu, ne tebi
- Združi oba mehanizma za interaktivne raziskovalne seje
- Šifrirano vsebino vklopi le, če pričakuješ pogovore z več potezami