Detalizēta straumēšana un šifrēts saturs
Šajā lapā
Aģentu darba novērošana reāllaikā
Vairāku aģentu pieprasījums prasa laiku, un, jo vairāk aģentu palaiž, jo ilgāk tas ilgst: ar 16 aģentiem, kas strādā pie plašas tēmas, gaidīšana var ieilgt desmitiem sekunžu. Tikmēr tava lietotne nezina, kas notiek, un lietotājs skatās uz iesalušu ekrānu. Šo problēmu risina divi mehānismi, taču tie pilda pavisam atšķirīgus uzdevumus: detalizēta straumēšana (verbose streaming) atver logu uz aģentu darbību secinājumu ģenerēšanas laikā, savukārt šifrēts saturs saglabā to stāvokli no vienas sarunas kārtas uz nākamo. Ja tos sajauc, tu aktivizē nepareizo parametru un izšķied tokenus.
Ko rāda standarta straumēšana
Izmantojot standarta straumēšanu, tu saņem tikai vadītāja gala tekstu tā ģenerēšanas brīdī un neko citu.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Lielākajai daļai integrāciju tas ir pilnīgi pietiekami: tu attēlo atbildi vārdu pa vārdam, lietotājs redz, kā teksts parādās, un darbs ir padarīts. Akla zona ir procesa sākumposms. Kamēr apakšaģenti veic meklēšanu un vadītājs vēl nav sācis sintezēt rezultātus, straume paliek tukša, un tev nav iespējas atšķirt notiekošu meklēšanu no iestrēguša pieprasījuma.
Kastes atvēršana ar verbose_streaming
Vienkārši pievieno verbose_streaming parametram include, un rīku izsaukumi arī plūdīs caur straumi to notikšanas brīdī.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Tad tu redzi, kā tiek veikti tīmekļa meklējumi, kā atgriežas rezultāti un kā vadītājs sāk rakstīt. No tā tieši izriet trīs lietojumi. Atkļūdošanai tu pārbaudi, vai aģenti meklē paredzētajā virzienā: ja tavs jautājums ir par sabiedrisko reakciju, bet katrs vaicājums mērķē uz tehniskajām specifikācijām, problēma ir tavā promptā, nevis modelī. Lietotāja pieredzes uzlabošanai šie notikumi baro godīgu progresa indikatoru – „meklē avotus”, „analizē rezultātus” – vispārīga gaidīšanas indikatora vietā. Visbeidzot, monitoringa nolūkos tu vari pēc fakta saprast, kāpēc pieprasījums ilga minūti, jo zini, cik daudz meklēšanu tika uzsāktas.
Šifrēts saturs nav logs; tā ir atmiņa
use_encrypted_content atbild uz citu jautājumu. Tas neatklāj nekādu spriešanu lasāmā tekstā: tas ļauj modelim saglabāt aģentu iekšējo stāvokli starp kārtām vienā un tajā pašā sarunā.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Kad šis parametrs ir aktīvs, atbilde ietver šifrētu bloku, kas satur apakšaģentu stāvokli: viņu meklēšanu rezultātus un uzkrāto kontekstu. Nākamajā ziņojumā šis bloks tiek automātiski nosūtīts atpakaļ, un models sāk no jau atrastā, nevis pārrēķina visu no jauna. Tu to nevari lasīt – tas ir domāts modelim, nevis tava lietotnes žurnālam.
Lēmums to aktivizēt balstās uz vienkāršu kritēriju: vai tu uzdosi vairākus saistītus jautājumus? Sesija, kurā vispirms prasi pārskatu un pēc tam padziļināti aplūko trešo punktu, gūst skaidru labumu, tāpat kā ilgstoša izpēte, kur iepriekšējo kārtu konteksts ir galvenais mērķis. Turpretī izolētam jautājumam, kas prasa vienu atbildi un neko vairāk, šifrētais bloks ir tikai pārslodze: tas katrā kārtā pievieno tokenus, par kuriem tiek účturēts tāpat kā par pārējiem.
Nekas neliedz apvienot abus mehānismus – patiesībā tas ir dabiskais iestatījums interaktīvam pētniecības asistentam: tu seko darbībai tiešraidē, un konteksts saglabājas no vienas kārtas uz nākamo.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Galvenās atziņas
verbose_streamingatklāj rīku izsaukumus reāllaikā (atkļūdošana, lietotāja pieredze, monitorings)use_encrypted_contentsaglabā apakšaģentu stāvokli starp sarunas kārtām- Šifrēts saturs nav lasāms – tas kalpo modelim, nevis tev
- Apvieno abus interaktīvām pētniecības sesijām
- Aktivizē šifrētu saturu tikai tad, ja paredzi vairāku kārtu dialogi