Streaming dettaljat u kontenut ikkrittjat
F'din il-paġna
Segwi x-xogħol tal-aġenti f’ħin reali
Talba multi-aġent tieħu ż-żmien, u aktar ma tniedi aġenti, aktar tieħu: bi 16-il aġent jaħdmu fuq suġġett wiesa’, l-istennija tista’ tilħaq għexieren ta’ sekondi. F’dan il-ħin, l-applikazzjoni tiegħek ma tkun taf xejn dwar dak li qed jiġri, u l-utent tiegħek ikun qed iħares lejn skrin iffriżat. Żewġ mekkaniżmi jindirizzaw din il-problema, iżda ma jwettqux l-istess xogħol: il-verbose streaming jiftieħa tieqa fuq l-attività tal-aġenti waqt l-inferenza, filwaqt li l-kontenut ikkrittjat jippreserva l-istat tagħhom minn dawra għal oħra fil-konversazzjoni. Li tħawwad bejniethom iwasslek biex tattivaw il-parametru żbaljat u tħassar tokens.
X’juri l-istreaming standard
B’istreaming standard, tirċievi t-test finali tal-mexxej hekk kif jiġi ġġenerat, u xejn aktar.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Dan huwa biżżejjed għall-biċċa l-kbira tal-integrazzjonijiet: turi t-tweġiba kelma b’kelma, l-utent jara xi ħaġa tidher, u lest. Il-punt dgħajjef jinsab ‘il fuq mill-fluss. Sakemm is-sub-aġenti jkunu qed ifittxu u l-mexxej ma jkunx beda s-sinteżi tiegħu, l-istreaming jibqa’ vojt, u ma jkollok l-ebda mod biex tgħid jekk tfittxija tkunx għaddejja jew jekk it-talba tkunx imblukkata.
Tiftaħ il-kaxxa b’verbose_streaming
Żid biss verbose_streaming mal-parametru include, u s-sejħiet tal-għodda jaslu wkoll permezz tal-istreaming hekk kif iseħħu.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Imbagħad tara t-tfittxijiet fuq il-web joħorġu, ir-riżultati jerġgħu lura, u l-mexxej jibda jikteb. Tliet użi jirriżultaw direttament minn dan. Għad-debugging, tiċċekkja li l-aġenti qed ifittxu fid-direzzjoni mistennija: jekk il-mistoqsija tiegħek hija dwar ir-reazzjonijiet pubbliċi u kull mistoqsija timmira lejn is-sheets tal-ispeċifikazzjonijiet, il-prompt tiegħek huwa l-problema, mhux il-mudell. Għall-esperjenza tal-utent, dawn l-avvenimenti jipprovdu indikatur onest tal-progress—“tfittxija għal sorsi”, “analiżi tar-riżultati”—minflok spinner ġeneriku. Fl-aħħar nett, għall-monitoraġġ, tista’ tifhem wara l-fatt għaliex talba ħadet minuta, għax tkun taf kemm-in tfittxijiet ġew imnedija.
Il-kontenut ikkrittjat mhuwiex tieqa; huwa memorja
use_encrypted_content iwieġeb mistoqsija differenti. Ma jesponi l-ebda raġunament f’test ċar: iħalli lill-mudell iżomm l-istat intern tal-aġenti bejn id-dawriet fl-istess konversazzjoni.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Meta dan il-parametru jkun attiv, ir-risposta tinkludi blokk ikkrittjat li fih l-istat tas-sub-aġenti: ir-riżultati tat-tfittxijiet tagħhom u l-kuntest li akkumulaw. Fil-messaġġ li jmiss, dan il-blokk jgħaddi lura awtomatikament, u l-mudell jibda minn dak li diġà nstab minflok ma jerġa’ jikkalkula kollox. Ma tistax taqrah—huwa maħsub għall-mudell, mhux għal-log tal-applikazzjoni tiegħek.
Id-deċiżjoni li tattivalu tinżel għal kriterju sempliċi: se tagħmel diversi mistoqsijiet relatati? Sessjoni fejn l-ewwel titlob ħarsa ġenerali u mbagħad approfondiment fuq it-tielet punt tikseb benefiċċju ċar, bħalma tagħmel investigazzjoni twila fejn il-kuntest mid-dawriet preċedenti huwa l-għan kollu. Bil-kontra, għal mistoqsija iżolata li teħtieġ tweġiba waħda u xejn aktar, il-blokk ikkrittjat huwa biss piż żejjed: iżid tokens f’kull dawra, fatturati bħall-bqija.
Xejn ma jwaqqfek milli tgħaqqad iż-żewġ mekkaniżmi—fil-fatt, dik hija l-konfigurazzjoni naturali għal assistent ta’ riċerka interattiv: issegwi l-attività ħaj, u l-kuntest jibqa’ ħaj minn dawra għal oħra.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Punti Ewlenin
verbose_streamingjiżvela s-sejħiet tal-għodda f’ħin reali (debugging, UX, monitoraġġ)use_encrypted_contentjippreserva l-istat tas-sub-aġenti bejn id-dawriet tal-konversazzjoni- Il-kontenut ikkrittjat mhuwiex li jinqara—jservi lill-mudell, mhux lilek
- Għaqqad it-tnejn għal sessjonijiet ta’ riċerka interattiva
- Attiva l-kontenut ikkrittjat biss jekk tistenna konversazzjonijiet b’diversi dawriet