Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Detalizēta straumēšana un šifrēts saturs

Nodarbība 8 no 14 Atjaunota 2026. gada 29. jūlijs Programmētājs
Šajā lapā
  1. Aģentu darba novērošana reāllaikā
  2. Ko rāda standarta straumēšana
  3. Kastes atvēršana ar verbose_streaming
  4. Šifrēts saturs nav logs; tā ir atmiņa
  5. Galvenās atziņas

Aģentu darba novērošana reāllaikā

Vairāku aģentu pieprasījums prasa laiku, un, jo vairāk aģentu palaiž, jo ilgāk tas ilgst: ar 16 aģentiem, kas strādā pie plašas tēmas, gaidīšana var ieilgt desmitiem sekunžu. Tikmēr tava lietotne nezina, kas notiek, un lietotājs skatās uz iesalušu ekrānu. Šo problēmu risina divi mehānismi, taču tie pilda pavisam atšķirīgus uzdevumus: detalizēta straumēšana (verbose streaming) atver logu uz aģentu darbību secinājumu ģenerēšanas laikā, savukārt šifrēts saturs saglabā to stāvokli no vienas sarunas kārtas uz nākamo. Ja tos sajauc, tu aktivizē nepareizo parametru un izšķied tokenus.

Ko rāda standarta straumēšana

Izmantojot standarta straumēšanu, tu saņem tikai vadītāja gala tekstu tā ģenerēšanas brīdī un neko citu.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
)
chat.append(user("My question"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)

Lielākajai daļai integrāciju tas ir pilnīgi pietiekami: tu attēlo atbildi vārdu pa vārdam, lietotājs redz, kā teksts parādās, un darbs ir padarīts. Akla zona ir procesa sākumposms. Kamēr apakšaģenti veic meklēšanu un vadītājs vēl nav sācis sintezēt rezultātus, straume paliek tukša, un tev nav iespējas atšķirt notiekošu meklēšanu no iestrēguša pieprasījuma.

Kastes atvēršana ar verbose_streaming

Vienkārši pievieno verbose_streaming parametram include, un rīku izsaukumi arī plūdīs caur straumi to notikšanas brīdī.

from xai_sdk.tools import web_search, x_search

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
)

chat.append(user("Analyze reactions to Apple's latest announcements"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)
    # Tool calls are also visible in real time

Tad tu redzi, kā tiek veikti tīmekļa meklējumi, kā atgriežas rezultāti un kā vadītājs sāk rakstīt. No tā tieši izriet trīs lietojumi. Atkļūdošanai tu pārbaudi, vai aģenti meklē paredzētajā virzienā: ja tavs jautājums ir par sabiedrisko reakciju, bet katrs vaicājums mērķē uz tehniskajām specifikācijām, problēma ir tavā promptā, nevis modelī. Lietotāja pieredzes uzlabošanai šie notikumi baro godīgu progresa indikatoru – „meklē avotus”, „analizē rezultātus” – vispārīga gaidīšanas indikatora vietā. Visbeidzot, monitoringa nolūkos tu vari pēc fakta saprast, kāpēc pieprasījums ilga minūti, jo zini, cik daudz meklēšanu tika uzsāktas.

Šifrēts saturs nav logs; tā ir atmiņa

use_encrypted_content atbild uz citu jautājumu. Tas neatklāj nekādu spriešanu lasāmā tekstā: tas ļauj modelim saglabāt aģentu iekšējo stāvokli starp kārtām vienā un tajā pašā sarunā.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
    use_encrypted_content=True,
)

Kad šis parametrs ir aktīvs, atbilde ietver šifrētu bloku, kas satur apakšaģentu stāvokli: viņu meklēšanu rezultātus un uzkrāto kontekstu. Nākamajā ziņojumā šis bloks tiek automātiski nosūtīts atpakaļ, un models sāk no jau atrastā, nevis pārrēķina visu no jauna. Tu to nevari lasīt – tas ir domāts modelim, nevis tava lietotnes žurnālam.

Lēmums to aktivizēt balstās uz vienkāršu kritēriju: vai tu uzdosi vairākus saistītus jautājumus? Sesija, kurā vispirms prasi pārskatu un pēc tam padziļināti aplūko trešo punktu, gūst skaidru labumu, tāpat kā ilgstoša izpēte, kur iepriekšējo kārtu konteksts ir galvenais mērķis. Turpretī izolētam jautājumam, kas prasa vienu atbildi un neko vairāk, šifrētais bloks ir tikai pārslodze: tas katrā kārtā pievieno tokenus, par kuriem tiek účturēts tāpat kā par pārējiem.

Nekas neliedz apvienot abus mehānismus – patiesībā tas ir dabiskais iestatījums interaktīvam pētniecības asistentam: tu seko darbībai tiešraidē, un konteksts saglabājas no vienas kārtas uz nākamo.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
    use_encrypted_content=True,
)

Galvenās atziņas

  • verbose_streaming atklāj rīku izsaukumus reāllaikā (atkļūdošana, lietotāja pieredze, monitorings)
  • use_encrypted_content saglabā apakšaģentu stāvokli starp sarunas kārtām
  • Šifrēts saturs nav lasāms – tas kalpo modelim, nevis tev
  • Apvieno abus interaktīvām pētniecības sesijām
  • Aktivizē šifrētu saturu tikai tad, ja paredzi vairāku kārtu dialogi