Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Üksikasjalik voogedastus ja krüpteeritud sisu

Õppetund 8 / 14 Värskendatud 29. juuli 2026 Arendajatele
Sellel lehel
  1. Agentite töö jälgimine reaalajas
  2. Mida näitab tavaline voogedastus
  3. Kasti avamine verbose_streaming-ga
  4. Krüpteeritud sisu ei ole aken, vaid mälu
  5. Peamised punktid

Agentite töö jälgimine reaalajas

Mitme agendi päring võtab aega ja mida rohkem agente käivitad, seda kauem see kestab: 16 agendiga laia teema puhul võib ooteaeg ulatuda kümnete sekunditeni. Sel ajal ei tea sinu rakendus, mis toimub, ja kasutaja vaatab külmutatud ekraani. Seda probleemi lahendavad kaks mehhanismi, kuid need ei täida sama ülesannet: üksikasjalik voogedastus (verbose streaming) avab akna agentide tegevusse järelduse tegemise ajal, samas kui krüpteeritud sisu säilitab nende olekut ühest vestlusringist teise. Nende kahe segiajamine paneb sind lubama vale parameetri ja raiskama tokeneid.

Mida näitab tavaline voogedastus

Tavalise voogedastuse korral saad kätte ainult juhi lõpliku teksti selle genereerimise käigus ja mitte midagi muud.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
)
chat.append(user("My question"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)

Enamiku integratsioonide jaoks on sellest täiesti piisav: kuvad vastuse sõna haaval, kasutaja näeb midagi ilmuvat ja ongi kõik. Pimekoht asub ülesvoolu. Niikaua kuni alaagendid otsivad ja juht pole oma sünteesi alustanud, püsib voog tühjana ning sul pole võimalust eristada käimasolevat otsingut takerdunud päringust.

Kasti avamine verbose_streaming-ga

Lisa lihtsalt verbose_streaming parameetrile include ja tööriistakutsed jõuavad samuti voogu nende toimumise hetkel.

from xai_sdk.tools import web_search, x_search

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
)

chat.append(user("Analyze reactions to Apple's latest announcements"))

for response, chunk in chat.stream():
    if chunk.content:
        print(chunk.content, end="", flush=True)
    # Tööriistakutsed on samuti reaalajas nähtavad

Seejärel näed, kuidas veebiotsingud väljuvad, tulemused saabuvad ja juht kirjutama hakkab. Sellest tulenevad otseselt kolm kasutusviisi. Silumiseks (debugging) kontrollid, kas agendid otsivad õiges suunas: kui sinu küsimus puudutab avalikke reaktsioone ja iga päring sihib tehnilisi andmelehti, on probleem sinu vihjes, mitte mudelis. Kasutajakogemuse jaoks toidavad need sündmused ausat edenemisnäitajat – „allikate otsimine“, „tulemuste analüüsimine“ – üldise laadimisikooni asemel. Lõpuks saad järelkontrolli jaoks aru, miks päring võttis aega minuti, sest tead, mitu otsingut käivitati.

Krüpteeritud sisu ei ole aken, vaid mälu

use_encrypted_content vastab hoopis teisele küsimusele. See ei paljasta mingit arutluskäiku lihttekstina: see võimaldab mudelil hoida agentide sisemist olekut sama vestluse raames ühest pöördest teise.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=4,
    use_encrypted_content=True,
)

Kui see parameeter on aktiivne, sisaldab vastus krüpteeritud plokki, mis hoiab alaagentide olekut: nende otsingute tulemusi ja kogunenud konteksti. Järgmise sõnumi korral edastatakse see plokk automaatselt tagasi ja mudel alustab sellest, mis on juba leitud, selle asemel et kõike uuesti arvutada. Sa ei saa seda lugeda – see on mõeldud mudelile, mitte sinu rakenduse logile.

Otsus see lubada taandub lihtsale kriteeriumile: kas kavad esitada mitu omavahel seotud küsimust? Seanss, kus küsid esmalt ülevaadet ja seejärel süvened kolmandasse punkti, saab selget kasu, nagu ka pikk uurimistöö, kus eelmiste pöörete kontekst ongi peamine eesmärk. Vastupidi, isoleeritud küsimuse puhul, mis nõuab ühte vastust ja mitte midagi muud, on krüpteeritud plokk pelgalt lisakoormus: see lisab tokeneid igal pöördel, mida arvestatakse nagu kõike muudki.

Miski ei takista sul neid kahte mehhanismi kombineerimast – tegelikult on see interaktiivse uurimisassistendi loomulik seadistus: jälgid tegevust otse ja kontekst säilib ühest pöördest teise.

chat = client.chat.create(
    model="grok-4.20-multi-agent-0309",
    agent_count=16,
    tools=[web_search(), x_search()],
    include=["verbose_streaming"],
    use_encrypted_content=True,
)

Peamised punktid

  • verbose_streaming paljastab tööriistakutsed reaalajas (silumine, kasutajakogemus, jälgimine)
  • use_encrypted_content säilitab alaagentide olekut vestlusringide vahel
  • Krüpteeritud sisu ei ole loetav – see teenib mudelit, mitte sind
  • Kombineeri mõlemat interaktiivseteks uurimisseanssideks
  • Luba krüpteeritud sisu ainult siis, kui ootad mitme pöördega vestlusi