Yksityiskohtainen suoratoisto ja salattu sisältö
Tällä sivulla
Agenttien työn seuraaminen reaaliajassa
Moniagenttipyyntö vie aikaa, ja mitä useampia agentteja käynnistät, sitä kauemmin se kestää: kun 16 agenttia työskentelee laajan aiheen parissa, odotusaika venyy kymmeniin sekunteihin. Sillä välin sovelluksesi ei tiedä mitä tapahtuu, ja käyttäjäsi tuijottaa jäätyneenä näyttöä. Kaksi mekanismia ratkaisee tämän ongelman, mutta ne eivät suinkaan tee samaa asiaa: yksityiskohtainen suoratoisto (verbose streaming) avaa ikkunan agenttien toimintaan päättelyn aikana, kun taas salattu sisältö säilyttää niiden tilan yhdestä keskustelukierroksesta seuraavaan. Näiden sekoittaminen johtaa väärän parametrin käyttöönottoon ja tokenien tuhlaamiseen.
Mitä tavallinen suoratoisto näyttää
Tavallisessa suoratoistossa vastaanotat vain johtaja-agentin lopullisen tekstin sitä mukaa kun se generoituu, etkä mitään muuta.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Tämä riittää täydellisesti useimpiin integraatioihin: näytät vastauksen sanan kerrallaan, käyttäjä näkee tekstin ilmestyvän, ja homma on hoidettu. Sokea piste on ylävirrassa. Niin kauan kuin alagentit hakevat tietoa eikä johtaja ole aloittanut synteesiään, virta pysyy tyhjänä, eikä sinulla ole keinoa erottaa käynnissä olevaa hakua jumittuneesta pyynnöstä.
Laatikon avaaminen verbose_streaming-parametrilla
Lisää vain verbose_streaming parametriin include, jolloin myös työkalukutsut kulkevat virran mukana reaaliajassa.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Näet silloin verkkohakujen lähtevän liikkeelle, tulosten palaavan ja johtajan alkavan kirjoittaa. Tästä seuraa suoraan kolme käyttötarkoitusta. Virheenkorjauksessa varmistat, että agentit hakevat oikeaan suuntaan: jos kysymyksesi koskee yleisiä reaktioita ja jokainen haku kohdistuu teknisiin tietolehtiin, vika on kehotteessasi, ei mallissa. Käyttäjäkokemuksen kannalta nämä tapahtumat ruokkivat rehellistä edistymisindikaattoria – “haetaan lähteitä”, “analysoidaan tuloksia” – yleisen latauskehikon sijaan. Lopuksi valvonnan näkökulmasta voit jälkikäteen ymmärtää, miksi pyyntö vei minuutin, koska tiedät kuinka monta hakua suoritettiin.
Salattu sisältö ei ole ikkuna, vaan muisti
use_encrypted_content vastaa aivan toiseen kysymykseen. Se ei paljasta mitään päättelyä selväkielisenä tekstinä: se mahdollistaa sen, että malli pitää yllä agenttien sisäistä tilaa saman keskustelun eri kierrosten välillä.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Kun tämä parametri on aktiivinen, vastaus sisältää salatun lohkon, joka sisältää alagenttien tilan: niiden hakujen tulokset ja kertyneen kontekstin. Seuraavassa viestissä tämä lohko välitetään takaisin automaattisesti, ja malli jatkaa siitä, mitä on jo löydetty, sen sijaan että se laskisi kaiken uudelleen. Et voi lukea sitä – se on tarkoitettu mallille, ei sovelluksesi lokitiedostoihin.
Päätös sen käyttöönotosta tiivistyy yksinkertaiseen kriteeriin: aiotko esittää useita toisiinsa liittyviä kysymyksiä? Istunto, jossa pyydät ensin yleiskatsausta ja sen jälkeen syvennyt kolmanteen kohtaan, hyötyy tästä selkeästi, samoin kuin pitkä tutkimus, jossa edellisten kierrosten konteksti on koko jutun ydin. Päinvastoin, eristetyssä kysymyksessä, joka vaatii vain yhden vastauksen eikä mitään muuta, salattu lohko on pelkkää kuormaa: se lisää tokeneja jokaisella kierroksella, ja niistä laskutetaan kuten kaikista muistakin.
Mikään ei estä yhdistämästä näitä kahta mekanismia – itse asiassa se on luonteva asetelma vuorovaikutteiselle tutkimusavustajalle: seuraat toimintaa reaaliajassa, ja konteksti säilyy kierroksesta toiseen.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Keskeiset asiat
verbose_streamingpaljastaa työkalukutsut reaaliajassa (virheenkorjaus, UX, valvonta)use_encrypted_contentsäilyttää alagenttien tilan keskustelukierrosten välillä- Salattu sisältö ei ole luettavissa – se palvelee mallia, ei sinua
- Yhdistä molemmat vuorovaikutteisissa tutkimusistunnoissa
- Ota salattu sisältö käyttöön vain, jos odotat monikierroksisia keskusteluja