Streaming detalhado e conteúdo encriptado
Nesta página
Acompanhar o trabalho dos agentes em tempo real
Um pedido multi-agente demora tempo; quanto mais agentes lançar, maior será a espera: com 16 agentes a operar sobre um tema amplo, a latência ascende a dezenas de segundos. Entretanto, a sua aplicação desconhece o que se passa e o utilizador fica perante um ecrã congelado. Dois mecanismos resolvem este problema, mas desempenham funções totalmente distintas: o streaming detalhado abre uma janela para a atividade dos agentes durante a inferência, enquanto o conteúdo encriptado preserva o estado dos mesmos entre turnos de conversa. Confundi-los leva-o a ativar o parâmetro errado e a desperdiçar tokens.
O que o streaming padrão mostra
Com o streaming padrão, recebe apenas o texto final do líder à medida que é gerado, e nada mais.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
)
chat.append(user("My question"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
Isto é perfeitamente suficiente para a maioria das integrações: exibe a resposta palavra por palavra, o utilizador vê algo a surgir e o processo termina. O ponto cego situa-se a montante. Enquanto os subagentes pesquisam e o líder não inicia a sua síntese, o fluxo permanece vazio, sem que tenha qualquer forma de distinguir uma pesquisa em curso de um pedido bloqueado.
Abrir a caixa com verbose_streaming
Basta adicionar verbose_streaming ao parâmetro include para que as chamadas de ferramentas também cheguem ao fluxo em tempo real.
from xai_sdk.tools import web_search, x_search
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
)
chat.append(user("Analyze reactions to Apple's latest announcements"))
for response, chunk in chat.stream():
if chunk.content:
print(chunk.content, end="", flush=True)
# Tool calls are also visible in real time
Passa então a visualizar as pesquisas web a serem efetuadas, os resultados a regressar e o líder a começar a escrever. Daqui decorrem diretamente três utilizações. Para depuração, verifica se os agentes estão a pesquisar na direção esperada: se a sua pergunta versa sobre reações públicas e todas as consultas visam fichas técnicas, o problema reside no seu prompt, não no modelo. Para a experiência do utilizador, estes eventos alimentam um indicador de progresso fidedigno — «a procurar fontes», «a analisar resultados» — em vez de um genérico spinner. Por fim, para monitorização, consegue compreender a posteriori por que razão um pedido demorou um minuto, pois sabe quantas pesquisas foram lançadas.
O conteúdo encriptado não é uma janela; é memória
use_encrypted_content responde a uma questão diferente. Não expõe qualquer raciocínio em texto claro: permite ao modelo manter o estado interno dos agentes entre turnos da mesma conversa.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=4,
use_encrypted_content=True,
)
Quando este parâmetro está ativo, a resposta inclui um bloco encriptado contendo o estado dos subagentes: os resultados das suas pesquisas e o contexto que acumularam. Na mensagem seguinte, este bloco é reenviado automaticamente e o modelo retoma o trabalho a partir do que já foi encontrado, em vez de recalcular tudo. Não o consegue ler — destina-se ao modelo, não ao registo da sua aplicação.
A decisão de o ativar resume-se a um critério simples: tenciona fazer várias perguntas relacionadas? Uma sessão em que pede primeiro uma visão geral e depois um aprofundamento do terceiro ponto beneficia claramente, tal como uma investigação longa onde o contexto dos turnos anteriores é essencial. Pelo contrário, para uma pergunta isolada que exige uma única resposta e nada mais, o bloco encriptado constitui apenas sobrecarga: adiciona tokens em cada turno, faturados como todo o restante.
Nada o impede de combinar os dois mecanismos — na verdade, essa é a configuração natural para um assistente de investigação interativo: acompanha a atividade em direto e o contexto sobrevive de um turno para o seguinte.
chat = client.chat.create(
model="grok-4.20-multi-agent-0309",
agent_count=16,
tools=[web_search(), x_search()],
include=["verbose_streaming"],
use_encrypted_content=True,
)
Pontos-chave
verbose_streamingrevela chamadas de ferramentas em tempo real (depuração, UX, monitorização)use_encrypted_contentpreserva o estado dos subagentes entre turnos de conversa- O conteúdo encriptado não é legível — serve o modelo, não si
- Combine ambos para sessões de investigação interativas
- Ative o conteúdo encriptado apenas se previr conversas com múltiplos turnos