Contexto Multiturno: Armazenamento e Encriptação
Nesta página
O Problema do Contexto Entre Pedidos
Numa conversa multiturno com ferramentas, o volume de contexto cresce rapidamente. Cada chamada de ferramenta adiciona os seus resultados ao fio da mensagem, e o raciocínio interno do modelo deve ser preservado para garantir a consistência. Dois mecanismos resolvem este problema: armazenamento remoto e encriptação no lado do cliente.
Método 1: store_messages e previous_response_id
O armazenamento remoto delega a gestão do contexto aos servidores da xAI. Ative store_messages=True no seu primeiro pedido e, em seguida, encadeie os pedidos subsequentes com previous_response_id:
# Primeiro pedido: ativar armazenamento
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # guardar o ID
# Próximo pedido: usar o contexto armazenado
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Com esta abordagem, não precisa de reenviar o histórico completo de mensagens. O servidor da xAI mantém o contexto e anexa-o automaticamente. Isto reduz o tamanho do pedido e simplifica o seu código.
Vantagens
- Pedidos mais leves (sem necessidade de reenviar o histórico completo)
- O raciocínio interno do modelo é preservado automaticamente
- Sem gestão de estado complexa no lado do cliente
Limitações
- As mensagens são armazenadas nos servidores da xAI (consideração de privacidade)
- O
response_iddeve ser mantido entre pedidos - O armazenamento tem um período de retenção limitado
Método 2: use_encrypted_content
A encriptação no lado do cliente oferece uma alternativa para casos em que deseja manter o controlo do contexto sem armazenar os seus dados nos servidores da xAI:
# Ativar conteúdo encriptado
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# O raciocínio e os resultados das ferramentas são devolvidos encriptados
# Adicione-os tal como estão às mensagens subsequentes
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # contém conteúdo encriptado
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Com use_encrypted_content=True, o raciocínio interno e os resultados das ferramentas são devolvidos sob forma encriptada. Não os consegue ler, mas reenvia-os em pedidos subsequentes. O servidor desencripta-os para manter a continuidade do raciocínio.
Vantagens
- O contexto permanece sob o seu controlo (sem armazenamento remoto)
- O raciocínio interno é preservado sem ser exposto em texto simples
- Compatível com políticas de privacidade rigorosas
Limitações
- Os pedidos são maiores (o conteúdo encriptado é incluído)
- Deve gerir o histórico de mensagens no lado do cliente
Escolha Entre os Dois Métodos
A escolha depende do seu contexto:
- store_messages: preferível para aplicações de chat, assistentes interativos e casos onde a simplicidade é prioritária. O contexto é gerido automaticamente.
- use_encrypted_content: preferível para aplicações sensíveis, processamento de documentos confidenciais e casos onde os dados não devem sair da sua infraestrutura (para além do trânsito da API).
Combinação com o Fluxo de Trabalho Híbrido
Ambos os métodos integram-se no padrão de ciclo visto na lição anterior:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Este padrão encadeia perguntas enquanto preserva o contexto completo da conversa, incluindo resultados de ferramentas e o raciocínio interno do modelo.
Pontos-chave
store_messages=True+previous_response_iddelega a gestão do contexto à xAIuse_encrypted_content=Truepreserva o raciocínio sem armazenamento remoto- A escolha depende das suas restrições de privacidade e simplicidade
- Ambos os métodos são compatíveis com fluxos de trabalho multiturno e ferramentas híbridas
previous_response_idelimina a necessidade de reenviar o histórico completo de mensagens