Reutilizar o Raciocínio em Pedidos Subsequentes
Nesta página
Cache de Pensamento
Uma das funcionalidades mais poderosas do sistema de raciocínio encriptado da xAI é a capacidade de reinjetar o raciocínio de um pedido anterior num novo. Este mecanismo, semelhante a uma “cache de pensamento”, permite ao modelo retomar o seu raciocínio exatamente onde o deixou.
Como Funciona
O processo consiste em três passos:
- Pedido inicial: envia uma pergunta com
include=["reasoning.encrypted_content"] - Armazenamento: guarda o conteúdo encriptado devolvido na resposta
- Pedido subsequente: reinjeta este conteúdo encriptado no novo pedido
O modelo reconhece o raciocínio encriptado e utiliza-o como contexto para a sua nova reflexão. Não começa do zero: possui “memória” do seu processo de pensamento anterior.
Implementação Passo a Passo
Passo 1: Pedido Inicial com Recuperação de Raciocínio
from openai import OpenAI
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1"
)
# Primeiro pedido
response_1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Explain Bayes' theorem and give a medical example.",
include=["reasoning.encrypted_content"]
)
# Extrair raciocínio encriptado
encrypted_reasoning = None
for item in response_1.output:
if item.type == "reasoning":
encrypted_reasoning = item.encrypted_content
Passo 2: Pedido Subsequente com Reinjeção
# Segundo pedido que beneficia do raciocínio anterior
response_2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input=[
# Reinjetar raciocínio encriptado do pedido anterior
{
"type": "reasoning",
"encrypted_content": encrypted_reasoning
},
# Nova mensagem
{
"type": "message",
"role": "user",
"content": "Now, apply this theorem to a COVID test with 95% sensitivity and 99% specificity."
}
],
include=["reasoning.encrypted_content"]
)
Vantagens da Cache de Pensamento
Continuidade do Raciocínio
O modelo não precisa de reconstruir todo o contexto de pensamento. Se já raciocinou sobre o teorema de Bayes, pode aplicá-lo diretamente ao novo problema sem repetir a demonstração.
Poupança de Tokens
Ao reutilizar o raciocínio encriptado, impede que o modelo regenere tokens de raciocínio para a parte já coberta. Em conversas longas, a poupança pode ser significativa.
Consistência
O modelo mantém a consistência nas suas respostas sucessivas. Não se contradirá, pois possui o registo do seu próprio raciocínio.
Restrições e Limitações
- Mesmo modelo: o raciocínio encriptado de um modelo não pode ser reutilizado por outro. O raciocínio produzido pelo grok-4.5 não funcionará com o grok-4.20-0309-reasoning.
- Tamanho: o conteúdo encriptado pode ser volumoso. Monitore o tamanho dos seus pedidos.
- Expiração: o conteúdo encriptado pode ter um período de validade limitado. Não o armazene indefinidamente sem verificar.
- Sem modificação: não pode alterar o conteúdo encriptado. Qualquer modificação torna-o inválido.
Casos de Uso em Produção
Conversas Complexas de Várias Voltas
Para um chatbot que resolve problemas matemáticos ao longo de várias trocas, a cache de pensamento mantém o fio condutor do raciocínio sem necessidade de reenviar tudo no contexto.
Pipeline de Validação
Um pipeline que analisa código em várias passagens pode reutilizar o raciocínio da primeira passagem (identificação de problemas) para a segunda passagem (proposta de correções).
Tutor Interativo
Um sistema de tutoria pode armazenar o raciocínio do modelo sobre a explicação de um conceito e reutilizá-lo quando o aluno fizer perguntas de acompanhamento.
Pontos-chave
- O raciocínio encriptado pode ser reinjetado em pedidos subsequentes através do campo
input - Este mecanismo mantém a continuidade do raciocínio sem regenerar tokens
- O raciocínio encriptado está vinculado ao modelo que o produziu
- Nunca modifique o conteúdo encriptado: torna-se inválido
- Útil para conversas de várias voltas, pipelines e sistemas interativos