Reutilizar el razonamiento en solicitudes posteriores
En esta página
Caché de pensamiento
Una de las funcionalidades más potentes del sistema de razonamiento cifrado de xAI es la capacidad de reinyectar el razonamiento de una solicitud anterior en una nueva. Este mecanismo, similar a una «caché de pensamiento», permite que el modelo retome su razonamiento exactamente donde lo dejó.
Cómo funciona
El proceso consta de tres pasos:
- Solicitud inicial: envías una pregunta con
include=["reasoning.encrypted_content"] - Almacenamiento: conservas el contenido cifrado devuelto en la respuesta
- Solicitud posterior: reinyectas este contenido cifrado en la nueva solicitud
El modelo reconoce el razonamiento cifrado y lo utiliza como contexto para su nueva reflexión. No empieza desde cero: tiene «memoria» de su proceso de pensamiento anterior.
Implementación paso a paso
Paso 1: Solicitud inicial con recuperación del razonamiento
from openai import OpenAI
client = OpenAI(
api_key="your-api-key",
base_url="https://api.x.ai/v1"
)
# Primera solicitud
response_1 = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Explain Bayes' theorem and give a medical example.",
include=["reasoning.encrypted_content"]
)
# Extraer el razonamiento cifrado
encrypted_reasoning = None
for item in response_1.output:
if item.type == "reasoning":
encrypted_reasoning = item.encrypted_content
Paso 2: Solicitud posterior con reinyección
# Segunda solicitud que se beneficia del razonamiento anterior
response_2 = client.responses.create(
model="grok-4.20-0309-reasoning",
input=[
# Reinyectar el razonamiento cifrado de la solicitud anterior
{
"type": "reasoning",
"encrypted_content": encrypted_reasoning
},
# Nuevo mensaje
{
"type": "message",
"role": "user",
"content": "Now, apply this theorem to a COVID test with 95% sensitivity and 99% specificity."
}
],
include=["reasoning.encrypted_content"]
)
Ventajas de la caché de pensamiento
Continuidad del razonamiento
El modelo no necesita reconstruir todo el contexto del pensamiento. Si ya ha razonado sobre el teorema de Bayes, puede aplicarlo directamente al nuevo problema sin volver a desarrollar la demostración.
Ahorro de tokens
Al reutilizar el razonamiento cifrado, evitas que el modelo vuelva a generar tokens de razonamiento para la parte ya cubierta. En conversaciones largas, el ahorro puede ser significativo.
Coherencia
El modelo mantiene la coherencia entre sus respuestas sucesivas. No se contradecirá, ya que dispone del rastro de su propio razonamiento.
Restricciones y limitaciones
- Mismo modelo: el razonamiento cifrado de un modelo no puede ser reutilizado por otro. El razonamiento producido por grok-4.5 no funcionará con grok-4.20-0309-reasoning.
- Tamaño: el contenido cifrado puede ser voluminoso. Supervisa el tamaño de tus solicitudes.
- Caducidad: el contenido cifrado puede tener un periodo de validez limitado. No lo almacenes indefinidamente sin verificarlo.
- Sin modificaciones: no puedes alterar el contenido cifrado. Cualquier modificación lo invalida.
Casos de uso en producción
Conversaciones complejas de varios turnos
Para un chatbot que resuelve problemas matemáticos a lo largo de varios intercambios, la caché de pensamiento mantiene el hilo del razonamiento sin tener que reenviar todo el contexto.
Pipeline de validación
Un pipeline que analiza código en varias pasadas puede reutilizar el razonamiento de la primera pasada (identificación de problemas) para la segunda pasada (propuesta de correcciones).
Tutor interactivo
Un sistema de tutoría puede almacenar el razonamiento del modelo al explicar un concepto y reutilizarlo cuando el estudiante formula preguntas de seguimiento.
Puntos clave
- El razonamiento cifrado puede reinyectarse en solicitudes posteriores mediante el campo
input - Este mecanismo mantiene la continuidad del razonamiento sin regenerar tokens
- El razonamiento cifrado está vinculado al modelo que lo produjo
- Nunca modifiques el contenido cifrado: se volvería inválido
- Útil para conversaciones de varios turnos, pipelines y sistemas interactivos