Contexto multi-turno: almacenamiento y cifrado
En esta página
El problema del contexto entre solicitudes
En una conversación multi-turno con herramientas, el volumen del contexto crece rápidamente. Cada llamada a una herramienta añade sus resultados al hilo de mensajes, y el razonamiento interno del modelo debe conservarse para garantizar la coherencia. Dos mecanismos resuelven este problema: el almacenamiento remoto y el cifrado del lado del cliente.
Método 1: store_messages y previous_response_id
El almacenamiento remoto delega la gestión del contexto en los servidores de xAI. Activas store_messages=True en tu primera solicitud y luego encadenas las solicitudes subsiguientes mediante previous_response_id:
# Primera solicitud: activar el almacenamiento
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # guardar el ID
# Siguiente solicitud: usar el contexto almacenado
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Con este enfoque, no necesitas reenviar el historial completo de mensajes. El servidor de xAI mantiene el contexto y lo adjunta automáticamente. Esto reduce el tamaño de la solicitud y simplifica tu código.
Ventajas
- Solicitudes más ligeras (no es necesario reenviar el historial completo)
- El razonamiento interno del modelo se conserva automáticamente
- Sin gestión de estado compleja en el lado del cliente
Limitaciones
- Los mensajes se almacenan en los servidores de xAI (consideración de privacidad)
- El
response_iddebe conservarse entre solicitudes - El almacenamiento tiene un periodo de retención limitado
Método 2: use_encrypted_content
El cifrado del lado del cliente ofrece una alternativa para los casos en los que deseas mantener el control del contexto sin almacenar tus datos en los servidores de xAI:
# Activar contenido cifrado
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# El razonamiento y las salidas de las herramientas se devuelven cifrados
# Los añades tal cual a los mensajes subsiguientes
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # contiene contenido cifrado
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Con use_encrypted_content=True, el razonamiento interno y los resultados de las herramientas se devuelven en forma cifrada. No puedes leerlos, pero los reenvías en las solicitudes posteriores. El servidor los descifra para mantener la continuidad del razonamiento.
Ventajas
- El contexto permanece bajo tu control (sin almacenamiento remoto)
- El razonamiento interno se conserva sin exponerse en texto plano
- Compatible con políticas de privacidad estrictas
Limitaciones
- Las solicitudes son más grandes (se incluye el contenido cifrado)
- Debes gestionar el historial de mensajes en el lado del cliente
Elección entre los dos métodos
La elección depende de tu contexto:
- store_messages: preferible para aplicaciones de chat, asistentes interactivos y casos donde la simplicidad es prioritaria. El contexto se gestiona automáticamente.
- use_encrypted_content: preferible para aplicaciones sensibles, procesamiento de documentos confidenciales y casos donde los datos no deben salir de tu infraestructura (más allá del tránsito por la API).
Combinación con el flujo de trabajo híbrido
Ambos métodos se integran en el patrón de bucle visto en la lección anterior:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Este patrón encadena preguntas conservando el contexto completo de la conversación, incluidos los resultados de las herramientas y el razonamiento interno del modelo.
Puntos clave
store_messages=True+previous_response_iddelega la gestión del contexto en xAIuse_encrypted_content=Trueconserva el razonamiento sin almacenamiento remoto- La elección depende de tus restricciones de privacidad y simplicidad
- Ambos métodos son compatibles con flujos de trabajo multi-turno y herramientas híbridas
previous_response_idelimina la necesidad de reenviar el historial completo de mensajes