Conversaciones de varios turnos: mantener el razonamiento en el historial
En esta página
Lección reescrita el 2 de noviembre de 2026. Anteriormente cubría el parámetro
prompt_modede Magistral, que se eliminó con dicho modelo. Ahora aborda una regla destacada en la documentación actual: en conversaciones de varios turnos, el razonamiento debe permanecer en el historial. Fuente: Reasoning — Multi-turn conversations.
La regla: reproducir el mensaje completo
Con la API de Chat Completions, eres responsable de enviar el historial de la conversación en cada turno. La tentación de incluir solo el texto de la respuesta, que es más corto y legible, es fuerte. La documentación de Mistral es explícita: reproduce siempre el mensaje completo del asistente, incluidos los fragmentos de razonamiento. Eliminar el rastro del razonamiento de un turno al siguiente degrada el rendimiento del modelo, ya que este depende de ello para mantener la coherencia. Ahorrar tokens tiene un coste en calidad.
Código de referencia
El enfoque más sencillo consiste en añadir el objeto de mensaje devuelto por el SDK al historial exactamente tal cual:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []
for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
messages.append(UserMessage(content=question))
response = client.chat.complete(
model="mistral-large-4-0",
messages=messages,
reasoning_effort="high",
)
assistant_message = response.choices[0].message
# Mostrar: solo el texto de la respuesta
content = assistant_message.content
if isinstance(content, str):
print(content)
else:
print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))
# Historial: mensaje completo, incluido el razonamiento
messages.append(assistant_message)
El parámetro timeout_ms aumenta el tiempo de espera del cliente, lo cual resulta útil cuando un razonamiento extenso prolonga el tiempo de respuesta. El punto crítico es la última línea: no añades un mensaje reconstruido únicamente a partir del texto, sino el propio assistant_message.
El coste
El ejemplo oficial ilustra el impacto en los tokens. En el primer turno, la solicitud contiene 25 tokens de entrada: solo la pregunta. El modelo responde con 187 tokens, incluido el razonamiento. En el segundo turno, la entrada asciende a 221 tokens: la primera pregunta (25), la respuesta completa del primer turno con su razonamiento (187) y la nueva pregunta (9). Los tokens de salida de un turno se convierten en tokens de entrada en el siguiente, y esto es precisamente lo que permite al modelo saber sin ambigüedad a qué «resultado» se refiere el usuario.
A lo largo de una conversación larga, este mecanismo hace que el historial crezca en cada turno. Dos consecuencias prácticas: supervisa usage.prompt_tokens, que crece con la conversación, y ten presente la ventana de contexto del modelo (256.000 tokens para Small 4, un millón para Large 4). Si el historial se vuelve demasiado pesado, inicia una nueva conversación con un resumen de la anterior en lugar de eliminar los rastros de razonamiento.
Streaming y la API de Conversations
En modo streaming, la respuesta llega en fragmentos (lección 3): para el historial, debes volver a ensamblar tú mismo un mensaje completo, incluido el razonamiento, lo que complica el código. Si tu aplicación es conversacional, la API de Conversations ofrece una alternativa: el historial se mantiene en el lado del servidor y continúas el intercambio con conversations.append sin necesidad de reenviar los turnos anteriores (lección 4).
Historiales generados por Magistral
Si estás conservando conversaciones generadas por Magistral, ten en cuenta que su formato ha variado. Las versiones 25.07 y 25.09 ya separaban el razonamiento en fragmentos thinking, tal como ocurre hoy. La versión 25.06, la primera publicación, colocaba el razonamiento directamente en el texto de la respuesta, entre las etiquetas <think> y “. Antes de reproducir dichos historiales en Small 4 o Large 4, prueba la reanudación en algunas conversaciones: no hay garantía de que un modelo actual aproveche el razonamiento escrito en un formato diferente por otro modelo.
Puntos clave
- En Chat Completions, reproduce el mensaje completo del asistente, incluido el razonamiento
- Eliminar fragmentos de razonamiento ahorra tokens, pero degrada significativamente la calidad
- Los tokens de salida de un turno se convierten en tokens de entrada en el siguiente: supervisa
prompt_tokens - En streaming, la API de Conversations evita la necesidad de ensamblar el historial manualmente
- Los historiales de Magistral 25.06 mezclaban razonamiento y respuesta en el texto, usando etiquetas
<think>