Ir al contenido principal
Español— Elegir un idioma
Menú

Conversaciones de varios turnos: mantener el razonamiento en el historial

Lección 7 de 12 Actualizado el 2 de noviembre de 2026 Desarrollador
En esta página
  1. La regla: reproducir el mensaje completo
  2. Código de referencia
  3. El coste
  4. Streaming y la API de Conversations
  5. Historiales generados por Magistral
  6. Puntos clave

Lección reescrita el 2 de noviembre de 2026. Anteriormente cubría el parámetro prompt_mode de Magistral, que se eliminó con dicho modelo. Ahora aborda una regla destacada en la documentación actual: en conversaciones de varios turnos, el razonamiento debe permanecer en el historial. Fuente: Reasoning — Multi-turn conversations.

La regla: reproducir el mensaje completo

Con la API de Chat Completions, eres responsable de enviar el historial de la conversación en cada turno. La tentación de incluir solo el texto de la respuesta, que es más corto y legible, es fuerte. La documentación de Mistral es explícita: reproduce siempre el mensaje completo del asistente, incluidos los fragmentos de razonamiento. Eliminar el rastro del razonamiento de un turno al siguiente degrada el rendimiento del modelo, ya que este depende de ello para mantener la coherencia. Ahorrar tokens tiene un coste en calidad.

Código de referencia

El enfoque más sencillo consiste en añadir el objeto de mensaje devuelto por el SDK al historial exactamente tal cual:

import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []

for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
    messages.append(UserMessage(content=question))

    response = client.chat.complete(
        model="mistral-large-4-0",
        messages=messages,
        reasoning_effort="high",
    )
    assistant_message = response.choices[0].message

    # Mostrar: solo el texto de la respuesta
    content = assistant_message.content
    if isinstance(content, str):
        print(content)
    else:
        print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))

    # Historial: mensaje completo, incluido el razonamiento
    messages.append(assistant_message)

El parámetro timeout_ms aumenta el tiempo de espera del cliente, lo cual resulta útil cuando un razonamiento extenso prolonga el tiempo de respuesta. El punto crítico es la última línea: no añades un mensaje reconstruido únicamente a partir del texto, sino el propio assistant_message.

El coste

El ejemplo oficial ilustra el impacto en los tokens. En el primer turno, la solicitud contiene 25 tokens de entrada: solo la pregunta. El modelo responde con 187 tokens, incluido el razonamiento. En el segundo turno, la entrada asciende a 221 tokens: la primera pregunta (25), la respuesta completa del primer turno con su razonamiento (187) y la nueva pregunta (9). Los tokens de salida de un turno se convierten en tokens de entrada en el siguiente, y esto es precisamente lo que permite al modelo saber sin ambigüedad a qué «resultado» se refiere el usuario.

A lo largo de una conversación larga, este mecanismo hace que el historial crezca en cada turno. Dos consecuencias prácticas: supervisa usage.prompt_tokens, que crece con la conversación, y ten presente la ventana de contexto del modelo (256.000 tokens para Small 4, un millón para Large 4). Si el historial se vuelve demasiado pesado, inicia una nueva conversación con un resumen de la anterior en lugar de eliminar los rastros de razonamiento.

Streaming y la API de Conversations

En modo streaming, la respuesta llega en fragmentos (lección 3): para el historial, debes volver a ensamblar tú mismo un mensaje completo, incluido el razonamiento, lo que complica el código. Si tu aplicación es conversacional, la API de Conversations ofrece una alternativa: el historial se mantiene en el lado del servidor y continúas el intercambio con conversations.append sin necesidad de reenviar los turnos anteriores (lección 4).

Historiales generados por Magistral

Si estás conservando conversaciones generadas por Magistral, ten en cuenta que su formato ha variado. Las versiones 25.07 y 25.09 ya separaban el razonamiento en fragmentos thinking, tal como ocurre hoy. La versión 25.06, la primera publicación, colocaba el razonamiento directamente en el texto de la respuesta, entre las etiquetas <think> y “. Antes de reproducir dichos historiales en Small 4 o Large 4, prueba la reanudación en algunas conversaciones: no hay garantía de que un modelo actual aproveche el razonamiento escrito en un formato diferente por otro modelo.

Puntos clave

  • En Chat Completions, reproduce el mensaje completo del asistente, incluido el razonamiento
  • Eliminar fragmentos de razonamiento ahorra tokens, pero degrada significativamente la calidad
  • Los tokens de salida de un turno se convierten en tokens de entrada en el siguiente: supervisa prompt_tokens
  • En streaming, la API de Conversations evita la necesidad de ensamblar el historial manualmente
  • Los historiales de Magistral 25.06 mezclaban razonamiento y respuesta en el texto, usando etiquetas <think>