Ir al contenido principal
Español— Elegir un idioma
Menú

Elección del nivel de razonamiento adecuado

Lección 12 de 12 Actualizado el 2 de noviembre de 2026 Desarrollador
En esta página
  1. Dos diales en lugar de una gama de modelos
  2. La matriz de decisión
  3. Calcula antes de escalar
  4. Una arquitectura de enrutamiento
  5. Buenas prácticas para producción
  6. Resumen del curso
  7. Puntos clave
  8. Pon a prueba tus conocimientos

Lección reescrita el 2 de noviembre de 2026. Anteriormente contrastaba el razonamiento «ajustable» de Mistral Small con el razonamiento «nativo» de Magistral, pero Magistral se retiró el 31 de julio de 2026. La elección reside ahora entre modelos generalistas y niveles de reasoning_effort. Fuentes: Reasoning · Fichas técnicas de Small 4 y Large 4.

Dos diales en lugar de una gama de modelos

Elegir un modelo de razonamiento en Mistral solía implicar seleccionar entre dos gamas distintas. Hoy significa ajustar dos diales: el modelo (Small 4 para la mayoría de tareas, Large 4 para los casos más complejos) y el nivel de razonamiento (none o high en Small 4; low, medium o high en Large 4). Una única aplicación puede, y a menudo debe, utilizar múltiples combinaciones.

La matriz de decisión

SituaciónConfiguración inicialPor qué
Pregunta factual, reformulación, extracciónSmall 4, noneNada que deliberar: el razonamiento solo añadiría latencia y tokens
Cálculo en varios pasos, depuración rutinaria, comparación simpleSmall 4, highEl razonamiento corrige errores de encadenamiento con un coste moderado
Resumen o reformulación en Large 4Large 4, lowLarge 4 no acepta none; low es su nivel más económico
Análisis multicriterio, plan de migración, error sutilLarge 4, medium y luego highPrueba primero el nivel intermedio; sube si la calidad lo exige
Decisión crítica (legal, financiera, médica)Large 4, high + verificaciónEl razonamiento reduce errores, pero no los elimina: sigue siendo necesaria una segunda pasada o revisión humana

Esta matriz ofrece puntos de partida, no verdades absolutas: tus propias evaluaciones deciden. Recuerda también que Large 4 se encuentra en Vista Previa Pública a fecha de 2 de noviembre de 2026.

Calcula antes de escalar

Las tarifas listadas (por millón de tokens, registradas el 2 de noviembre de 2026) te permiten estimar el coste de una configuración a partir del campo usage en las respuestas:

RATES = {  # USD por millón de tokens: (entrada, salida)
    "mistral-small-2603": (0.15, 0.60),
    "mistral-large-4-0": (0.70, 2.10),
    "mistral-medium-3-5": (1.50, 7.50),   # obsoleto, retirada el 30 de abril de 2027
}

def cost(response, model):
    """Coste de una respuesta, incluyendo razonamiento (excluyendo descuentos de caché)."""
    input_rate, output_rate = RATES[model]
    u = response.usage
    return (u.prompt_tokens * input_rate + u.completion_tokens * output_rate) / 1_000_000

Suma este coste por tipo de solicitud durante unos días de tráfico real: esa cifra te indicará si una configuración high generalizada es sostenible.

Una arquitectura de enrutamiento

En una aplicación real, la mayoría de las solicitudes son simples. Pagar por razonamiento en estos casos no aporta valor. El siguiente enrutador pregunta primero a Small 4, sin razonamiento, para estimar la complejidad de la pregunta y luego dirige la consulta a la configuración adecuada:

import os
from mistralai.client import Mistral

class ReasoningRouter:
    """Enruta cada pregunta a un modelo y un nivel de razonamiento."""

    def __init__(self):
        self.client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

    def complexity(self, question):
        r = self.client.chat.complete(
            model="mistral-small-2603",
            messages=[{"role": "user", "content":
                f"Valora la complejidad de esta pregunta del 0 al 10. Responde solo con el número: {question}"}],
            reasoning_effort="none",
        )
        try:
            return min(max(int(str(r.choices[0].message.content).strip()), 0), 10)
        except ValueError:
            return 5  # valor conservador si la respuesta no es un número

    def respond(self, question, system_prompt=None):
        score = self.complexity(question)
        if score <= 3:
            model, level = "mistral-small-2603", "none"
        elif score <= 7:
            model, level = "mistral-small-2603", "high"
        else:
            model, level = "mistral-large-4-0", "high"
        messages = [{"role": "system", "content": system_prompt}] if system_prompt else []
        messages.append({"role": "user", "content": question})
        return self.client.chat.complete(model=model, messages=messages, reasoning_effort=level)

La llamada de clasificación cuesta poco: unas pocas decenas de tokens en el modelo más barato y sin razonamiento. Ajusta los umbrales tras la observación, comparando la calidad y el coste de cada rama.

Buenas prácticas para producción

Registra el uso por rama. Para cada respuesta, almacena el modelo, el nivel, usage.prompt_tokens, usage.completion_tokens y el coste calculado anteriormente. Sin estos números, no podrás determinar si el razonamiento compensa.

Fija identificadores con fecha. En producción, usa mistral-small-2603 en lugar de mistral-small-latest: un alias puede cambiar a una nueva versión sin que tu código lo haga. Centraliza estos identificadores en una única configuración.

MODELS = {
    "fast": ("mistral-small-2603", "none"),
    "reasoning": ("mistral-small-2603", "high"),
    "deep": ("mistral-large-4-0", "high"),
}

Planifica un fallback. Dado que Large 4 está en Vista Previa Pública, un fallback a Small 4 en modo high protege tu servicio si la llamada falla. Todos los errores HTTP del SDK heredan de MistralError:

from mistralai.client import errors

def query_with_fallback(client, messages):
    try:
        return client.chat.complete(model="mistral-large-4-0", messages=messages, reasoning_effort="high")
    except errors.MistralError:
        return client.chat.complete(model="mistral-small-2603", messages=messages, reasoning_effort="high")

Vigila las obsolescencias. La página de modelos de Mistral lista las fechas de obsolescencia y retirada. Medium 3.5 se retirará el 30 de abril de 2027: si lo usas, el plazo ya está fijado.

Resumen del curso

El razonamiento ofrece al modelo un espacio para pensar antes de responder; en Mistral, configuras esto por solicitud con reasoning_effort, cuyos valores dependen del modelo. La respuesta llega entonces como fragmentos —pensamiento y luego respuesta— que debes saber leer, incluso en modo streaming, y reproducir íntegramente para conversaciones multi-turno. Los agentes y la API de Conversaciones mantienen la misma configuración en completion_args. Magistral está retirado: Small 4 y Large 4 toman el relevo, mientras que Medium 3.5 sirve solo como paso de transición. Finalmente, el razonamiento está justificado donde hay caminos que explorar y errores que capturar (matemáticas, código, decisiones), y siempre debe medirse: calidad, tokens, latencia.

Puntos clave

  • Dos diales: el modelo (Small 4, Large 4) y el nivel de reasoning_effort
  • Small 4 en none para tareas simples, en high para varios pasos; Large 4 para los casos más difíciles
  • Calcula cada configuración a partir de usage y las tarifas oficiales antes de escalarla
  • Un enrutador reserva el razonamiento para consultas que se benefician de él
  • En producción: identificadores con fecha, registro de uso, fallback de Large 4 a Small 4

Pon a prueba tus conocimientos

Cinco preguntas para validar lo esencial del curso.

1. ¿Qué valores de reasoning_effort acepta Mistral Large 4 y cuál rechaza?

Respuesta: low, medium y high (la documentación recomienda high como punto de partida). Rechaza none: el nivel que anteriormente se llamaba así en su vista previa ahora se llama low.

2. ¿Dónde se encuentra el texto de pensamiento en una respuesta con razonamiento?

Respuesta: En un ThinkChunk (tipo thinking) dentro de la lista message.content. Su campo thinking es a su vez una lista de objetos TextChunk, de los cuales lees el campo text. La respuesta final está en un TextChunk de nivel superior.

3. ¿Qué debes volver a introducir en el historial de una conversación multi-turno en Chat Completions?

Respuesta: El mensaje completo del asistente, incluidos los fragmentos de pensamiento. Eliminar el pensamiento ahorra tokens, pero degrada significativamente la calidad de los turnos siguientes.

4. Tu código sigue llamando a magistral-medium-latest: ¿qué debes hacer?

Respuesta: Migra inmediatamente, ya que Magistral se retiró el 31 de julio de 2026. Apunta a Small 4 si la calidad es suficiente; de lo contrario, a Large 4 con reasoning_effort="high"; Medium 3.5, el sustituto designado, está él mismo obsoleto hasta el 30 de abril de 2027. Elimina prompt_mode y la plantilla de pensamiento de los prompts del sistema.

5. ¿Cómo estableces reasoning_effort en un agente de Mistral?

Respuesta: En el campo completion_args del agente, por ejemplo completion_args={"reasoning_effort": "high"}. Con la API de Conversaciones, usa el mismo campo en cada start o append.