Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Scegliere il livello di ragionamento giusto

Lezione 12 di 12 Aggiornata il 2 novembre 2026 Sviluppatore
In questa pagina
  1. Due manopole invece di una gamma di modelli
  2. La matrice decisionale
  3. Calcola prima di scalare
  4. Un’architettura di routing
  5. Best practice per la produzione
  6. Riepilogo del corso
  7. Punti chiave
  8. Metti alla prova le tue conoscenze

Lezione riscritta il 2 novembre 2026. In precedenza confrontava il ragionamento “regolabile” di Mistral Small con quello “nativo” di Magistral, ma Magistral è stato ritirato il 31 luglio 2026. La scelta ora si pone tra modelli generalisti e livelli reasoning_effort. Fonti: Reasoning · Schede dei modelli Small 4 e Large 4.

Due manopole invece di una gamma di modelli

Scegliere un modello di ragionamento presso Mistral significava un tempo optare per due gamme distinte. Oggi significa regolare due manopole: il modello (Small 4 per la maggior parte dei compiti, Large 4 per i casi più difficili) e il livello di ragionamento (none o high su Small 4; low, medium o high su Large 4). Una singola applicazione può, e spesso dovrebbe, utilizzare molteplici combinazioni.

La matrice decisionale

SituazioneImpostazione inizialePerché
Domanda fattuale, riformulazione, estrazioneSmall 4, noneNulla da deliberare: il ragionamento aggiungerebbe solo latenza e token
Calcolo multi-step, debug di routine, confronto sempliceSmall 4, highIl ragionamento corregge gli errori di concatenazione a un costo moderato
Riassunto o riformulazione su Large 4Large 4, lowLarge 4 non accetta none; low è il suo livello più economico
Analisi multi-criterio, piano di migrazione, bug sottileLarge 4, medium poi highTesta prima il livello intermedio; sali di livello se la qualità lo richiede
Decisione critica (legale, finanziaria, medica)Large 4, high + verificaIl ragionamento riduce gli errori ma non li elimina: rimane necessaria una seconda passata o una revisione umana

Questa matrice fornisce punti di partenza, non verità assolute: sono le tue valutazioni a decidere. Ricorda inoltre che Large 4 è in Public Preview al 2 novembre 2026.

Calcola prima di scalare

Le tariffe elencate (per milione di token, registrate il 2 novembre 2026) ti permettono di stimare il costo di un’impostazione dal campo usage nelle risposte:

RATES = {  # USD per milione di token: (input, output)
    "mistral-small-2603": (0.15, 0.60),
    "mistral-large-4-0": (0.70, 2.10),
    "mistral-medium-3-5": (1.50, 7.50),   # deprecato, ritiro il 30 aprile 2027
}

def cost(response, model):
    """Costo di una risposta, incluso il ragionamento (esclusi sconti cache)."""
    input_rate, output_rate = RATES[model]
    u = response.usage
    return (u.prompt_tokens * input_rate + u.completion_tokens * output_rate) / 1_000_000

Somma questo costo per tipo di richiesta nell’arco di alcuni giorni di traffico reale: quella cifra ti dirà se un’impostazione generalizzata high è sostenibile.

Un’architettura di routing

In un’applicazione reale, la maggior parte delle richieste è semplice. Pagare per il ragionamento su queste non aggiunge valore. Il seguente router chiede prima a Small 4, senza ragionamento, di stimare la complessità della domanda, poi instrada la query all’impostazione appropriata:

import os
from mistralai.client import Mistral

class ReasoningRouter:
    """Instrada ogni domanda verso un modello e un livello di ragionamento."""

    def __init__(self):
        self.client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

    def complexity(self, question):
        r = self.client.chat.complete(
            model="mistral-small-2603",
            messages=[{"role": "user", "content":
                f"Valuta la complessità di questa domanda da 0 a 10. Rispondi solo con il numero: {question}"}],
            reasoning_effort="none",
        )
        try:
            return min(max(int(str(r.choices[0].message.content).strip()), 0), 10)
        except ValueError:
            return 5  # valore conservativo se la risposta non è un numero

    def respond(self, question, system_prompt=None):
        score = self.complexity(question)
        if score <= 3:
            model, level = "mistral-small-2603", "none"
        elif score <= 7:
            model, level = "mistral-small-2603", "high"
        else:
            model, level = "mistral-large-4-0", "high"
        messages = [{"role": "system", "content": system_prompt}] if system_prompt else []
        messages.append({"role": "user", "content": question})
        return self.client.chat.complete(model=model, messages=messages, reasoning_effort=level)

La chiamata di classificazione costa poco: alcune decine di token sul modello più economico, senza ragionamento. Regola le soglie dopo l’osservazione, confrontando qualità e costo di ogni ramo.

Best practice per la produzione

Registra l’uso per ramo. Per ogni risposta, memorizza il modello, il livello, usage.prompt_tokens, usage.completion_tokens e il costo calcolato sopra. Senza questi numeri, non puoi dire se il ragionamento vale la pena.

Fissa gli identificatori datati. In produzione, usa mistral-small-2603 invece di mistral-small-latest: un alias può passare a una nuova versione senza che il tuo codice cambi. Centralizza questi identificatori in un’unica configurazione.

MODELS = {
    "fast": ("mistral-small-2603", "none"),
    "reasoning": ("mistral-small-2603", "high"),
    "deep": ("mistral-large-4-0", "high"),
}

Prevedi un fallback. Poiché Large 4 è in Public Preview, un fallback su Small 4 in modalità high protegge il tuo servizio se la chiamata fallisce. Tutti gli errori HTTP dell’SDK ereditano da MistralError:

from mistralai.client import errors

def query_with_fallback(client, messages):
    try:
        return client.chat.complete(model="mistral-large-4-0", messages=messages, reasoning_effort="high")
    except errors.MistralError:
        return client.chat.complete(model="mistral-small-2603", messages=messages, reasoning_effort="high")

Tieni d’occhio le deprecazioni. La pagina dei modelli Mistral elenca le date di deprecazione e ritiro. Medium 3.5 sarà ritirato il 30 aprile 2027: se lo usi, la scadenza è già fissata.

Riepilogo del corso

Il ragionamento offre al modello uno spazio per pensare prima di rispondere; presso Mistral, lo configuri per ogni richiesta con reasoning_effort, i cui valori dipendono dal modello. La risposta arriva quindi come frammenti—pensiero poi risposta—che devi saper leggere, anche in modalità streaming, e riprodurre integralmente per conversazioni multi-turno. Agenti e API Conversations portano la stessa impostazione in completion_args. Magistral è ritirato: Small 4 e Large 4 prendono il sopravvento, con Medium 3.5 che funge solo da passo transitorio. Infine, il ragionamento è giustificato dove ci sono percorsi da esplorare ed errori da catturare (matematica, codice, decisioni), e deve sempre essere misurato: qualità, token, latenza.

Punti chiave

  • Due manopole: il modello (Small 4, Large 4) e il livello reasoning_effort
  • Small 4 in none per compiti semplici, in high per multi-step; Large 4 per i casi più difficili
  • Calcola ogni impostazione da usage e dalle tariffe ufficiali prima di scalarla
  • Un router riserva il ragionamento alle query che ne beneficiano
  • In produzione: identificatori datati, registrazione dell’uso, fallback da Large 4 a Small 4

Metti alla prova le tue conoscenze

Cinque domande per validare gli elementi essenziali del corso.

1. Quali valori di reasoning_effort accetta Mistral Large 4 e quale rifiuta?

Risposta: low, medium e high (la documentazione raccomanda high come punto di partenza). Rifiuta none: il livello precedentemente chiamato così nella sua preview ora si chiama low.

2. Dove si trova il testo del pensiero in una risposta con ragionamento?

Risposta: In un ThinkChunk (tipo thinking) all’interno della lista message.content. Il suo campo thinking è a sua volta una lista di oggetti TextChunk, da cui leggi il campo text. La risposta finale si trova in un TextChunk di primo livello.

3. Cosa devi rimettere nella cronologia di una conversazione multi-turno in Chat Completions?

Risposta: Il messaggio completo dell’assistente, inclusi i frammenti di pensiero. Rimuovere il pensiero risparmia token ma degrada significativamente la qualità dei turni successivi.

4. Il tuo codice chiama ancora magistral-medium-latest: cosa devi fare?

Risposta: Migra immediatamente, poiché Magistral è stato ritirato il 31 luglio 2026. Punta a Small 4 se la qualità è sufficiente, altrimenti Large 4 con reasoning_effort="high"; Medium 3.5, il sostituto designato, è esso stesso deprecato fino al 30 aprile 2027. Rimuovi prompt_mode e il template di pensiero dai prompt di sistema.

5. Come imposti reasoning_effort in un agente Mistral?

Risposta: Nel campo completion_args dell’agente, ad esempio completion_args={"reasoning_effort": "high"}. Con l’API Conversations, usa lo stesso campo ad ogni start o append.