Scegliere il livello di ragionamento giusto
In questa pagina
Lezione riscritta il 2 novembre 2026. In precedenza confrontava il ragionamento “regolabile” di Mistral Small con quello “nativo” di Magistral, ma Magistral è stato ritirato il 31 luglio 2026. La scelta ora si pone tra modelli generalisti e livelli
reasoning_effort. Fonti: Reasoning · Schede dei modelli Small 4 e Large 4.
Due manopole invece di una gamma di modelli
Scegliere un modello di ragionamento presso Mistral significava un tempo optare per due gamme distinte. Oggi significa regolare due manopole: il modello (Small 4 per la maggior parte dei compiti, Large 4 per i casi più difficili) e il livello di ragionamento (none o high su Small 4; low, medium o high su Large 4). Una singola applicazione può, e spesso dovrebbe, utilizzare molteplici combinazioni.
La matrice decisionale
| Situazione | Impostazione iniziale | Perché |
|---|---|---|
| Domanda fattuale, riformulazione, estrazione | Small 4, none | Nulla da deliberare: il ragionamento aggiungerebbe solo latenza e token |
| Calcolo multi-step, debug di routine, confronto semplice | Small 4, high | Il ragionamento corregge gli errori di concatenazione a un costo moderato |
| Riassunto o riformulazione su Large 4 | Large 4, low | Large 4 non accetta none; low è il suo livello più economico |
| Analisi multi-criterio, piano di migrazione, bug sottile | Large 4, medium poi high | Testa prima il livello intermedio; sali di livello se la qualità lo richiede |
| Decisione critica (legale, finanziaria, medica) | Large 4, high + verifica | Il ragionamento riduce gli errori ma non li elimina: rimane necessaria una seconda passata o una revisione umana |
Questa matrice fornisce punti di partenza, non verità assolute: sono le tue valutazioni a decidere. Ricorda inoltre che Large 4 è in Public Preview al 2 novembre 2026.
Calcola prima di scalare
Le tariffe elencate (per milione di token, registrate il 2 novembre 2026) ti permettono di stimare il costo di un’impostazione dal campo usage nelle risposte:
RATES = { # USD per milione di token: (input, output)
"mistral-small-2603": (0.15, 0.60),
"mistral-large-4-0": (0.70, 2.10),
"mistral-medium-3-5": (1.50, 7.50), # deprecato, ritiro il 30 aprile 2027
}
def cost(response, model):
"""Costo di una risposta, incluso il ragionamento (esclusi sconti cache)."""
input_rate, output_rate = RATES[model]
u = response.usage
return (u.prompt_tokens * input_rate + u.completion_tokens * output_rate) / 1_000_000
Somma questo costo per tipo di richiesta nell’arco di alcuni giorni di traffico reale: quella cifra ti dirà se un’impostazione generalizzata high è sostenibile.
Un’architettura di routing
In un’applicazione reale, la maggior parte delle richieste è semplice. Pagare per il ragionamento su queste non aggiunge valore. Il seguente router chiede prima a Small 4, senza ragionamento, di stimare la complessità della domanda, poi instrada la query all’impostazione appropriata:
import os
from mistralai.client import Mistral
class ReasoningRouter:
"""Instrada ogni domanda verso un modello e un livello di ragionamento."""
def __init__(self):
self.client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def complexity(self, question):
r = self.client.chat.complete(
model="mistral-small-2603",
messages=[{"role": "user", "content":
f"Valuta la complessità di questa domanda da 0 a 10. Rispondi solo con il numero: {question}"}],
reasoning_effort="none",
)
try:
return min(max(int(str(r.choices[0].message.content).strip()), 0), 10)
except ValueError:
return 5 # valore conservativo se la risposta non è un numero
def respond(self, question, system_prompt=None):
score = self.complexity(question)
if score <= 3:
model, level = "mistral-small-2603", "none"
elif score <= 7:
model, level = "mistral-small-2603", "high"
else:
model, level = "mistral-large-4-0", "high"
messages = [{"role": "system", "content": system_prompt}] if system_prompt else []
messages.append({"role": "user", "content": question})
return self.client.chat.complete(model=model, messages=messages, reasoning_effort=level)
La chiamata di classificazione costa poco: alcune decine di token sul modello più economico, senza ragionamento. Regola le soglie dopo l’osservazione, confrontando qualità e costo di ogni ramo.
Best practice per la produzione
Registra l’uso per ramo. Per ogni risposta, memorizza il modello, il livello, usage.prompt_tokens, usage.completion_tokens e il costo calcolato sopra. Senza questi numeri, non puoi dire se il ragionamento vale la pena.
Fissa gli identificatori datati. In produzione, usa mistral-small-2603 invece di mistral-small-latest: un alias può passare a una nuova versione senza che il tuo codice cambi. Centralizza questi identificatori in un’unica configurazione.
MODELS = {
"fast": ("mistral-small-2603", "none"),
"reasoning": ("mistral-small-2603", "high"),
"deep": ("mistral-large-4-0", "high"),
}
Prevedi un fallback. Poiché Large 4 è in Public Preview, un fallback su Small 4 in modalità high protegge il tuo servizio se la chiamata fallisce. Tutti gli errori HTTP dell’SDK ereditano da MistralError:
from mistralai.client import errors
def query_with_fallback(client, messages):
try:
return client.chat.complete(model="mistral-large-4-0", messages=messages, reasoning_effort="high")
except errors.MistralError:
return client.chat.complete(model="mistral-small-2603", messages=messages, reasoning_effort="high")
Tieni d’occhio le deprecazioni. La pagina dei modelli Mistral elenca le date di deprecazione e ritiro. Medium 3.5 sarà ritirato il 30 aprile 2027: se lo usi, la scadenza è già fissata.
Riepilogo del corso
Il ragionamento offre al modello uno spazio per pensare prima di rispondere; presso Mistral, lo configuri per ogni richiesta con reasoning_effort, i cui valori dipendono dal modello. La risposta arriva quindi come frammenti—pensiero poi risposta—che devi saper leggere, anche in modalità streaming, e riprodurre integralmente per conversazioni multi-turno. Agenti e API Conversations portano la stessa impostazione in completion_args. Magistral è ritirato: Small 4 e Large 4 prendono il sopravvento, con Medium 3.5 che funge solo da passo transitorio. Infine, il ragionamento è giustificato dove ci sono percorsi da esplorare ed errori da catturare (matematica, codice, decisioni), e deve sempre essere misurato: qualità, token, latenza.
Punti chiave
- Due manopole: il modello (Small 4, Large 4) e il livello
reasoning_effort - Small 4 in
noneper compiti semplici, inhighper multi-step; Large 4 per i casi più difficili - Calcola ogni impostazione da
usagee dalle tariffe ufficiali prima di scalarla - Un router riserva il ragionamento alle query che ne beneficiano
- In produzione: identificatori datati, registrazione dell’uso, fallback da Large 4 a Small 4
Metti alla prova le tue conoscenze
Cinque domande per validare gli elementi essenziali del corso.
1. Quali valori di reasoning_effort accetta Mistral Large 4 e quale rifiuta?
Risposta: low, medium e high (la documentazione raccomanda high come punto di partenza). Rifiuta none: il livello precedentemente chiamato così nella sua preview ora si chiama low.
2. Dove si trova il testo del pensiero in una risposta con ragionamento?
Risposta: In un ThinkChunk (tipo thinking) all’interno della lista message.content. Il suo campo thinking è a sua volta una lista di oggetti TextChunk, da cui leggi il campo text. La risposta finale si trova in un TextChunk di primo livello.
3. Cosa devi rimettere nella cronologia di una conversazione multi-turno in Chat Completions?
Risposta: Il messaggio completo dell’assistente, inclusi i frammenti di pensiero. Rimuovere il pensiero risparmia token ma degrada significativamente la qualità dei turni successivi.
4. Il tuo codice chiama ancora magistral-medium-latest: cosa devi fare?
Risposta: Migra immediatamente, poiché Magistral è stato ritirato il 31 luglio 2026. Punta a Small 4 se la qualità è sufficiente, altrimenti Large 4 con reasoning_effort="high"; Medium 3.5, il sostituto designato, è esso stesso deprecato fino al 30 aprile 2027. Rimuovi prompt_mode e il template di pensiero dai prompt di sistema.
5. Come imposti reasoning_effort in un agente Mistral?
Risposta: Nel campo completion_args dell’agente, ad esempio completion_args={"reasoning_effort": "high"}. Con l’API Conversations, usa lo stesso campo ad ogni start o append.