Conversazioni multi-turno: mantenere il ragionamento nella cronologia
In questa pagina
Lezione riscritta il 2 novembre 2026. In precedenza trattava il parametro
prompt_modedi Magistral, rimosso con quel modello. Ora affronta una regola evidenziata nella documentazione attuale: nelle conversazioni multi-turno, il ragionamento deve rimanere nella cronologia. Fonte: Reasoning — Multi-turn conversations.
La regola: riprodurre l’intero messaggio
Con l’API Chat Completions, sei responsabile dell’invio della cronologia della conversazione a ogni turno. La tentazione è forte di includere solo il testo della risposta, che è più breve e leggibile. La documentazione di Mistral è esplicita: riproduci sempre l’intero messaggio dell’assistente, inclusi i frammenti di ragionamento. Rimuovere la traccia del ragionamento da un turno all’altro degrada le prestazioni del modello, poiché esso vi fa affidamento per mantenere la coerenza. Risparmiare token ha un costo in termini di qualità.
Codice di riferimento
L’approccio più semplice consiste nell’aggiungere alla cronologia l’oggetto messaggio restituito dall’SDK esattamente com’è:
import os
from mistralai.client import Mistral
from mistralai.client.models import TextChunk, UserMessage
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"], timeout_ms=300_000)
messages = []
for question in ["What is 17 × 23?", "Now multiply that result by 3."]:
messages.append(UserMessage(content=question))
response = client.chat.complete(
model="mistral-large-4-0",
messages=messages,
reasoning_effort="high",
)
assistant_message = response.choices[0].message
# Visualizzazione: solo il testo della risposta
content = assistant_message.content
if isinstance(content, str):
print(content)
else:
print("".join(c.text for c in content or [] if isinstance(c, TextChunk)))
# Cronologia: messaggio completo, incluso il ragionamento
messages.append(assistant_message)
Il parametro timeout_ms aumenta il tempo di attesa del client, utile quando un ragionamento lungo estende il tempo di risposta. Il punto critico è l’ultima riga: non aggiungi un messaggio ricostruito dal solo testo, ma assistant_message stesso.
Il costo
L’esempio ufficiale illustra l’impatto sui token. Al primo turno, la richiesta contiene 25 token di input: solo la domanda. Il modello risponde con 187 token, incluso il ragionamento. Al secondo turno, l’input sale a 221 token: la prima domanda (25), l’intera risposta del primo turno con il suo ragionamento (187) e la nuova domanda (9). I token di output di un turno diventano token di input al turno successivo, ed è proprio questo che permette al modello di sapere senza ambiguità a quale “risultato” si riferisce l’utente.
Nel corso di una conversazione lunga, questo meccanismo fa crescere la cronologia a ogni turno. Due conseguenze pratiche: monitora usage.prompt_tokens, che cresce con la conversazione, e tieni presente la finestra di contesto del modello (256.000 token per Small 4, un milione per Large 4). Se la cronologia diventa troppo pesante, avvia una nuova conversazione con un riepilogo di quella precedente piuttosto che rimuovere le tracce di ragionamento.
Streaming e API Conversations
In modalità streaming, la risposta arriva a blocchi (Lezione 3): per la cronologia, devi quindi ricomporre manualmente un messaggio completo, incluso il ragionamento, il che complica il codice. Se la tua applicazione è conversazionale, l’API Conversations offre un’alternativa: la cronologia è mantenuta lato server e continui lo scambio con conversations.append senza dover reinviare i turni precedenti (Lezione 4).
Cronologie generate da Magistral
Se stai conservando conversazioni generate da Magistral, nota che il loro formato è variato. Le versioni 25.07 e 25.09 separavano già il ragionamento in frammenti thinking, come avviene oggi. La versione 25.06, la prima release, inseriva il ragionamento direttamente nel testo della risposta, tra i tag <think> e “. Prima di riprodurre tali cronologie su Small 4 o Large 4, testa la ripresa su alcune conversazioni: non c’è garanzia che un modello attuale sappia sfruttare un ragionamento scritto in un formato diverso da un altro modello.
Punti chiave
- In Chat Completions, riproduci il messaggio completo dell’assistente, incluso il ragionamento
- Rimuovere i frammenti di ragionamento risparmia token ma degrada significativamente la qualità
- I token di output di un turno diventano token di input al turno successivo: monitora
prompt_tokens - In streaming, l’API Conversations evita la necessità di ricomporre manualmente la cronologia
- Le cronologie di Magistral 25.06 mescolavano ragionamento e risposta nel testo, usando i tag
<think>