Temperatura
In questa pagina
Controlla la creatività del modello
Finora ci siamo concentrati sul contenuto del tuo prompt. Ora affrontiamo un’altra leva altrettanto potente: i parametri di generazione. Il primo e più fondamentale è la temperatura. Essa agisce direttamente sulla distribuzione di probabilità dei token, determinando se il modello si comporta in modo deterministico—producendo risposte prevedibili e quasi identiche da una chiamata all’altra—o creativo, generando output vari e talvolta sorprendenti. Lo stesso prompt inviato con due temperature diverse può produrre una specifica tecnica sobria o un testo che prende direzioni inaspettate. Comprendere questo parametro è essenziale per adattare il comportamento del modello Mistral a ogni caso d’uso.
Come funziona la temperatura
Ricorda il meccanismo di base: a ogni passo di generazione, il modello calcola una probabilità per ogni token possibile, poi ne seleziona uno. La temperatura modifica la forma di questa distribuzione prima della selezione. Con una temperatura bassa, vicina a 0, la distribuzione diventa “appuntita”: il modello si concentra quasi esclusivamente sui token più probabili, rendendo le risposte prevedibili e coerenti. Chiedigli la capitale d’Italia a temperatura 0,1 e otterrai quasi sempre la stessa frase.
Con una temperatura alta, vicina a 1, la distribuzione viene invece “appiattita”: i token meno probabili tornano accessibili, il modello considera una gamma più ampia di sequenze possibili e le risposte guadagnano varietà—talvolta a scapito della coerenza. Questo è esattamente ciò che desideri per il brainstorming e esattamente ciò che devi evitare per l’estrazione di dati. La tabella seguente riassume gli intervalli utili.
| Temperatura | Comportamento | Casi d'uso |
|---|---|---|
| 0.0 | Quasi deterministico, sempre il token più probabile | Estrazione dati, classificazione, risposte fattuali |
| 0.1 - 0.3 | Molto prevedibile con lievi variazioni | Generazione di codice, traduzione, documentazione tecnica |
| 0.4 - 0.6 | Equilibrio tra coerenza e varietà | Scrittura professionale, riformulazione, riassunto |
| 0.7 - 0.8 | Creativo con buona coerenza | Brainstorming, copywriting marketing, storytelling |
| 0.9 - 1.0 | Molto creativo, sorprendente, talvolta incoerente | Poesia, narrativa, ideazione libera, esplorazione |
Usa la temperatura con l’API Mistral
Nell’API, la temperatura viene passata come un semplice parametro di chiamata. Confronta queste due richieste: la prima si aspetta una risposta fattuale e stabile, la seconda cerca varietà.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
# Bassa temperatura: risposta fattuale e deterministica
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the ROI formula?"}],
temperature=0.1
)
# Alta temperatura: risposta creativa e varia
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
temperature=0.8
)
La temperatura 0 non è perfettamente deterministica
Un malinteso comune va corretto subito: anche con temperature=0, le risposte di Mistral possono mostrare lievi variazioni da una richiesta all’altra. Ciò accade a causa di fattori hardware—calcoli in virgola mobile, parallelizzazione GPU—che introducono minuscole differenze nell’arrotondamento, sufficienti a influenzare occasionalmente la scelta di un token. Quindi, se stai costruendo test automatizzati o benchmark dove la riproducibilità è critica, non affidarti solo a temperature=0: combina una bassa temperatura con un controllo lato codice che convalidi la sostanza della risposta piuttosto che la sua forma esatta.
Adatta la temperatura al contesto
Vediamo come questa impostazione si comporta in tre situazioni professionali tipiche. Per la classificazione o l’estrazione, vuoi che la stessa recensione del cliente produca sempre lo stesso verdetto: usa temperatura 0.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
{"role": "user", "content": "The product works correctly."}
],
temperature=0.0
)
Per il copywriting marketing, una risposta troppo meccanica risulterebbe piatta; a 0,7, il modello varia la formulazione rimanendo coerente—ideale per produrre diversi agganci e scegliere il migliore.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You are a creative copywriter."},
{"role": "user", "content": "Write 3 hooks for an email campaign."}
],
temperature=0.7
)
Per il brainstorming, infine, sali fino a 0,9: accetti che alcune idee siano azzardate, dato che le filtrerai in seguito. Dieci spunti con tre eccellenti valgono più di cinque spunti tutti ragionevoli e già visti.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
],
temperature=0.9
)
Sperimenta per trovare l’impostazione giusta
Non esiste una temperatura universalmente ottimale: il valore corretto dipende dal tuo prompt, dal tuo modello e dalla tua tolleranza alla variabilità. L’unico metodo affidabile è la sperimentazione, condotta con rigore:
- Parti dal valore predefinito del modello
- Testa il tuo prompt con 3-4 valori di temperatura (0,1; 0,4; 0,7; 0,9)
- Confronta i risultati su 5-10 esecuzioni per ciascun valore
- Identifica il valore che offre il miglior rapporto coerenza/varietà per il tuo caso
- Documenta l’impostazione scelta insieme al tuo prompt
Quest’ultimo punto è spesso trascurato: un prompt di produzione senza la temperatura documentata è un prompt specificato a metà, che il tuo collega riutilizzerà con un’impostazione diversa chiedendosi perché ottiene risultati differenti.
Punti chiave
- La temperatura controlla il livello di creatività contro il determinismo del modello
- Valori bassi (0-0,3) per compiti fattuali, valori alti (0,7-1,0) per compiti creativi
- Anche a temperatura 0 sono possibili lievi variazioni
- Sperimenta con diversi valori per trovare l’impostazione ottimale
- Documenta sempre la temperatura utilizzata insieme ai tuoi prompt in produzione