Temperatura e parametri di generazione
In questa pagina
Lezione riscritta il 3 novembre 2026 sulla base delle best practice di xAI, del riferimento API (Chat Completions e Responses) e della guida Reasoning: xAI raccomanda una
temperaturedi 0.7 e untop_pdi 0.95 per i suoi modelli; le temperature superiori a 1 vengono limitate a 1; il valore predefinito ditop_pè 0.95;max_completion_tokenslimita solo la risposta visibile (128.000 token di default) eseednon garantisce il determinismo. La versione precedente consigliava temperature fino a 2, untop_ppredefinito di 1 e un limite che includeva il ragionamento. Fonti: Best practices · Chat Completions · Reasoning.
Controlla la generazione con i parametri
Oltre al testo del tuo prompt, le API di Grok accettano diversi parametri numerici che influenzano il modo in cui il modello genera la risposta. Con i modelli attuali, la lezione principale è controintuitiva: gestisci queste impostazioni con grande parsimonia e ricorda che è il prompt, molto più dei cursori, a guidare la qualità della risposta.

Temperatura
La temperatura controlla il grado di casualità nella selezione dei token. Il riferimento API la descrive in modo classico: un valore basso, come 0.2, rende l’output più focalizzato e deterministico; un valore più alto, come 0.8, lo rende più vario. Accetta valori da 0 a 2, ma qualsiasi valore superiore a 1 viene campionato come 1.
Le best practice di xAI vanno oltre: imposta temperature a 0.7 e non discostartene troppo. Secondo xAI, i modelli Grok reagiscono male ad altre impostazioni di campionamento e la qualità generalmente diminuisce quando le modifichi.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
"temperature": 0.7,
"top_p": 0.95
}
Per ottenere più creatività, rigore o concisione, usa invece il prompt: chiedi esplicitamente proposte inaspettate, un tono fattuale o una risposta in tre punti elenco. Questo è l’oggetto delle lezioni seguenti.
Il parametro top_p (campionamento del nucleo)
Il parametro top_p limita la scelta ai token che cumulano una data massa di probabilità: a 0.1, vengono considerati solo i token che rappresentano il 10% superiore della probabilità. I modelli di testo Grok attuali hanno questo valore impostato di default a 0.95 e i valori superiori al default del modello vengono limitati a tale default.
Il riferimento API ripete il solito consiglio di modificare o temperature o top_p, ma non entrambi. Le best practice di xAI, più recenti e specifiche per i suoi modelli, chiedono invece di impostare entrambi esplicitamente in ogni richiesta — 0.7 e 0.95 — affinché i tuoi risultati non dipendano dai default del server e per utilizzare gli stessi valori per tutti i modelli che confronti.
max_completion_tokens
Questo parametro limita il numero di token nella risposta. Serve a controllare la lunghezza e il costo della parte visibile.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Summarize this document in three points"}],
"max_completion_tokens": 500
}
Punti importanti, secondo il riferimento API:
- Si applica solo ai token visibili: il ragionamento e le chiamate di funzione non contano; lo sforzo di ragionamento controlla la riflessione
- Senza un valore, il default è 128.000 token; il vecchio
max_tokensè deprecato - Se il limite viene raggiunto, la risposta viene troncata e
finish_reasonè"length"invece di"stop"(le API Responses chiamano questo limitemax_output_tokense segnalano uno statoincomplete)
Il parametro seed
Il parametro seed richiede un campionamento di sistema il più deterministico possibile: richieste ripetute con lo stesso seed e gli stessi parametri dovrebbero produrre lo stesso risultato. Il riferimento API specifica che il determinismo non è garantito e rimanda al campo system_fingerprint nella risposta per individuare cambiamenti lato server.
{
"model": "grok-4.7",
"messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
"temperature": 0.7,
"top_p": 0.95,
"seed": 42
}
Casi d’uso per seed:
- Test e debug: verificare che un prompt produca risultati stabili
- Confronto: testare diverse formulazioni di prompt con lo stesso seed per isolare l’effetto della modifica
- Tracciamento: registrare
seedesystem_fingerprintcon ogni risultato per spiegare la varianza
Parametri rifiutati dai modelli di ragionamento
I modelli Grok attuali ragionano: presence_penalty, frequency_penalty e stop non possono essere inviati loro e una richiesta che li contiene restituisce un errore. logprobs, invece, viene ignorato da Grok 4.20 in poi. Se stai portando codice scritto per un altro provider, rimuovi questi parametri.
Impostazioni raccomandate
xAI non propone un set di impostazioni per caso d’uso: la sua raccomandazione è la stessa ovunque.
{"temperature": 0.7, "top_p": 0.95}
Aggiungi un max_completion_tokens adattato alla lunghezza prevista se necessario, un seed per i tuoi test e, su grok-4.5 fino a 4.7, uno sforzo di ragionamento (reasoning_effort) scelto in base alla difficoltà del compito: è questo, non la temperatura, ad arbitrare velocità, costo e profondità.
Esercitazione pratica
Invia lo stesso prompt tre volte, con temperature a 0.7 e top_p a 0.95, poi tre volte una versione del prompt che specifica il tono e il formato attesi:
Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."
Confronta la varietà e la pertinenza delle risposte: la differenza deriva dal prompt, non dai parametri.
Punti chiave
- xAI raccomanda
temperaturea 0.7 etop_pa 0.95, impostati esplicitamente in ogni richiesta - Oltre 1, la temperatura è limitata a 1;
top_pnon supera il default del modello (0.95) max_completion_tokenslimita solo la risposta visibile, 128.000 token di defaultseedmira alla riproducibilità senza garanzia: tracciasystem_fingerprintpresence_penalty,frequency_penaltyestopsono rifiutati dai modelli di ragionamento