Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Temperatura e parametri di generazione

Lezione 3 di 14 Aggiornata il 3 novembre 2026 Principiante
In questa pagina
  1. Controlla la generazione con i parametri
  2. Temperatura
  3. Il parametro top_p (campionamento del nucleo)
  4. max_completion_tokens
  5. Il parametro seed
  6. Parametri rifiutati dai modelli di ragionamento
  7. Impostazioni raccomandate
  8. Esercitazione pratica
  9. Punti chiave

Lezione riscritta il 3 novembre 2026 sulla base delle best practice di xAI, del riferimento API (Chat Completions e Responses) e della guida Reasoning: xAI raccomanda una temperature di 0.7 e un top_p di 0.95 per i suoi modelli; le temperature superiori a 1 vengono limitate a 1; il valore predefinito di top_p è 0.95; max_completion_tokens limita solo la risposta visibile (128.000 token di default) e seed non garantisce il determinismo. La versione precedente consigliava temperature fino a 2, un top_p predefinito di 1 e un limite che includeva il ragionamento. Fonti: Best practices · Chat Completions · Reasoning.

Controlla la generazione con i parametri

Oltre al testo del tuo prompt, le API di Grok accettano diversi parametri numerici che influenzano il modo in cui il modello genera la risposta. Con i modelli attuali, la lezione principale è controintuitiva: gestisci queste impostazioni con grande parsimonia e ricorda che è il prompt, molto più dei cursori, a guidare la qualità della risposta.

Una risposta creativa ottenuta tramite il prompt nell'applicazione Grok

Temperatura

La temperatura controlla il grado di casualità nella selezione dei token. Il riferimento API la descrive in modo classico: un valore basso, come 0.2, rende l’output più focalizzato e deterministico; un valore più alto, come 0.8, lo rende più vario. Accetta valori da 0 a 2, ma qualsiasi valore superiore a 1 viene campionato come 1.

Le best practice di xAI vanno oltre: imposta temperature a 0.7 e non discostartene troppo. Secondo xAI, i modelli Grok reagiscono male ad altre impostazioni di campionamento e la qualità generalmente diminuisce quando le modifichi.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Propose a slogan for an organic bakery"}],
  "temperature": 0.7,
  "top_p": 0.95
}
0.7
Temperatura raccomandata da xAI
1
Limite effettivo della temperatura
0.95
top_p raccomandato e predefinito

Per ottenere più creatività, rigore o concisione, usa invece il prompt: chiedi esplicitamente proposte inaspettate, un tono fattuale o una risposta in tre punti elenco. Questo è l’oggetto delle lezioni seguenti.

Il parametro top_p (campionamento del nucleo)

Il parametro top_p limita la scelta ai token che cumulano una data massa di probabilità: a 0.1, vengono considerati solo i token che rappresentano il 10% superiore della probabilità. I modelli di testo Grok attuali hanno questo valore impostato di default a 0.95 e i valori superiori al default del modello vengono limitati a tale default.

Il riferimento API ripete il solito consiglio di modificare o temperature o top_p, ma non entrambi. Le best practice di xAI, più recenti e specifiche per i suoi modelli, chiedono invece di impostare entrambi esplicitamente in ogni richiesta — 0.7 e 0.95 — affinché i tuoi risultati non dipendano dai default del server e per utilizzare gli stessi valori per tutti i modelli che confronti.

max_completion_tokens

Questo parametro limita il numero di token nella risposta. Serve a controllare la lunghezza e il costo della parte visibile.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Summarize this document in three points"}],
  "max_completion_tokens": 500
}

Punti importanti, secondo il riferimento API:

  • Si applica solo ai token visibili: il ragionamento e le chiamate di funzione non contano; lo sforzo di ragionamento controlla la riflessione
  • Senza un valore, il default è 128.000 token; il vecchio max_tokens è deprecato
  • Se il limite viene raggiunto, la risposta viene troncata e finish_reason è "length" invece di "stop" (le API Responses chiamano questo limite max_output_tokens e segnalano uno stato incomplete)

Il parametro seed

Il parametro seed richiede un campionamento di sistema il più deterministico possibile: richieste ripetute con lo stesso seed e gli stessi parametri dovrebbero produrre lo stesso risultato. Il riferimento API specifica che il determinismo non è garantito e rimanda al campo system_fingerprint nella risposta per individuare cambiamenti lato server.

{
  "model": "grok-4.7",
  "messages": [{"role": "user", "content": "Generate 5 tech startup names"}],
  "temperature": 0.7,
  "top_p": 0.95,
  "seed": 42
}

Casi d’uso per seed:

  • Test e debug: verificare che un prompt produca risultati stabili
  • Confronto: testare diverse formulazioni di prompt con lo stesso seed per isolare l’effetto della modifica
  • Tracciamento: registrare seed e system_fingerprint con ogni risultato per spiegare la varianza

Parametri rifiutati dai modelli di ragionamento

I modelli Grok attuali ragionano: presence_penalty, frequency_penalty e stop non possono essere inviati loro e una richiesta che li contiene restituisce un errore. logprobs, invece, viene ignorato da Grok 4.20 in poi. Se stai portando codice scritto per un altro provider, rimuovi questi parametri.

Impostazioni raccomandate

xAI non propone un set di impostazioni per caso d’uso: la sua raccomandazione è la stessa ovunque.

{"temperature": 0.7, "top_p": 0.95}

Aggiungi un max_completion_tokens adattato alla lunghezza prevista se necessario, un seed per i tuoi test e, su grok-4.5 fino a 4.7, uno sforzo di ragionamento (reasoning_effort) scelto in base alla difficoltà del compito: è questo, non la temperatura, ad arbitrare velocità, costo e profondità.

Esercitazione pratica

Invia lo stesso prompt tre volte, con temperature a 0.7 e top_p a 0.95, poi tre volte una versione del prompt che specifica il tono e il formato attesi:

Prompt A: "Propose three names for a meditation app"
Prompt B: "Propose three short, evocative, and unexpected names for a meditation app
designed for busy executives. One name per line, no explanation."

Confronta la varietà e la pertinenza delle risposte: la differenza deriva dal prompt, non dai parametri.

Punti chiave

  • xAI raccomanda temperature a 0.7 e top_p a 0.95, impostati esplicitamente in ogni richiesta
  • Oltre 1, la temperatura è limitata a 1; top_p non supera il default del modello (0.95)
  • max_completion_tokens limita solo la risposta visibile, 128.000 token di default
  • seed mira alla riproducibilità senza garanzia: traccia system_fingerprint
  • presence_penalty, frequency_penalty e stop sono rifiutati dai modelli di ragionamento