Controlla lo sforzo di ragionamento, da ChatGPT alle API
In questa pagina
Calibrare la riflessione per ogni compito
Le lezioni dalla 1 alla 3 ti hanno fornito la mappa delle impostazioni e le linee guida di OpenAI. Questa lezione passa ai controlli: come regolare lo sforzo mentre lavori, gestirne il costo e automatizzarlo all’interno di un’applicazione. Il principio rimane invariato: il livello di ragionamento è un compromesso, non un cursore di qualità. Influisce simultaneamente su quattro variabili: il numero di token di ragionamento, il tempo di risposta, la profondità dell’analisi e il consumo di quota o il costo.
In ChatGPT: un’impostazione per messaggio
In Chat, il cursore Pensiero per GPT-6 si regola per ogni messaggio: puoi rimanere su Istantaneo per riformulare, passare ad Alto per l’analisi, quindi abbassarlo di nuovo. I livelli più alti attingono a quote specifiche del tuo piano; quando raggiungi un limite, ChatGPT può continuare con un altro modello disponibile e, ove possibile, indica quando la quota si resetta. In Work e Codex, il cursore di potenza svolge lo stesso ruolo, spaziando da Più veloce a Più intelligente, con Max e Ultra tenuti di riserva. La migliore pratica in entrambi i casi: inizia con l’impostazione predefinita e aumentala solo se il risultato non è sufficiente.
Nelle API: cinque leve
Per gli sviluppatori, cinque parametri nelle API Responses ti danno il controllo sul ragionamento:
reasoning.effortimposta il livello, danoneamaxa seconda del modello: GPT-6 Astra e GPT-6.1 Sol partono dalow, mentre GPT-6.1 Terra e GPT-6 Luna accettanonone.reasoning.mode,standardper impostazione predefinita opro, fa lavorare il modello più duramente senza cambiare il livello di sforzo; questo lavoro extra viene fatturato alla tariffa standard del modello ma consuma più token.max_output_tokenslimita il numero totale di token generati, inclusi quelli di ragionamento. Impostalo troppo basso e otterrai risposte incomplete; OpenAI consiglia di riservare almeno 25.000 token quando inizi a sperimentare.reasoning.summaryrichiede un riepilogo del processo di ragionamento, poiché il ragionamento grezzo non viene mai esposto.configuration_update, un elemento inserito tra due risposte, cambia il livello di sforzo a metà conversazione sui modelli GPT-6 compatibili senza toccare le impostazioni della richiesta iniziale: il prefisso del prompt rimane intatto e la cache del prompt continua a servire.
Ecco come appare quest’ultimo elemento, inserito prima del prossimo messaggio dell’utente:
{
"type": "configuration_update",
"reasoning": { "effort": "high" }
}
Una conversazione iniziata a low passa quindi a high per la risposta successiva e quelle seguenti, fino al verificarsi di un altro aggiornamento.
L’impatto sui costi
I token di ragionamento sono fatturati come token di output e il loro conteggio cresce rapidamente con il livello: da poche centinaia a decine di migliaia per un problema difficile. La scelta del modello conta altrettanto: per token di output, GPT-6 Luna costa venti volte meno di GPT-6.1 Sol, mentre GPT-6 Astra costa cinque volte di più. In ChatGPT, il costo si traduce in quote: il numero di richieste impegnative possibili per periodo.
Tre strategie di ottimizzazione
La prima è l’escalation: non partire dal massimo. Inizia con il livello predefinito, medium nelle API, o inferiore per un compito banale; se la risposta è incompleta o errata, sali di un gradino; riserva xhigh, max, la modalità pro, Max e Ultra per problemi che li giustificano. In un’applicazione, configuration_update rende possibile questa escalation all’interno di una singola conversazione.
La seconda è il triage basato sui compiti, che dovresti prendere l’abitudine di fare: riformulazione e classificazione al livello più basso, stesura e analisi semplici a low, pianificazione e giudizio a medium, debug e problemi difficili a high, ricerca a lungo termine a xhigh e casi estremi a max.
La terza è abbinare il modello giusto al livello giusto. GPT-6.1 Sol a high o superiore, eventualmente in modalità pro, gestisce problemi impegnativi; GPT-6 Astra rimane per i più difficili; GPT-6.1 Terra gestisce scrittura, immagini e orchestrazione di applicazioni; GPT-6 Luna, a low o medium, assorbe volumi a costi inferiori.
A te la parola
Trova il punto dei rendimenti decrescenti. Poni la seguente domanda tre volte, a tre livelli (Istantaneo, Medio, poi Alto in Chat, oppure low, medium, poi high nelle API) e confronta la profondità dell’analisi e, nelle API, i token di ragionamento consumati.
“Un’azienda ha 5 progetti. Progetto A: 100k€, ROI 3,2x, rischio medio. Progetto B: 250k€, ROI 1,8x, rischio basso. Progetto C: 50k€, ROI 5,1x, rischio alto. Progetto D: 150k€, ROI 2,4x, rischio medio. Progetto E: 75k€, ROI 4,0x, rischio alto. Il budget totale è di 400k€. Quali progetti dovrebbero essere finanziati per massimizzare il ROI aggiustato per il rischio? Dichiara esplicitamente la regola di aggiustamento utilizzata.”
Identifica il livello oltre il quale andare più in alto aggiunge poco valore: quella è la tua impostazione per questo tipo di domanda.
Fonti ufficiali: Modelli di ragionamento (API OpenAI: effort, modalità pro, max_output_tokens, riepiloghi, configuration_update, fatturazione) · Modelli (sforzi accettati e prezzi per modello) · GPT-6 e altri modelli in ChatGPT (livelli, quote e fallback in Chat)
Punti chiave
- Lo sforzo varia token, latenza, profondità e costo insieme: è un compromesso
- In ChatGPT, il livello si regola per messaggio, entro le quote del piano
- Nelle API:
reasoning.effort,reasoning.mode,max_output_tokens,reasoning.summaryeconfiguration_update - Escalation, triage dei compiti e il giusto abbinamento modello-livello sono le tre leve per il risparmio
- Cambiare lo sforzo a metà conversazione con
configuration_updatepreserva la cache del prompt