Fatturazione e gestione dei costi
In questa pagina
Comprendi cosa stai pagando
Le Responses API hanno un dettaglio di fatturazione cruciale: in una conversazione concatenata, ti viene addebitato l’importo per l’intera cronologia, anche se non la invii esplicitamente di nuovo. Comprendere questo meccanismo è essenziale per controllare i tuoi costi in produzione.
La trappola della cronologia cumulativa
Con previous_response_id, il server ricostruisce automaticamente il contesto completo. Questo è comodo per lo sviluppatore, ma significa che i token si accumulano:
| Turno | Il tuo messaggio | Token fatturati (input) |
|---|---|---|
| 1 | 50 token | 50 |
| 2 | 30 token + cronologia turno 1 | 130 |
| 3 | 40 token + cronologia turni 1–2 | 350 |
| 4 | 25 token + cronologia turni 1–3 | 725 |
La crescita è quadratica. Al decimo turno di una conversazione, i token in input possono essere da 10 a 50 volte superiori rispetto al tuo messaggio iniziale.
Lettura dei costi nella risposta
Ogni risposta include un oggetto usage con il costo esatto:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Il campo cost_in_nano_usd indica il costo in nano-dollari:
1.000.000.000 nano-USD = 1 USD
Per convertire:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Costo di questa richiesta: ${cost_usd:.6f}")
Token di ragionamento
I reasoning_tokens presenti in output_tokens_details sono fatturati alla tariffa dei token di output. Possono rappresentare dal 50 all’80% dei token di output sui modelli di ragionamento.
Strategie di ottimizzazione
Limita la lunghezza della conversazione
Invece di concatenare all’infinito, riepiloga periodicamente:
# Dopo N turni, riepiloga e ricomincia
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Riassumi questa conversazione in 3 punti chiave.",
previous_response_id=last_id
)
# Ricomincia con il riepilogo come nuovo contesto
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Contesto precedente: {summary.output[0].content[0].text}",
input=user_message
)
Scegli il modello giusto
Non tutti i modelli hanno lo stesso costo. Per compiti semplici, usa un modello meno potente (e più economico). Riserva i modelli di ragionamento per problemi complessi.
Controlla max_output_tokens
Limita l’output quando non hai bisogno di risposte lunghe:
{
"model": "grok-4.20-0309-reasoning",
"input": "Rispondi in una frase: qual è la capitale del Giappone?",
"max_output_tokens": 100
}
Usa store: false quando possibile
Le risposte non archiviate non vengono conservate sul server. Questo non riduce il costo diretto, ma evita di accumulare dati inutili.
Monitoraggio dei costi in produzione
Implementa un tracciamento sistematico:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Salva nel tuo sistema di logging
save_to_db(log_entry)
Avvisi sui costi
Imposta delle soglie di allerta:
MAX_COST_PER_REQUEST = 0.05 # 5 centesimi di USD
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Rilevata richiesta costosa: ${cost:.4f} (utente: {user_id})")
Punti chiave
- Le conversazioni concatenate fatturano l’intera cronologia a ogni turno: crescita quadratica
cost_in_nano_usd/ 1 miliardo = costo in USD- I token di ragionamento sono fatturati ma invisibili nella risposta
- Riepiloga le conversazioni lunghe per contenere i costi
- Implementa un tracciamento sistematico dei costi per utente e per funzionalità