Limiti di frequenza RPM/TPM della console
In questa pagina
Due metriche da monitorare
Le API xAI applicano due tipi di limiti di frequenza, misurati al minuto e per modello:
- RPM (Richieste al minuto): il numero di richieste API che puoi inviare al minuto, indipendentemente dal loro contenuto.
- TPM (Token al minuto): il numero totale di token (input + output) che puoi consumare al minuto.
Puoi raggiungere un limite senza raggiungere l’altro. Ad esempio, 10 richieste brevi da 100 token ciascuna consumano poco TPM ma contano come 10 RPM. Al contrario, una singola richiesta con 50.000 token di contesto consuma molto TPM ma solo 1 RPM.
Sistema a livelli
I limiti si adattano automaticamente in base alla tua spesa cumulativa. Il livello non scende mai una volta sbloccato:
| Livello | Soglia di spesa | Accesso |
|---|---|---|
| Livello 0 | $0 (predefinito) | Limiti base |
| Livello 1 | $50 di spesa | Limiti aumentati |
| Livello 2 | $250 di spesa | Limiti estesi |
| Livello 3 | $1.000 di spesa | Limiti elevati |
| Livello 4 | $5.000 di spesa | Limiti premium |
| Enterprise | Su richiesta | Limiti negoziati |
La spesa cumulativa include l’intero storico del tuo account. Non devi spendere 50 $ in un solo mese: se spendi 10 $ al mese per 5 mesi, raggiungi il Livello 1.
Controlla i tuoi limiti
Vai alla console xAI (console.x.ai) per vedere i tuoi limiti attuali per modello. Ogni modello ha i propri limiti massimi di RPM e TPM. I modelli di ragionamento hanno generalmente limiti inferiori rispetto ai modelli standard.
Calcola il tuo throughput effettivo
Per dimensionare il tuo semaforo in base ai tuoi limiti:
# I tuoi limiti (esempio Livello 2)
rpm_limit = 120 # richieste al minuto
tpm_limit = 200_000 # token al minuto
# Stima le tue richieste
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens
# Limite basato sui token
max_rpm_by_tokens = tpm_limit / tokens_per_request # 200000 / 1500 = 133
# Limite effettivo = minimo tra i due
effective_rpm = min(rpm_limit, max_rpm_by_tokens) # min(120, 133) = 120
# Semaforo ottimale
avg_duration = 8 # secondi per richiesta
semaphore_value = int(effective_rpm * avg_duration / 60) # 120 * 8 / 60 = 16
In questo esempio, un semaforo di 16 è il massimo teorico. Nella pratica, usa un valore inferiore (12–14) per mantenere un margine di sicurezza.
Monitora i tuoi costi in tempo reale
Ogni risposta API contiene un campo usage che indica il costo:
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": prompt}]
)
# Token consumati
usage = response.usage
print(f"Token input: {usage.prompt_tokens}")
print(f"Token output: {usage.completion_tokens}")
print(f"Totale: {usage.total_tokens}")
Per i costi in dollari, il campo cost_in_usd_ticks è disponibile in alcune risposte. La conversione è: 10 miliardi di tick = 1 USD.
Tokenizer per stimare prima dell’invio
Prima di inviare una richiesta costosa, puoi stimare il numero di token con l’endpoint di tokenizzazione:
# Tramite l'API REST
import httpx
async def count_tokens(text: str) -> int:
async with httpx.AsyncClient() as http:
response = await http.post(
"https://api.x.ai/v1/tokenize-text",
headers={"Authorization": f"Bearer {api_key}"},
json={"text": text}
)
return response.json()["token_count"]
Questo ti permette di verificare che un prompt ampio non superi i tuoi limiti TPM prima di inviarlo.
Punti chiave
- RPM e TPM sono due limiti indipendenti: si applica quello più restrittivo
- I livelli aumentano automaticamente con la tua spesa cumulativa e non scendono mai
- Controlla
console.x.aiper i tuoi limiti esatti per modello - Dimensiona il tuo semaforo in base al minimo tra RPM e TPM
- Usa il campo
usagenelle risposte per tracciare il consumo in tempo reale - L’endpoint
/v1/tokenize-textti permette di stimare i token prima dell’invio