Limites de Taxa RPM/TPM da Consola
Nesta página
Duas Métricas a Monitorizar
A API da xAI impõe dois tipos de limites de taxa, medidos por minuto e por modelo:
- RPM (Requests Per Minute): O número de pedidos de API que pode enviar por minuto, independentemente do seu conteúdo.
- TPM (Tokens Per Minute): O número total de tokens (entrada + saída) que pode consumir por minuto.
Pode atingir um limite sem atingir o outro. Por exemplo, 10 pedidos curtos de 100 tokens cada consomem pouco TPM, mas contam como 10 RPM. Por outro lado, um único pedido com 50.000 tokens de contexto consome muito TPM, mas apenas 1 RPM.
Sistema de Níveis
Os limites ajustam-se automaticamente com base nas suas despesas cumulativas. O nível nunca desce uma vez desbloqueado:
| Nível | Limiar de Despesa | Acesso |
|---|---|---|
| Nível 0 | $0 (padrão) | Limites base |
| Nível 1 | $50 de despesa | Limites aumentados |
| Nível 2 | $250 de despesa | Limites alargados |
| Nível 3 | $1.000 de despesa | Limites elevados |
| Nível 4 | $5.000 de despesa | Limites premium |
| Enterprise | Mediante pedido | Limites negociados |
A despesa cumulativa inclui todo o histórico da sua conta. Não precisa de gastar $50 num único mês: se gastar $10 por mês durante 5 meses, atingirá o Nível 1.
Verificar os Seus Limites
Aceda à consola da xAI (console.x.ai) para ver os seus limites atuais por modelo. Cada modelo possui os seus próprios tetos de RPM e TPM. Os modelos de raciocínio têm geralmente limites mais baixos do que os modelos padrão.
Calcular a Sua Taxa de Transferência Efetiva
Para dimensionar o seu semáforo com base nos seus limites:
# Os seus limites (exemplo Nível 2)
rpm_limit = 120 # pedidos por minuto
tpm_limit = 200_000 # tokens por minuto
# Estime os seus pedidos
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens
# Limite de tokens
max_rpm_by_tokens = tpm_limit / tokens_per_request # 200000 / 1500 = 133
# Limite efetivo = o mínimo dos dois
effective_rpm = min(rpm_limit, max_rpm_by_tokens) # min(120, 133) = 120
# Semáforo ótimo
avg_duration = 8 # segundos por pedido
semaphore_value = int(effective_rpm * avg_duration / 60) # 120 * 8 / 60 = 16
Neste exemplo, um semáforo de 16 é o máximo teórico. Na prática, utilize um valor mais baixo (12–14) para manter uma margem de segurança.
Acompanhar os Seus Custos em Tempo Real
Cada resposta da API contém um campo usage que indica o custo:
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": prompt}]
)
# Tokens consumidos
usage = response.usage
print(f"Tokens de entrada: {usage.prompt_tokens}")
print(f"Tokens de saída: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")
Para custos em dólares, o campo cost_in_usd_ticks está disponível em algumas respostas. A conversão é: 10 mil milhões de ticks = 1 USD.
Tokenizador para Estimar Antes do Envio
Antes de enviar um pedido dispendioso, pode estimar a contagem de tokens com o endpoint de tokenização:
# Via a API REST
import httpx
async def count_tokens(text: str) -> int:
async with httpx.AsyncClient() as http:
response = await http.post(
"https://api.x.ai/v1/tokenize-text",
headers={"Authorization": f"Bearer {api_key}"},
json={"text": text}
)
return response.json()["token_count"]
Isto permite-lhe verificar se um prompt grande não excederá os seus limites de TPM antes de o enviar.
Pontos-chave
- RPM e TPM são dois limites independentes: aplica-se o mais restritivo
- Os níveis aumentam automaticamente com a sua despesa cumulativa e nunca descem
- Consulte
console.x.aipara os seus limites exatos por modelo - Dimensione o seu semáforo com base no mínimo entre RPM e TPM
- Utilize o campo
usagenas respostas para acompanhar o consumo em tempo real - O endpoint
/v1/tokenize-textpermite estimar os tokens antes do envio