Límites de tasa RPM/TPM en la consola
En esta página
Dos métricas que debes supervisar
La API de xAI aplica dos tipos de límites de tasa, medidos por minuto y por modelo:
- RPM (Requests Per Minute): el número de solicitudes a la API que puedes enviar por minuto, independientemente de su contenido.
- TPM (Tokens Per Minute): el número total de tokens (entrada + salida) que puedes consumir por minuto.
Puedes alcanzar un límite sin llegar al otro. Por ejemplo, 10 solicitudes cortas de 100 tokens cada una consumen poco TPM, pero cuentan como 10 RPM. Por el contrario, una única solicitud con 50.000 tokens de contexto consume mucho TPM, pero solo 1 RPM.
Sistema de niveles
Los límites se ajustan automáticamente en función de tu gasto acumulado. El nivel nunca baja una vez desbloqueado:
| Nivel | Umbral de gasto | Acceso |
|---|---|---|
| Nivel 0 | 0 $ (predeterminado) | Límites base |
| Nivel 1 | 50 $ de gasto | Límites aumentados |
| Nivel 2 | 250 $ de gasto | Límites ampliados |
| Nivel 3 | 1.000 $ de gasto | Límites altos |
| Nivel 4 | 5.000 $ de gasto | Límites premium |
| Enterprise | Bajo petición | Límites negociados |
El gasto acumulado incluye todo el historial de tu cuenta. No necesitas gastar 50 $ en un solo mes: si gastas 10 $ al mes durante 5 meses, alcanzarás el Nivel 1.
Consulta tus límites
Accede a la consola de xAI (console.x.ai) para ver tus límites actuales por modelo. Cada modelo tiene sus propios topes de RPM y TPM. Los modelos de razonamiento suelen tener límites más bajos que los modelos estándar.
Calcula tu rendimiento efectivo
Para dimensionar tu semáforo en función de tus límites:
# Tus límites (ejemplo Nivel 2)
rpm_limit = 120 # solicitudes por minuto
tpm_limit = 200_000 # tokens por minuto
# Estima tus solicitudes
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens
# Límite por tokens
max_rpm_by_tokens = tpm_limit / tokens_per_request # 200000 / 1500 = 133
# Límite efectivo = el menor de los dos
effective_rpm = min(rpm_limit, max_rpm_by_tokens) # min(120, 133) = 120
# Semáforo óptimo
avg_duration = 8 # segundos por solicitud
semaphore_value = int(effective_rpm * avg_duration / 60) # 120 * 8 / 60 = 16
En este ejemplo, un semáforo de 16 es el máximo teórico. En la práctica, usa un valor inferior (12–14) para mantener un margen de seguridad.
Supervisa tus costes en tiempo real
Cada respuesta de la API contiene un campo usage que indica el coste:
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": prompt}]
)
# Tokens consumidos
usage = response.usage
print(f"Tokens de entrada: {usage.prompt_tokens}")
print(f"Tokens de salida: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")
Para obtener los costes en dólares, el campo cost_in_usd_ticks está disponible en algunas respuestas. La conversión es: 10 mil millones de ticks = 1 USD.
Tokenizador para estimar antes de enviar
Antes de enviar una solicitud costosa, puedes estimar el recuento de tokens con el endpoint de tokenización:
# Vía la API REST
import httpx
async def count_tokens(text: str) -> int:
async with httpx.AsyncClient() as http:
response = await http.post(
"https://api.x.ai/v1/tokenize-text",
headers={"Authorization": f"Bearer {api_key}"},
json={"text": text}
)
return response.json()["token_count"]
Esto te permite verificar que un prompt grande no superará tus límites de TPM antes de enviarlo.
Puntos clave
- RPM y TPM son dos límites independientes: se aplica el más restrictivo
- Los niveles aumentan automáticamente con tu gasto acumulado y nunca bajan
- Consulta
console.x.aipara ver tus límites exactos por modelo - Dimensiona tu semáforo basándote en el mínimo entre RPM y TPM
- Usa el campo
usageen las respuestas para supervisar el consumo en tiempo real - El endpoint
/v1/tokenize-textte permite estimar los tokens antes de enviar