Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

Limieten voor RPM/TPM in de console

Les 7 van 12 Bijgewerkt op 30 juli 2026 Gevorderd
Op deze pagina
  1. Twee metrieken om te monitoren
  2. Tier-systeem
  3. Uw limieten controleren
  4. Uw effectieve doorvoer berekenen
  5. Uw kosten in realtime volgen
  6. Tokenizer om vooraf te schatten
  7. Belangrijkste punten

Twee metrieken om te monitoren

De xAI API hanteert twee soorten snelheidslimieten, gemeten per minuut en per model:

  • RPM (Requests Per Minute): Het aantal API-verzoeken dat u per minuut kunt verzenden, ongeacht de inhoud.
  • TPM (Tokens Per Minute): Het totale aantal tokens (input + output) dat u per minuut kunt verbruiken.

U kunt de ene limiet bereiken zonder de andere te raken. Zo verbruiken 10 korte verzoeken van elk 100 tokens weinig TPM, maar tellen ze wel als 10 RPM. Omgekeerd verbruikt één enkel verzoek met 50.000 contexttokens veel TPM, maar slechts 1 RPM.

Tier-systeem

De limieten passen zich automatisch aan op basis van uw cumulatieve uitgaven. Eenmaal bereikt, daalt uw tier nooit meer:

Tier Drempelwaarde uitgaven Toegang
Tier 0 $0 (standaard) Basislimieten
Tier 1 $50 uitgaven Verhoogde limieten
Tier 2 $250 uitgaven Uitgebreide limieten
Tier 3 $1.000 uitgaven Hoge limieten
Tier 4 $5.000 uitgaven Premium limieten
Enterprise Op aanvraag Onderhandelde limieten

Cumulatieve uitgaven omvatten uw volledige accountgeschiedenis. U hoeft niet $50 in één maand uit te geven: als u 5 maanden lang $10 per maand uitgeeft, bereikt u Tier 1.

Uw limieten controleren

Ga naar de xAI-console (console.x.ai) om uw huidige limieten per model te bekijken. Elk model heeft zijn eigen RPM- en TPM-maximumwaarden. Redeneermodellen hebben doorgaans lagere limieten dan standaardmodellen.

Uw effectieve doorvoer berekenen

Om uw semaphore op basis van uw limieten af te stemmen:

# Uw limieten (bijvoorbeeld Tier 2)
rpm_limit = 120   # verzoeken per minuut
tpm_limit = 200_000  # tokens per minuut

# Schat uw verzoeken
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens

# Tokenlimiet
max_rpm_by_tokens = tpm_limit / tokens_per_request  # 200000 / 1500 = 133

# Effectieve limiet = minimum van de twee
effective_rpm = min(rpm_limit, max_rpm_by_tokens)  # min(120, 133) = 120

# Optimale semaphore
avg_duration = 8  # seconden per verzoek
semaphore_value = int(effective_rpm * avg_duration / 60)  # 120 * 8 / 60 = 16

In dit voorbeeld is een semaphore van 16 het theoretische maximum. Gebruik in de praktijk een lagere waarde (12–14) om een veiligheidsmarge aan te houden.

Uw kosten in realtime volgen

Elk API-antwoord bevat een veld usage dat de kosten aangeeft:

response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": prompt}]
)

# Verbruikte tokens
usage = response.usage
print(f"Input tokens: {usage.prompt_tokens}")
print(f"Output tokens: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")

Voor kosten in dollars is het veld cost_in_usd_ticks beschikbaar in sommige antwoorden. De conversie is: 10 miljard ticks = 1 USD.

Tokenizer om vooraf te schatten

Voordat u een duur verzoek verzendt, kunt u het aantal tokens schatten met het tokenisatie-eindpunt:

# Via de REST API
import httpx

async def count_tokens(text: str) -> int:
    async with httpx.AsyncClient() as http:
        response = await http.post(
            "https://api.x.ai/v1/tokenize-text",
            headers={"Authorization": f"Bearer {api_key}"},
            json={"text": text}
        )
        return response.json()["token_count"]

Hiermee verifieert u dat een grote prompt uw TPM-limieten niet overschrijdt voordat u deze verzendt.

Belangrijkste punten

  • RPM en TPM zijn twee onafhankelijke limieten: de strengste is van toepassing
  • Tiers verhogen automatisch met uw cumulatieve uitgaven en dalen nooit
  • Controleer console.x.ai voor uw exacte limieten per model
  • Stem uw semaphore af op het minimum tussen RPM en TPM
  • Gebruik het veld usage in antwoorden om het verbruik in realtime te volgen
  • Het eindpunt /v1/tokenize-text stelt u in staat tokens te schatten voordat u verzendt