RPM și TPM per model
Pe această pagină
Actualizare 2 noiembrie 2026 — Imagine.
grok-imagine-image-qualitya fost eliminat la 2 noiembrie 2026: cererile sale sunt acum deservite de Imagine Image 2.0 (grok-imagine-image-2.0, 0,04 USD per imagine) în calitatelow. Înlocuiți identificatorul în exemplele dumneavoastră și setați calitatea dorită;grok-imagine-image(versiunea 1.0) nu este afectat. Imagine Image 2.0 acceptă până la cinci imagini de referință și calitateaauto, care este acum implicită.
Cele două metrici de limitare

API-ul Grok nu măsoară utilizarea printr-un singur contor, ci prin doi, care se declanșează independent: RPM (cererile pe minut) și TPM (token-urile pe minut). Puteți fi blocat de unul dintre ei, deși sunteți încă departe de plafonul celuilalt. Aspect critic pentru cele ce urmează: acești doi contori sunt urmăriți per model, astfel încât limitele dumneavoastră pentru grok-4.5 nu au niciun efect asupra celor pentru grok-4.3.
Această distincție nu este un simplu detaliu de documentație. Ea determină modul în care dimensionați infrastructura, modul în care distribuiți sarcina și exact locul în care serviciul dumneavoastră va începe să returneze erori într-o zi de vârf de trafic.
RPM limitează numărul de apeluri
RPM numără apelurile, indiferent de dimensiunea lor: o cerere de zece tokeni și una de o sută de mii de tokeni cântăresc exact la fel. Fișele oficiale ale modelelor exprimă acest lucru în cereri pe secundă: 150 pentru grok-4.7 și grok-4.5 (9.000 pe minut), 37 pentru grok-4.3 (2.220 pe minut). Acest lucru este suficient pentru o aplicație conversațională standard.
RPM devine gâtul de sticlă imediat ce cererile dumneavoastră sunt numeroase și scurte. Un pipeline care clasifică tichetele de suport unul câte unul sau extrage trei entități per propoziție într-un corpus de documente își va epuiza cota de apeluri cu mult înainte de a se apropia de cota de tokeni. În acest caz, soluția nu este să cereți mai mult RPM, ci să grupați mai multe elemente într-un singur apel.
TPM limitează volumul procesat
TPM însumează tokenii de intrare și de ieșire pe durata unui minut glisant, cu, conform fișelor oficiale, 50 de milioane de tokeni pe minut pentru grok-4.7 și grok-4.5, și 10 milioane pentru grok-4.3. Comportamentul aici este exact inversul cazului anterior: puține apeluri, dar foarte grele.
Luați un serviciu de analiză a documentelor care trimite dosare de câte 50.000 de tokeni fiecare. Pe grok-4.3, plafonul de cereri ar autoriza 2.220 de trimiteri pe minut, dar TPM se oprește la 200 de documente: 200 × 50.000 = 10 milioane. Astfel, saturați aproximativ o unsprezecea parte din capacitatea teoretică în ceea ce privește numărul de apeluri, iar nicio setare de paralelism nu vă va permite să depășiți acest zid.
Limite specifice fiecărui model
Plafoanele nu sunt aceleași în funcție de natura modelului apelat și trebuie să cunoașteți această scară înainte de a promite un debit unui client.
| Categorie | Modele | Limită (fișa oficială) |
|---|---|---|
| Text | grok-4.7, grok-4.5 | 150 cereri/s, 50M TPM |
| Text | grok-4.3 | 37 cereri/s, 10M TPM |
| Imagine | grok-imagine-image, grok-imagine-image-2.0 | 6 cereri/s |
| Video | grok-imagine-video, -1.5, -1.5-lite | 10 cereri/s |
Aceste valori provin din fișele oficiale ale modelelor la data de 2 noiembrie 2026; limitele efective ale echipei dumneavoastră sunt afișate în consola xAI.
Deoarece contorii sunt independenți, saturarea unui model nu le blochează pe celelalte. Dacă grok-4.5 returnează erori 429, grok-4.3 continuă să accepte cererile dumneavoastră ca și cum nimic nu s-ar fi întâmplat. Aceasta este o pârghie de debit adesea neglijată: în loc să așteptați o creștere a cotei, direcționați sarcinile simple — clasificare, extragere, rezumat scurt — către un model mai puțin solicitat, rezervați grok-4.5 pentru raționamente cu adevărat complexe și lăsați orchestrarea fluxurilor cu mai mulți sub-agenți pentru grok-4.20-multi-agent-0309. Debitul global al platformei dumneavoastră devine astfel suma mai multor cote, nu doar a uneia singure.
Monitorizarea consumului fără anteturi dedicate
API-ul Grok nu returnează niciun antet în răspunsurile sale care să indice cât RPM sau TPM v-a mai rămas. Cu alte cuvinte, nimic nu vă va avertiza că vă apropiați de plafon: singura modalitate de a ști unde vă situați este să țineți contabilitatea dumneavoastră, latoarea clientului.
Această urmărire se bazează pe trei elemente: un contor de cereri pe minut per model, un contor de tokeni alimentat de obiectul usage pe care îl conține fiecare răspuns și un prag de alertă declanșat în jurul a 80% din limite. Acest ultim punct este cel mai important: o alertă la 80% vă lasă timp să vă ajustați — distribuiți sarcina, uniformizați trimiterile, declanșați o actualizare a nivelului de serviciu — în timp ce o alertă la 100% doar confirmă incidentul în curs de desfășurare.
Puncte cheie
- Limitele sunt măsurate în RPM (cereri/minut) și TPM (tokeni/minut)
- Modelele text oferă standard 1.800 RPM și 10M TPM
- Fiecare model are propriile limite independente
- Distribuirea sarcinii pe mai multe modele permite multiplicarea debitului efectiv
- Implementați urmărirea latoarea clientului pentru a anticipa limitele