RPM és TPM modellenként
Ezen az oldalon
Frissítés: 2026. november 2. — Imagine. A
grok-imagine-image-qualitymodellt 2026. november 2-án megszüntették: a kéréseit mostantól az Imagine Image 2.0 (grok-imagine-image-2.0, képenként 0,04 USD) szolgálja kilowminőségben. Cseréld le az azonosítót a példáidban, és állítsd be a kívánt minőséget; agrok-imagine-image(1.0 verzió) érintetlen marad. Az Imagine Image 2.0 legfeljebb öt referenciaképet fogad el, valamint támogatja azautominőséget, amely mostantól az alapértelmezett.
A két korlátozó mérőszám

A Grok API nem egyetlen számlálóval méri a használatodat, hanem kettővel, amelyek függetlenül lépnek életbe: RPM (kérés percenként) és TPM (token percenként). Előfordulhat, hogy az egyik miatt blokkolnak, miközben a másik határértékétől még messze jársz. A következők szempontjából kritikus fontosságú: ezt a két számlálót modellenként követik nyomon, így a grok-4.5-re vonatkozó korlátaid nincsenek hatással a grok-4.3 korlátaira.
Ez a megkülönböztetés nem csupán dokumentációs részletkérdés. Ez határozza meg az infrastruktúrád méretezését, a terhelés elosztását, és azt, hogy pontosan hol kezd el hibákat visszaadni a szolgáltatásod egy csúcsnapon.
Az RPM a hívások számát korlátozza
Az RPM a hívásokat számolja, függetlenül a méretüktől: egy tíz tokenes kérés és egy százezer tokenes kérés pontosan ugyanannyit nyom a latban. A hivatalos modelllapok ezt kérések másodpercenkénti számában adják meg: 150 a grok-4.7 és grok-4.5 esetében (percenként 9000), 37 a grok-4.3 esetében (percenként 2220). Ez egy szabványos beszélgetésalapú alkalmazáshoz elegendő.
Az RPM akkor válik szűk keresztmetszetté, ha a kéréseid számosak és rövidek. Egy pipeline, amely egyesével osztályozza az ügyfélszolgálati jegyeket, vagy három entitást von ki mondatonként egy dokumentumkorpuszból, jóval a tokenkvóta elérése előtt kimeríti a hívási kvótáját. Ilyen esetben a megoldás nem az RPM növelésének kérése, hanem több elem egyetlen hívásba történő kötegelése.
A TPM a feldolgozott mennyiséget korlátozza
A TPM egy csúszó percre vetítve adja össze a bemeneti és kimeneti tokeneket; a hivatalos lapok szerint percenként 50 millió token a grok-4.7 és grok-4.5, illetve 10 millió token a grok-4.3 esetében. Itt a viselkedés pontosan az előző eset fordítottja: kevés hívás, de nagyon súlyosak.
Vegyünk egy dokumentumelemző szolgáltatást, amely 50 000 tokenes mappákat küld. A grok-4.3 esetében a kérések felső határa percenként 2220 beküldést engedélyezne, de a TPM 200 dokumentumnál megáll: 200 × 50 000 = 10 millió. Tehát az elméleti kapacitásod körülbelül tizenegyedénél telíted a rendszert a hívások számát illetően, és semmilyen párhuzamosítási beállítás nem segít átlépni ezt a falat.
Modellenként specifikus korlátok
A felső határok a hívott modell jellegétől függően változnak, és ezt a skálát ismerned kell, mielőtt átviteli sebességet ígérsz egy ügyfélnek.
| Kategória | Modellek | Korlát (hivatalos lap) |
|---|---|---|
| Szöveg | grok-4.7, grok-4.5 | 150 kérés/mp, 50M TPM |
| Szöveg | grok-4.3 | 37 kérés/mp, 10M TPM |
| Kép | grok-imagine-image, grok-imagine-image-2.0 | 6 kérés/mp |
| Videó | grok-imagine-video, -1.5, -1.5-lite | 10 kérés/mp |
Ezek az értékek a 2026. november 2-i hivatalos modelllapokból származnak; a csapatod tényleges korlátai az xAI konzolon jelennek meg.
Mivel a számlálók függetlenek, az egyik modell telítődése nem blokkolja a többit. Ha a grok-4.5 429-es hibákat ad vissza, a grok-4.3 továbbra is fogadja a kéréseidet, mintha mi sem történt volna. Ez egy gyakran figyelmen kívül hagyott átviteli sebességet növelő kar: ahelyett, hogy a kvóta növelésére várnál, irányítsd az egyszerű feladatokat – osztályozás, kinyerés, rövid összefoglalás – egy kevésbé terhelt modellre, a grok-4.5-öt tartsd meg a valóban összetett következtetésekhez, a több alügynököt orchestráló folyamatokat pedig bízd a grok-4.20-multi-agent-0309-re. A platformod teljes átviteli sebessége így több kvóta összege lesz, nem pedig csak egyetlené.
Fogyasztás figyelme dedikált fejlécek nélkül
A Grok API válaszaiban nincsenek olyan fejlécek, amelyek jeleznék, mennyi RPM-ed vagy TPM-ed maradt. Más szóval: semmi nem figyelmeztet a határérték közelítésére: az egyetlen módja, hogy tudd, hol tartasz, ha te magad vezeted a nyilvántartást a kliens oldalon.
Ez a nyomon követés három elemen alapul: egy percenkénti, modellenkénti kérésszámlálón, egy tokenszámlálón, amelyet minden válaszban szereplő usage objektum táplál, valamint egy riasztási küszöbön, amely a korlátok körülbelül 80%-ánál aktiválódik. Ez utóbbi pont a legfontosabb: a 80%-os riasztás időt hagy a beavatkozásra – terhelés elosztása, beküldések simítása, szintfrissítés indítása –, míg a 100%-os riasztás csak megerősíti a folyamatban lévő incidenst.
Főbb megállapítások
- A korlátokat RPM-ben (kérés/perc) és TPM-ben (token/perc) mérik
- A szöveges modellek alapértelmezetten 1800 RPM-et és 10M TPM-et kínálnak
- Minden modellnek saját, független korlátai vannak
- A terhelés modellek közötti elosztása megszorozza a tényleges átviteli sebességet
- Implementálj kliens oldali nyomon követést a korlátok előrejelzéséhez