Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

RPM és TPM modellenként

2. lecke 14 közül Frissítve 2026. november 2. Haladó
Ezen az oldalon
  1. A két korlátozó mérőszám
  2. Az RPM a hívások számát korlátozza
  3. A TPM a feldolgozott mennyiséget korlátozza
  4. Modellenként specifikus korlátok
  5. Fogyasztás figyelme dedikált fejlécek nélkül
  6. Főbb megállapítások

Frissítés: 2026. november 2. — Imagine. A grok-imagine-image-quality modellt 2026. november 2-án megszüntették: a kéréseit mostantól az Imagine Image 2.0 (grok-imagine-image-2.0, képenként 0,04 USD) szolgálja ki low minőségben. Cseréld le az azonosítót a példáidban, és állítsd be a kívánt minőséget; a grok-imagine-image (1.0 verzió) érintetlen marad. Az Imagine Image 2.0 legfeljebb öt referenciaképet fogad el, valamint támogatja az auto minőséget, amely mostantól az alapértelmezett.

A két korlátozó mérőszám

Sebességkorlátok az xAI konzolon

A Grok API nem egyetlen számlálóval méri a használatodat, hanem kettővel, amelyek függetlenül lépnek életbe: RPM (kérés percenként) és TPM (token percenként). Előfordulhat, hogy az egyik miatt blokkolnak, miközben a másik határértékétől még messze jársz. A következők szempontjából kritikus fontosságú: ezt a két számlálót modellenként követik nyomon, így a grok-4.5-re vonatkozó korlátaid nincsenek hatással a grok-4.3 korlátaira.

Ez a megkülönböztetés nem csupán dokumentációs részletkérdés. Ez határozza meg az infrastruktúrád méretezését, a terhelés elosztását, és azt, hogy pontosan hol kezd el hibákat visszaadni a szolgáltatásod egy csúcsnapon.

Az RPM a hívások számát korlátozza

Az RPM a hívásokat számolja, függetlenül a méretüktől: egy tíz tokenes kérés és egy százezer tokenes kérés pontosan ugyanannyit nyom a latban. A hivatalos modelllapok ezt kérések másodpercenkénti számában adják meg: 150 a grok-4.7 és grok-4.5 esetében (percenként 9000), 37 a grok-4.3 esetében (percenként 2220). Ez egy szabványos beszélgetésalapú alkalmazáshoz elegendő.

Az RPM akkor válik szűk keresztmetszetté, ha a kéréseid számosak és rövidek. Egy pipeline, amely egyesével osztályozza az ügyfélszolgálati jegyeket, vagy három entitást von ki mondatonként egy dokumentumkorpuszból, jóval a tokenkvóta elérése előtt kimeríti a hívási kvótáját. Ilyen esetben a megoldás nem az RPM növelésének kérése, hanem több elem egyetlen hívásba történő kötegelése.

A TPM a feldolgozott mennyiséget korlátozza

A TPM egy csúszó percre vetítve adja össze a bemeneti és kimeneti tokeneket; a hivatalos lapok szerint percenként 50 millió token a grok-4.7 és grok-4.5, illetve 10 millió token a grok-4.3 esetében. Itt a viselkedés pontosan az előző eset fordítottja: kevés hívás, de nagyon súlyosak.

Vegyünk egy dokumentumelemző szolgáltatást, amely 50 000 tokenes mappákat küld. A grok-4.3 esetében a kérések felső határa percenként 2220 beküldést engedélyezne, de a TPM 200 dokumentumnál megáll: 200 × 50 000 = 10 millió. Tehát az elméleti kapacitásod körülbelül tizenegyedénél telíted a rendszert a hívások számát illetően, és semmilyen párhuzamosítási beállítás nem segít átlépni ezt a falat.

Modellenként specifikus korlátok

A felső határok a hívott modell jellegétől függően változnak, és ezt a skálát ismerned kell, mielőtt átviteli sebességet ígérsz egy ügyfélnek.

KategóriaModellekKorlát (hivatalos lap)
Szöveggrok-4.7, grok-4.5150 kérés/mp, 50M TPM
Szöveggrok-4.337 kérés/mp, 10M TPM
Képgrok-imagine-image, grok-imagine-image-2.06 kérés/mp
Videógrok-imagine-video, -1.5, -1.5-lite10 kérés/mp

Ezek az értékek a 2026. november 2-i hivatalos modelllapokból származnak; a csapatod tényleges korlátai az xAI konzolon jelennek meg.

Mivel a számlálók függetlenek, az egyik modell telítődése nem blokkolja a többit. Ha a grok-4.5 429-es hibákat ad vissza, a grok-4.3 továbbra is fogadja a kéréseidet, mintha mi sem történt volna. Ez egy gyakran figyelmen kívül hagyott átviteli sebességet növelő kar: ahelyett, hogy a kvóta növelésére várnál, irányítsd az egyszerű feladatokat – osztályozás, kinyerés, rövid összefoglalás – egy kevésbé terhelt modellre, a grok-4.5-öt tartsd meg a valóban összetett következtetésekhez, a több alügynököt orchestráló folyamatokat pedig bízd a grok-4.20-multi-agent-0309-re. A platformod teljes átviteli sebessége így több kvóta összege lesz, nem pedig csak egyetlené.

Fogyasztás figyelme dedikált fejlécek nélkül

A Grok API válaszaiban nincsenek olyan fejlécek, amelyek jeleznék, mennyi RPM-ed vagy TPM-ed maradt. Más szóval: semmi nem figyelmeztet a határérték közelítésére: az egyetlen módja, hogy tudd, hol tartasz, ha te magad vezeted a nyilvántartást a kliens oldalon.

Ez a nyomon követés három elemen alapul: egy percenkénti, modellenkénti kérésszámlálón, egy tokenszámlálón, amelyet minden válaszban szereplő usage objektum táplál, valamint egy riasztási küszöbön, amely a korlátok körülbelül 80%-ánál aktiválódik. Ez utóbbi pont a legfontosabb: a 80%-os riasztás időt hagy a beavatkozásra – terhelés elosztása, beküldések simítása, szintfrissítés indítása –, míg a 100%-os riasztás csak megerősíti a folyamatban lévő incidenst.

Főbb megállapítások

  • A korlátokat RPM-ben (kérés/perc) és TPM-ben (token/perc) mérik
  • A szöveges modellek alapértelmezetten 1800 RPM-et és 10M TPM-et kínálnak
  • Minden modellnek saját, független korlátai vannak
  • A terhelés modellek közötti elosztása megszorozza a tényleges átviteli sebességet
  • Implementálj kliens oldali nyomon követést a korlátok előrejelzéséhez