Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

RPM i TPM po modelu

Lekcija 2 od 14 Ažurirano 2. studenoga 2026. Napredno
Na ovoj stranici
  1. Dva mjerila za ograničavanje
  2. RPM ograničava broj poziva
  3. TPM ograničava obrađeni volumen
  4. Ograničenja specifična za svaki model
  5. Praćenje potrošnje bez posebnih zaglavlja
  6. Ključne točke

Ažuriranje 2. studenoga 2026. — Imagine. grok-imagine-image-quality uklonjen je 2. studenoga 2026.: njegovi se zahtjevi sada obrađuju putem Imagine Image 2.0 (grok-imagine-image-2.0, 0,04 USD po slici) u low kvaliteti. Zamijeni identifikator u svojim primjerima i postavi željenu kvalitetu; grok-imagine-image (verzija 1.0) nije pogođen. Imagine Image 2.0 prihvaća do pet referentnih slika i auto kvalitetu, koja je sada zadana.

Dva mjerila za ograničavanje

Ograničenja stope u xAI konzoli

Grok API ne mjeri tvoju upotrebu jednim brojačem, već s dva koja se aktiviraju neovisno: RPM (zahtjeva u minuti) i TPM (tokena u minuti). Možeš biti blokiran zbog jednog, a da si još uvijek daleko ispod granice drugoga. Ključno za ono što slijedi: ova se dva brojača prate po modelu, pa tvoja ograničenja za grok-4.5 nemaju utjecaja na ona za grok-4.3.

Ova razlika nije samo detalj u dokumentaciji. Ona određuje kako ćeš dimenzionirati svoju infrastrukturu, kako rasporediti opterećenje i točno gdje će tvoja usluga početi vraćati pogreške tijekom dana s naglim porastom prometa.

RPM ograničava broj poziva

RPM broji pozive, bez obzira na njihovu veličinu: zahtjev od deset tokena i zahtjev od sto tisuća tokena teže točno isto. Službeni listovi modela izražavaju to u zahtjevima u sekundi: 150 za grok-4.7 i grok-4.5 (9.000 u minuti), 37 za grok-4.3 (2.220 u minuti). To je dovoljno za standardnu konverzacijsku aplikaciju.

RPM postaje usko grlo čim su tvoji zahtjevi brojni i kratki. Cjevovod koji klasificira tikete za podršku jedan po jedan ili izvlači tri entiteta po rečenici kroz korpus dokumenata iscrpit će svoju kvotu poziva daleko prije nego što se približi kvoti tokena. U tom slučaju rješenje nije tražiti više RPM-a, već grupirati nekoliko stavki u jedan poziv.

TPM ograničava obrađeni volumen

TPM zbraja ulazne i izlazne tokene u kliznoj minuti, pri čemu, prema službenim listovima, grok-4.7 i grok-4.5 imaju 50 milijuna tokena u minuti, a grok-4.3 10 milijuna. Ponašanje je ovdje točno suprotno prethodnom slučaju: malo poziva, ali vrlo zahtjevnih.

Uzmi servis za analizu dokumenata koji šalje mape od po 50.000 tokena. Na grok-4.3, strop zahtjeva dopuštao bi 2.220 podnošenja u minuti, ali TPM se zaustavlja na 200 dokumenata: 200 × 50.000 = 10 milijuna. Dakle, zasićuješ se na otprilike jedanaestini svog teorijskog kapaciteta u broju poziva i nijedna postavka paralelizma neće ti omogućiti da prijeđeš taj zid.

Ograničenja specifična za svaki model

Stropovi nisu isti ovisno o prirodi pozvanog modela, a tu skalu moraš poznavati prije nego što klijentu obećaš propusnost.

KategorijaModeliOgraničenje (službeni list)
Tekstgrok-4.7, grok-4.5150 zahtjeva/s, 50M TPM
Tekstgrok-4.337 zahtjeva/s, 10M TPM
Slikagrok-imagine-image, grok-imagine-image-2.06 zahtjeva/s
Videogrok-imagine-video, -1.5, -1.5-lite10 zahtjeva/s

Ove vrijednosti preuzete su iz službenih listova modela od 2. studenoga 2026.; stvarna ograničenja tvog tima prikazuju se u xAI konzoli.

Budući da su brojači neovisni, zasićenje jednog modela ne blokira ostale. Ako grok-4.5 vraća 429 pogreške, grok-4.3 nastavlja prihvaćati tvoje zahtjeve kao da se ništa nije dogodilo. To je često zanemarena poluga propusnosti: umjesto čekanja na povećanje kvote, preusmjeri jednostavne zadatke—klasifikaciju, izvlačenje, kratki sažetak—na manje opterećen model, rezerviraj grok-4.5 za doista složeno rezoniranje, a prepusti tokove koji koordiniraju više podagenata modelu grok-4.20-multi-agent-0309. Ukupna propusnost tvoje platforme tada postaje zbroj nekoliko kvota umjesto samo jedne.

Praćenje potrošnje bez posebnih zaglavlja

Grok API ne vraća zaglavlja u svojim odgovorima koja bi ukazivala na to koliko ti je RPM-a ili TPM-a preostalo. Drugim riječima, ništa te neće upozoriti na približavanje stropu: jedini način da znaš gdje se nalaziš jest da sam vodiš evidenciju na strani klijenta.

To praćenje oslanja se na tri elementa: brojač zahtjeva po minuti po modelu, brojač tokena napajan objektom usage koji sadrži svaki odgovor i prag upozorenja koji se aktivira oko 80% ograničenja. Ova je posljednja točka najvažnija: upozorenje na 80% ostavlja ti vremena za prilagodbu—raspodjelu opterećenja, izglađivanje podnošenja, pokretanje nadogradnje razine—dok upozorenje na 100% samo potvrđuje incident koji je u tijeku.

Ključne točke

  • Ograničenja se mjere u RPM-u (zahtjeva/minuti) i TPM-u (tokena/minuti)
  • Tekstualni modeli standardno nude 1.800 RPM-a i 10M TPM-a
  • Svaki model ima vlastita neovisna ograničenja
  • Raspodjela opterećenja na više modela omogućuje višestruko povećanje stvarne propusnosti
  • Implementiraj praćenje na strani klijenta kako bi anticipirao ograničenja