RPM ja TPM mudeli kohta
Sellel lehel
Uuendus 2. novembril 2026 — Imagine.
grok-imagine-image-qualityeemaldati 2. novembril 2026: selle päringuid teenindab nüüd Imagine Image 2.0 (grok-imagine-image-2.0, 0,04 $ pildi kohta) madalas (low) kvaliteedis. Asenda oma näidetes identifikaator ja määra soovitud kvaliteet;grok-imagine-image(versioon 1.0) ei ole mõjutatud. Imagine Image 2.0 aktsepteerib kuni viit viitepilti ja kvaliteedirežiimiauto, mis on nüüd vaikimisi säte.
Kaks piiravat mõõdikut

Grok API ei mõõda sinu kasutust ühe loenduriga, vaid kahega, mis käivituvad sõltumatult: RPM (päringuid minutis) ja TPM (tokeneid minutis). Sind võib blokeerida üks neist, isegi kui oled teise lae suhtes veel kaugel. Järgneva jaoks on kriitiline teada, et neid kahte loendurit peetakse iga mudeli kohta eraldi, seega ei mõjuta sinu piirangud mudelil grok-4.5 kuidagi piiranguid mudelil grok-4.3.
See eristus pole pelgalt dokumentatsiooni detail. See määrab, kuidas sa planeerid oma taristut, kuidas jaotad koormust ja täpselt kus hakkab sinu teenus tipptunnil vigu tagastama.
RPM piirab päringute arvu
RPM loeb päringuid sõltumata nende suurusest: kümne tokeniga päring ja sajatuhande tokeniga päring kaaluvad täpselt sama palju. Ametlikes mudelite infolehtedes väljendatakse seda päringutes sekundis: 150 mudelitele grok-4.7 ja grok-4.5 (9000 minutis), 37 mudelile grok-4.3 (2220 minutis). Tavapärase vestlusrakenduse jaoks on sellest piisav.
RPM muutub kitsaskohaks niipea, kui sinu päringud on arvukad ja lühikesed. Torustik, mis liigitab tugipileteid ükshaaval või eraldab dokumendikogumikus igast lausest kolm üksust, ammendab oma päringukvoodi ammu enne, kui jõuab tokenite kvoodi lähedale. Sel juhul pole lahenduseks rohkem RPM-i küsimine, vaid mitme üksuse koondamine ühte päringusse.
TPM piirab töödeldud mahtu
TPM liidab sisend- ja väljundtokeneid libiseva minuti jooksul. Ametlike lehtede kohaselt on see 50 miljonit tokenit minutis mudelitele grok-4.7 ja grok-4.5 ning 10 miljonit mudelile grok-4.3. Käitumine on siin täpselt vastupidine eelmisele juhtumile: vähe päringuid, kuid väga mahukaid.
Võtame näiteks dokumendianalüüsi teenuse, mis saadab kaustu, millest igaüks sisaldab 50 000 tokenit. Mudelil grok-4.3 lubaks päringute lagi esitada 2220 taotlust minutis, kuid TPM peatab protsessi 200 dokumendi juures: 200 × 50 000 = 10 miljonit. Seega küllastud umbes üheteistkümnendiku oma teoreetilisest mahust päringute arvus ja ükski paralleelsuse seadistus ei lase sul sellest müürist üle astuda.
Iga mudeli spetsiifilised piirangud
Laed ei ole samad sõltuvalt kasutatava mudeli olemusest ja seda skaalat pead teadma enne, kui lubad kliendile teatud läbilaskevõimet.
| Kategooria | Mudelid | Piirang (ametlik infoleht) |
|---|---|---|
| Tekst | grok-4.7, grok-4.5 | 150 päringut/s, 50M TPM |
| Tekst | grok-4.3 | 37 päringut/s, 10M TPM |
| Pilt | grok-imagine-image, grok-imagine-image-2.0 | 6 päringut/s |
| Video | grok-imagine-video, -1.5, -1.5-lite | 10 päringut/s |
Need väärtused pärinevad ametlikest mudelite infolehtedest seisuga 2. november 2026; sinu meeskonna tegelikud piirangud kuvatakse xAI konsoolis.
Kuna loendurid on sõltumatud, ei blokeeri ühe mudeli küllastumine teisi. Kui grok-4.5 tagastab veakoode 429, jätkab grok-4.3 sinu päringute vastuvõtmist justkui midagi poleks juhtunud. See on sageli tähelepanuta jäetud läbilaskevõime hoob: selle asemel, et oodata kvoodi suurendamist, suuna lihtsad ülesanded (liigitamine, ekstraheerimine, lühike kokkuvõte) vähem koormatud mudelile, reserveeri grok-4.5 tõeliselt keeruliseks arutluseks ja jäta voogude orkestreerimine mitme alaagendi vahel mudelile grok-4.20-multi-agent-0309. Sinu platvormi üldine läbilaskevõime muutub siis mitme kvoodi summaks, mitte ainult üheks.
Tarbimise jälgimine ilma spetsiaalsete päisteta
Grok API ei tagasta oma vastustes päiseid, mis näitaksid, kui palju RPM-i või TPM-i sul veel järel on. Teisisõnu, ükski hoiatus ei tea ette lae lähenemisest: ainus viis olukorra hindamiseks on pidada arvestust ise, kliendipoolselt.
See jälgimine põhineb kolmel elemendil: päringute loendur minutis iga mudeli kohta, tokenite loendur, mida toidab iga vastuse sisaldav objekt usage, ja häirelävi, mis käivitub umbes 80% juures piirangutest. Viimane punkt on kõige olulisem: häire 80% juures jätab sulle aega kohanduda – jaotada koormust, ühtlustada esitusi, käivitada taseme tõstmine –, samas kui häire 100% juures ainult kinnitab juba käimasolevat intsidenti.
Peamised punktid
- Piiranguid mõõdetakse RPM-is (päringuid minutis) ja TPM-is (tokeneid minutis)
- Tekstimudelid pakuvad standardina 1800 RPM-i ja 10M TPM-i
- Igal mudelil on oma sõltumatud piirangud
- Koormuse jaotamine erinevate mudelite vahel võimaldab korrutada tegelikku läbilaskevõimet
- Rakenda kliendipoolne jälgimine, et ennustada piirangute saavutamist