Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

RPM u TPM għal Kull Mudell

Lezzjoni 2 / 14 Aġġornat 2 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Iż-Żewġ Metriki li Jillimitaw
  2. RPM Jillimita n-Numru ta’ Sejħiet
  3. TPM Jillimita l-Volum Ipproċessat
  4. Limiti Speċifiċi għal Kull Mudell
  5. Monitoraġġ tal-Konsum Mingħajr Headers Ddedikati
  6. Punti Ewlenin

Aġġornament 2 ta’ Novembru, 2026 — Imagine. grok-imagine-image-quality tneħħa fit-2 ta’ Novembru, 2026: it-talbiet tiegħu issa jiġu sserviti minn Imagine Image 2.0 (grok-imagine-image-2.0, $0.04 għal kull immaġni) fil-kwalità low. Ibdel l-identifikatur fl-eżempji tiegħek u stabbilixxi l-kwalità mixtieqa; grok-imagine-image (verżjoni 1.0) mhuwiex affettwat. Imagine Image 2.0 jaċċetta sa ħames immaġnijiet ta’ referenza u l-kwalità auto, li issa hija d-default.

Iż-Żewġ Metriki li Jillimitaw

Limiti tar-rata fil-konsoll ta' xAI

L-API ta’ Grok ma tkejjilx l-użu tiegħek b’kontatur wieħed iżda b’żewġ kontaturi, li jiġu attivati indipendentement: RPM (talbiet kull minuta) u TPM (tokens kull minuta). Tista’ tiġi mblukkat minn wieħed minnhom filwaqt li tkun għadek ‘il bogħod mil-limitu massimu tal-ieħor. Punt kritiku għal dak li jmiss: dawn iż-żewġ kontaturi jiġu traċċati għal kull mudell separatament, allura l-limiti tiegħek fuq grok-4.5 m’għandhom l-ebda effett fuq dawk ta’ grok-4.3.

Din id-distinzjoni mhix sempliċiment dettall fid-dokumentazzjoni. Hija tiddetermina kif tiddimensjona l-infrastruttura tiegħek, kif tqassam il-piż tax-xogħol, u eżattament fejn is-servizz tiegħek se jibda jirritorna żbalji f’ġurnata ta’ pik.

RPM Jillimita n-Numru ta’ Sejħiet

RPM jgħodd is-sejħiet, irrispettivament mid-daqs tagħhom: talba ta’ għaxar tokens u waħda ta’ mitt elf token jiżnu eżattament l-istess. Il-folji uffiċjali tal-mudelli jesprimu dan f’talbiet kull sekonda: 150 għal grok-4.7 u grok-4.5 (9,000 kull minuta), u 37 għal grok-4.3 (2,220 kull minuta). Dan huwa biżżejjed għal applikazzjoni konversazzjonali standard.

RPM isir il-kolli tal-flixkun hekk kif it-talbiet tiegħek isiru numerużi u qosra. Pipeline li tikklassifika tikketts ta’ appoġġ wieħed wieħed, jew testraħ tliet entitajiet għal kull sentenza f’korpus ta’ dokumenti, se jexawri l-kwota tas-sejħiet tiegħu qabel ma jersaq lejn il-kwota tat-tokens. F’dan il-każ, is-soluzzjoni mhix li titlob aktar RPM iżda li tagħmel batch ta’ diversi oġġetti f’sejħa waħda.

TPM Jillimita l-Volum Ipproċessat

TPM jgħodd it-tokens tal-input u tal-output fuq minuta li tiċċaqlaq (sliding minute), b’, skont il-folji uffiċjali, 50 miljun token kull minuta għal grok-4.7 u grok-4.5, u 10 miljuni għal grok-4.3. L-imġiba hawnhekk hija eżattament l-invers tal-każ preċedenti: ftit sejħiet, iżda tqal ħafna.

Ħu servizz ta’ analiżi tad-dokumenti li jibgħot folders ta’ 50,000 token kull wieħed. Fuq grok-4.3, is-saqaf tat-talbiet kien jawtorizza 2,220 sottomissjoni kull minuta, iżda TPM jieqaf f’200 dokument: 200 × 50,000 = 10 miljuni. Għalhekk, intissatura f’madwar wieħed minn ħdax tal-kapaċità teoretika tiegħek f’termini ta’ numru ta’ sejħiet, u l-ebda setting ta’ parallelism ma jħallik taqbeż dan il-ħajt.

Limiti Speċifiċi għal Kull Mudell

Is-saqaf mhumiex l-istess skont in-natura tal-mudell imsejjaħ, u għandek bżonn tkun taf din l-iskala qabel ma twiegħed throughput lil klijent.

KategorijaMudelliLimitu (folja uffiċjali)
Testgrok-4.7, grok-4.5150 talba/s, 50M TPM
Testgrok-4.337 talba/s, 10M TPM
Immaġnigrok-imagine-image, grok-imagine-image-2.06 talbiet/s
Vidjogrok-imagine-video, -1.5, -1.5-lite10 talbiet/s

Dawn il-valuri huma mill-folji uffiċjali tal-mudelli tat-2 ta’ Novembru, 2026; il-limiti effettivi tat-tim tiegħek jintwerew fil-konsoll ta’ xAI.

Peress li l-kontaturi huma indipendenti, li tissatura mudell wieħed ma jblukax lill-oħrajn. Jekk grok-4.5 jirritorna 429s, grok-4.3 ikompli jaċċetta t-talbiet tiegħek daqslikieku xejn ma ġara. Din hija leva ta’ throughput li spiss tiġi injorata: minflok ma tistenna żieda fil-kwota, irrotta kompiti sempliċi—klassifikazzjoni, estrazzjoni, sommarju qasir—lejn mudell inqas mitlub, irriżerva grok-4.5 għar-raġunar verament kumpless, u ħalli l-fluss li jorkestra diversi aġenti subalterni lil grok-4.20-multi-agent-0309. Il-throughput ġenerali tal-pjattaforma tiegħek imbagħad isir is-somma ta’ diversi kwoti minflok waħda biss.

Monitoraġġ tal-Konsum Mingħajr Headers Ddedikati

L-API ta’ Grok ma tirritorna l-ebda header fir-risponsi tiegħu li jindika kemm fadal RPM jew TPM. Fi kliem ieħor, xejn ma jwissik li qed toqrob lejn is-saqaf: l-uniku mod biex tkun taf fejn qiegħed huwa li żżomm il-kontabbiltà int stess, fuq in-naħa tal-klijent.

Dan it-traċċar jiddependi fuq tliet elementi: kontatur ta’ talbiet kull minuta għal kull mudell, kontatur ta’ tokens imħaddem mill-oġġett usage li kull rispons fih, u limitu ta’ allert attivat madwar 80% tal-limiti. Dan l-aħħar punt huwa l-aktar importanti: allert f’80% iħallik il-ħin biex taġġusta—tqassam il-piż, tixxotta s-sottomissjonijiet, ttriggerja aġġornament tat-tier—filwaqt li allert f’100% jikkonferma biss l-inċident li għaddej.

Punti Ewlenin

  • Il-limiti jitkejlu f’RPM (talbiet/minuta) u TPM (tokens/minuta)
  • Il-mudelli tat-test joffru 1,800 RPM u 10M TPM bħala standard
  • Kull mudell għandu l-limiti indipendenti tiegħu
  • It-tqassim tal-piż bejn il-mudelli jippermetti li timmultiplika l-throughput effettiv
  • Implimenta traċċar fuq in-naħa tal-klijent biex tbassar il-limiti