Limiti tar-Rata RPM/TPM tal-Konsoll
F'din il-paġna
Żewġ Metriki biex Timmonitorja
L-API ta’ xAI timponi żewġ tipi ta’ limiti tar-rata, imkejla kull minuta u kull mudell:
- RPM (Talbiet kull Minuta): In-numru ta’ talbiet API li tista’ tibgħat kull minuta, irrispettivament mill-kontenut tagħhom.
- TPM (Tokens kull Minuta): In-numru totali ta’ tokens (input + output) li tista’ tikkonsma kull minuta.
Tista’ tilħaq limitu wieħed mingħajr ma tilħaq l-ieħor. Pereżempju, 10 talbiet qosra ta’ 100 token kull wieħed jikkonsmaw ftit TPM iżda jgħoddu bħala 10 RPM. Bil-kontra, talba waħda b’50,000 token ta’ kuntest tikkonsma ħafna TPM iżda biss 1 RPM.
Sistema ta’ Livelli
Il-limiti jiaġġustaw awtomatikament ibbażati fuq in-nefqa kumulattiva tiegħek. Il-livell qatt ma jinżel ladarba jiġi sblokkat:
| Livell | Limitu tan-Nefqa | Aċċess |
|---|---|---|
| Livell 0 | $0 (default) | Limiti bażiċi |
| Livell 1 | $50 nefqa | Limiti miżjuda |
| Livell 2 | $250 nefqa | Limiti estiżi |
| Livell 3 | $1,000 nefqa | Limiti għoljin |
| Livell 4 | $5,000 nefqa | Limiti premium |
| Intrapriża | Fuq talba | Limiti nnegozjati |
In-nefqa kumulattiva tinkludi l-istorja sħiħa tal-kont tiegħek. M’għandekx bżonn tonfoq $50 f’xahar wieħed: jekk tonfoq $10 kull xahar għal 5 xhur, tilħaq il-Livell 1.
Iċċekkja l-Limiti Tiegħek
Mur fil-konsoll ta’ xAI (console.x.ai) biex tara l-limiti attwali tiegħek għal kull mudell. Kull mudell għandu l-limiti RPM u TPM tiegħu stess. Il-mudelli tar-raġunament ġeneralment għandhom limiti aktar baxxi mill-mudelli standard.
Ikkalkula l-Throughput Effettiv Tiegħek
Biex tiddimensjona s-semaforu tiegħek ibbażat fuq il-limiti tiegħek:
# Il-limiti tiegħek (eżempju Livell 2)
rpm_limit = 120 # talbiet kull minuta
tpm_limit = 200_000 # tokens kull minuta
# Stima t-talbiet tiegħek
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens
# Limitu tat-tokens
max_rpm_by_tokens = tpm_limit / tokens_per_request # 200000 / 1500 = 133
# Limitu effettiv = l-iżgħar miż-żewġ valuri
effective_rpm = min(rpm_limit, max_rpm_by_tokens) # min(120, 133) = 120
# Semaforu ottimali
avg_duration = 8 # sekondi kull talba
semaphore_value = int(effective_rpm * avg_duration / 60) # 120 * 8 / 60 = 16
F’dan l-eżempju, semaforu ta’ 16 huwa l-massimu teoretiku. Fil-prattika, uża valur aktar baxx (12–14) biex iżżomm marġni ta’ sigurtà.
Traċċa l-Ispejjeż Tiegħek f’Ħin Reali
Kull tweġiba API fiha qasam usage li jindika l-ispiża:
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": prompt}]
)
# Tokens ikkunsmati
usage = response.usage
print(f"Input tokens: {usage.prompt_tokens}")
print(f"Output tokens: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")
Għall-ispejjeż f’dollari, il-qasam cost_in_usd_ticks huwa disponibbli f’xi tweġibiet. Il-konverżjoni hija: 10 biljuni ticks = 1 USD.
Tokenizer biex Tistima Qabel ma Tibgħat
Qabel ma tibgħat talba għalja, tista’ tistima n-numru ta’ tokens bl-endpoint tat-tokenizzazzjoni:
# Permezz tal-API REST
import httpx
async def count_tokens(text: str) -> int:
async with httpx.AsyncClient() as http:
response = await http.post(
"https://api.x.ai/v1/tokenize-text",
headers={"Authorization": f"Bearer {api_key}"},
json={"text": text}
)
return response.json()["token_count"]
Dan jippermettilek tivverifika li prompt kbir ma jaqbiżx il-limiti TPM tiegħek qabel ma tibgħatu.
Punti Ewlenin
- RPM u TPM huma żewġ limiti indipendenti: japplika l-aktar wieħed strett
- Il-livelli jiżdiedu awtomatikament man-nefqa kumulattiva tiegħek u qatt ma jinżlu
- Iċċekkja
console.x.aigħal-limiti eżatti tiegħek għal kull mudell - Iddimensjona s-semaforu tiegħek ibbażat fuq l-iżgħar bejn RPM u TPM
- Uża l-qasam
usagefit-tweġibiet biex traċċa l-konsum f’ħin reali - L-endpoint
/v1/tokenize-textjippermettilek tistima t-tokens qabel ma tibgħat