Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Limiti tar-Rata RPM/TPM tal-Konsoll

Lezzjoni 7 / 12 Aġġornat 30 ta’ Lulju 2026 Avvanzat
F'din il-paġna
  1. Żewġ Metriki biex Timmonitorja
  2. Sistema ta’ Livelli
  3. Iċċekkja l-Limiti Tiegħek
  4. Ikkalkula l-Throughput Effettiv Tiegħek
  5. Traċċa l-Ispejjeż Tiegħek f’Ħin Reali
  6. Tokenizer biex Tistima Qabel ma Tibgħat
  7. Punti Ewlenin

Żewġ Metriki biex Timmonitorja

L-API ta’ xAI timponi żewġ tipi ta’ limiti tar-rata, imkejla kull minuta u kull mudell:

  • RPM (Talbiet kull Minuta): In-numru ta’ talbiet API li tista’ tibgħat kull minuta, irrispettivament mill-kontenut tagħhom.
  • TPM (Tokens kull Minuta): In-numru totali ta’ tokens (input + output) li tista’ tikkonsma kull minuta.

Tista’ tilħaq limitu wieħed mingħajr ma tilħaq l-ieħor. Pereżempju, 10 talbiet qosra ta’ 100 token kull wieħed jikkonsmaw ftit TPM iżda jgħoddu bħala 10 RPM. Bil-kontra, talba waħda b’50,000 token ta’ kuntest tikkonsma ħafna TPM iżda biss 1 RPM.

Sistema ta’ Livelli

Il-limiti jiaġġustaw awtomatikament ibbażati fuq in-nefqa kumulattiva tiegħek. Il-livell qatt ma jinżel ladarba jiġi sblokkat:

Livell Limitu tan-Nefqa Aċċess
Livell 0 $0 (default) Limiti bażiċi
Livell 1 $50 nefqa Limiti miżjuda
Livell 2 $250 nefqa Limiti estiżi
Livell 3 $1,000 nefqa Limiti għoljin
Livell 4 $5,000 nefqa Limiti premium
Intrapriża Fuq talba Limiti nnegozjati

In-nefqa kumulattiva tinkludi l-istorja sħiħa tal-kont tiegħek. M’għandekx bżonn tonfoq $50 f’xahar wieħed: jekk tonfoq $10 kull xahar għal 5 xhur, tilħaq il-Livell 1.

Iċċekkja l-Limiti Tiegħek

Mur fil-konsoll ta’ xAI (console.x.ai) biex tara l-limiti attwali tiegħek għal kull mudell. Kull mudell għandu l-limiti RPM u TPM tiegħu stess. Il-mudelli tar-raġunament ġeneralment għandhom limiti aktar baxxi mill-mudelli standard.

Ikkalkula l-Throughput Effettiv Tiegħek

Biex tiddimensjona s-semaforu tiegħek ibbażat fuq il-limiti tiegħek:

# Il-limiti tiegħek (eżempju Livell 2)
rpm_limit = 120   # talbiet kull minuta
tpm_limit = 200_000  # tokens kull minuta

# Stima t-talbiet tiegħek
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens

# Limitu tat-tokens
max_rpm_by_tokens = tpm_limit / tokens_per_request  # 200000 / 1500 = 133

# Limitu effettiv = l-iżgħar miż-żewġ valuri
effective_rpm = min(rpm_limit, max_rpm_by_tokens)  # min(120, 133) = 120

# Semaforu ottimali
avg_duration = 8  # sekondi kull talba
semaphore_value = int(effective_rpm * avg_duration / 60)  # 120 * 8 / 60 = 16

F’dan l-eżempju, semaforu ta’ 16 huwa l-massimu teoretiku. Fil-prattika, uża valur aktar baxx (12–14) biex iżżomm marġni ta’ sigurtà.

Traċċa l-Ispejjeż Tiegħek f’Ħin Reali

Kull tweġiba API fiha qasam usage li jindika l-ispiża:

response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": prompt}]
)

# Tokens ikkunsmati
usage = response.usage
print(f"Input tokens: {usage.prompt_tokens}")
print(f"Output tokens: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")

Għall-ispejjeż f’dollari, il-qasam cost_in_usd_ticks huwa disponibbli f’xi tweġibiet. Il-konverżjoni hija: 10 biljuni ticks = 1 USD.

Tokenizer biex Tistima Qabel ma Tibgħat

Qabel ma tibgħat talba għalja, tista’ tistima n-numru ta’ tokens bl-endpoint tat-tokenizzazzjoni:

# Permezz tal-API REST
import httpx

async def count_tokens(text: str) -> int:
    async with httpx.AsyncClient() as http:
        response = await http.post(
            "https://api.x.ai/v1/tokenize-text",
            headers={"Authorization": f"Bearer {api_key}"},
            json={"text": text}
        )
        return response.json()["token_count"]

Dan jippermettilek tivverifika li prompt kbir ma jaqbiżx il-limiti TPM tiegħek qabel ma tibgħatu.

Punti Ewlenin

  • RPM u TPM huma żewġ limiti indipendenti: japplika l-aktar wieħed strett
  • Il-livelli jiżdiedu awtomatikament man-nefqa kumulattiva tiegħek u qatt ma jinżlu
  • Iċċekkja console.x.ai għal-limiti eżatti tiegħek għal kull mudell
  • Iddimensjona s-semaforu tiegħek ibbażat fuq l-iżgħar bejn RPM u TPM
  • Uża l-qasam usage fit-tweġibiet biex traċċa l-konsum f’ħin reali
  • L-endpoint /v1/tokenize-text jippermettilek tistima t-tokens qabel ma tibgħat