Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Teorainneacha Ráta RPM/TPM sa Chonsól

Ceacht 7 as 12 Nuashonraithe 30 Iúil 2026 Ardleibhéal
Ar an leathanach seo
  1. Dhá Mhéadrach le Monatóireacht a Dhéanamh Orthu
  2. Córas Tiarnaíochta
  3. Seiceáil Do Theorainneacha
  4. Ríomh Do Tháirgiúlacht Éifeachtach
  5. Do Chostais a Rianú i bhFíor-Am
  6. Tokenizer chun Meastachán a Dhéanamh Roimh Sheoladh
  7. Príomhphointí

Dhá Mhéadrach le Monatóireacht a Dhéanamh Orthu

Cuirann API xAI dhá chineál teorainn ráta i bhfeidhm, arna dtomhas in aghaidh na nóiméide agus in aghaidh an mhúnla:

  • RPM (Iarratais in aghaidh na Nóiméide): Líon na n-iarratas API is féidir leat a sheoladh in aghaidh na nóiméide, beag beann ar a n-ábhar.
  • TPM (Tokenanna in aghaidh na Nóiméide): Líon iomlán na tokenanna (ionchur + aschur) is féidir leat a úsáid in aghaidh na nóiméide.

Is féidir leat teacht ar theorainn amháin gan teacht ar an gceann eile. Mar shampla, úsáideann 10 n-iarratas gairid de 100 token an ceann beagán TPM, ach áirítear iad mar 10 RPM. Os a choinne sin, úsáideann iarratas amháin le 50,000 token comhthéacs go leor TPM ach ní áirítear ach 1 RPM.

Córas Tiarnaíochta

Coigeartaítear na teorainneacha go huathoibríoch bunaithe ar do chaitheamh carnach. Ní théann an tiarnacht síos riamh nuair a bheidh sí díghlasáilte:

Tiarnacht Tairseach Caitheimh Rochtain
Tier 0 $0 (réamhshocraithe) Teorainneacha bunúsacha
Tier 1 $50 caitheamh Teorainneacha méadaithe
Tier 2 $250 caitheamh Teorainneacha leathnaithe
Tier 3 $1,000 caitheamh Teorainneacha arda
Tier 4 $5,000 caitheamh Teorainneacha préimhe
Enterprise Ar iarratas Teorainneacha comhaontaithe

Áirítear do stair chuntais iomlán sa chaitheamh carnach. Ní gá duit $50 a chaitheamh in aon mhí amháin: má chaitheann tú $10 in aghaidh na míosa ar feadh 5 mhí, sroichfidh tú Tier 1.

Seiceáil Do Theorainneacha

Téigh go dtí consól xAI (console.x.ai) chun do theorainneacha reatha in aghaidh an mhúnla a fheiceáil. Tá caipíní RPM agus TPM ar leith ag gach múnla. De ghnáth, bíonn teorainneacha níos ísle ag múnlaí réasúnaíochta ná mar atá ag gnáthmhúnlaí.

Ríomh Do Tháirgiúlacht Éifeachtach

Chun do sheimeafar a mhéidú bunaithe ar do theorainneacha:

# Do theorainneacha (sampla Tier 2)
rpm_limit = 120   # iarratais in aghaidh na nóiméide
tpm_limit = 200_000  # tokenanna in aghaidh na nóiméide

# Déan meastachán ar do chuid iarratas
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens

# Teorainn tokenanna
max_rpm_by_tokens = tpm_limit / tokens_per_request  # 200000 / 1500 = 133

# Teorainn éifeachtach = an ceann is lú den dá cheann
effective_rpm = min(rpm_limit, max_rpm_by_tokens)  # min(120, 133) = 120

# Seimeafar optamach
avg_duration = 8  # soicind in aghaidh an iarratais
semaphore_value = int(effective_rpm * avg_duration / 60)  # 120 * 8 / 60 = 16

Sa sampla seo, is é 16 uasmhéid teoiriciúil an tseimeafair. Go praiticiúil, bain úsáid as luach níos ísle (12–14) chun corrlach sábháilteachta a choinneáil.

Do Chostais a Rianú i bhFíor-Am

Tá réimse usage i ngach freagra API a léiríonn an costas:

response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": prompt}]
)

# Tokenanna a úsáideadh
usage = response.usage
print(f"Input tokens: {usage.prompt_tokens}")
print(f"Output tokens: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")

Maidir le costais i ndollair, tá an réimse cost_in_usd_ticks ar fáil i roinnt freagraí. Is é an tiontú ná: 10 billiún tic = 1 USD.

Tokenizer chun Meastachán a Dhéanamh Roimh Sheoladh

Roimh duit iarratas costasach a sheoladh, is féidir leat líon na tokenanna a mheas leis an bpointe deiridh tokenaithe:

# Tríd an API REST
import httpx

async def count_tokens(text: str) -> int:
    async with httpx.AsyncClient() as http:
        response = await http.post(
            "https://api.x.ai/v1/tokenize-text",
            headers={"Authorization": f"Bearer {api_key}"},
            json={"text": text}
        )
        return response.json()["token_count"]

Ligeann sé seo duit a fhíorú nach sáróidh leid mhór do theorainneacha TPM sula seolann tú é.

Príomhphointí

  • Is dhá theorainn neamhspleácha iad RPM agus TPM: is í an ceann is déine a bheidh i bhfeidhm
  • Méadaíonn na tiarnachtaí go huathoibríoch le do chaitheamh carnach agus ní théann siad síos riamh
  • Seiceáil console.x.ai le haghaidh do theorainneacha cruinne in aghaidh an mhúnla
  • Méidigh do sheimeafar bunaithe ar an luach is lú idir RPM agus TPM
  • Bain úsáid as an réimse usage i bhfreagraí chun tomhaltas a rianú i bhfíor-am
  • Ligeann an pointe deiridh /v1/tokenize-text duit tokenanna a mheas roimh sheoladh