Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Teorainneacha ráta agus dea-chleachtais

Ceacht 12 as 12 Nuashonraithe 2 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Srianta ar chóir duit a bheith ar an eolas faoi
  2. Teorainneacha ráta
  3. Teorainneacha comhad JSONL
  4. Éag dul in éag URL
  5. Dea-chleachtais táirgeachta
  6. Seicliosta réamh-tháirgeachta
  7. Príomhphointí
  8. Tástáil do chuid eolais

Nuashonraithe an 2 Samhain, 2026. Bunaithe ar dhoiciméadú xAI: tá lascaine 20% ar mhúnlaí téacs incháilithe, leanann na samplaí an REST API agus an xai-sdk oifigiúil (client.batch.*; ní úsáideann Batch API xAI formáid OpenAI, mar sin ní bhaineann an OpenAI SDK leis), agus tá an Responses API chun tosaigh ar Chat Completions, críochphoint seanbhunaithe ag xAI. Foinse: Batch API · Tagairt REST · Praghsáil Batch.

Srianta ar chóir duit a bheith ar an eolas faoi

Cuirtear teorainneacha teicniúla leis an Batch API ar chóir duit cur san áireamh i d’ailtireacht. Má dhéanann tú neamhaird orthu, beidh diúltuithe, baisc cealaithe, nó torthaí caillte mar thoradh air. Déanann an ceacht seo achoimre ar na srianta a dhoiciméadaigh xAI agus ar dhea-chleachtais le haghaidh úsáide táirgeachta.

Teorainneacha ráta

SrianLuachScóip
Cruthú baisce2 in aghaidh an tsoicindIn aghaidh na foirne
Líon na mbaiscGan teorainnIn aghaidh na foirne
Glaonna request-add1,000 in aghaidh gach 30 soicindFuinneog shleamhnáin, roinnte ar gach baisc na foirne
Méid iarratais25 MBIn aghaidh gach iarratais aonair
Iarratais in aghaidh na baisceGan teorainn go teoiriciúilOs cionn 100,000, d’fhéadfadh an phróiseáil a bheith níos moille

Cruthú baisce: is annamh a bhíonn fadhb leis an teorainn 2 chruthú in aghaidh an tsoicind, ós rud é go gcruthaíonn tú de ghnáth aon bhaisc amháin in aghaidh na hoibríochta.

Iarratais a chur leis: baineann an teorainn le glaonna, agus iompraíonn gach glao liosta iarratas. Le píosaí de 100 iarratas, ligeann sé seo do níos mó ná 3,000 iarratas in aghaidh an tsoicind cheana féin.

Méid iarratais: bíonn tionchar ag an teorainn 25 MB go príomha ar iarratais atá lódáilte le híomhánna códaithe base64; is annamh a sháraíonn iarratas téacs cúpla cilibheart.

Os a choinne sin, ní áirítear iarratais baisce i dteorainneacha ráta an API fíor-ama: ní chuireann baisc mhór moill ar d’fheidhmchlár idirghníomhach.

Teorainneacha comhad JSONL

SrianLuach
Iarratais in aghaidh an chomhaid50,000 ar a mhéad
Méid an chomhaid200 MB ar a mhéad
Breiseáin tar éis cruthaitheNíl sé indéanta: tá an bhaisc séalaithe

Má sháraíonn do bhaisc na teorainneacha seo, roinn ina roinnt comhaid é agus cruthaigh aon bhaisc amháin in aghaidh gach comhaid; déanfaidh tú na torthaí a thiomsú ina dhiaidh sin.

Éag dul in éag URL

Éagann URLanna sínithe le haghaidh torthaí íomhá agus físeáin tar éis uair amháin. Is é seo an srian is criticiúla le láimhseáil sa táirgeadh: caithfidh do phróiseas aisghabhála na meáin a íoslódáil láithreach, gan idirghabháil láimhe (an fheidhm telecharger_medias ó cheacht 9). Maidir leis an mbaisc, déan monatóireacht freisin ar expire_time, tar éis nach bhfuil aon torthaí inrochtana.

Dea-chleachtais táirgeachta

Aitheantais dhéterministeacha

Díorthaigh d’aitheantais iarratais (batch_request_id, nó custom_id i JSONL) ó do chuid sonraí ionchuir. Má tá ort baisc a athchur isteach, cruthóidh na sonraí céanna na haitheantais chéanna, rud a fhágann go bhfuil sé níos fusa dí-dhúbláil a dhéanamh:

import hashlib


def identifiant_requete(document_id: str, operation: str) -> str:
    """Gineann aitheantas iarratais déterministeach."""
    brut = f"{document_id}:{operation}"
    return hashlib.sha256(brut.encode()).hexdigest()[:16]

Láimhseáil teipeanna páirteacha

Is féidir go mbeidh iarratais theipthe fós i mbaisc a próiseáladh go hiomlán. Seiceáil gach toradh i gcónaí:

reussies, echouees = [], []
jeton = None
while True:
    page = client.batch.list_batch_results(
        batch_id=batch_id, limit=1000, pagination_token=jeton
    )
    reussies.extend(page.succeeded)
    echouees.extend(page.failed)
    if page.pagination_token is None:
        break
    jeton = page.pagination_token

if echouees:
    print(f"{len(echouees)} iarratas teipthe le hathchur isteach i mbaisc nua")

Rianú costais

Coinníonn gach baisc rian ar a chostas iomlán i ticks (deichiú billiúnú cuid de dollar):

batch = client.batch.get(batch_id=batch_id)
print("Costas iomlán: %.4f $" % (batch.cost_breakdown.total_cost_usd_ticks / 1e10))

Tríd an REST API, feictear costas gach iarratais téacs ina thoradh, sa réimse usage.cost_in_usd_ticks.

Logaí agus inrianaitheacht

Déan logáil ar gach oibríocht ionas gur féidir leat fadhbanna a dhiagnóisiú:

import logging

logger = logging.getLogger("batch_api")

logger.info("Baisc cruthaithe: %s", batch_id)
logger.info("Comhad uaslódáilte: %s, %d iarratas", file_id, len(documents))
logger.info("Torthaí: %d rathúil, %d teipthe", len(reussies), len(echouees))

Athiarracht le backoff

Le haghaidh earráidí sealadacha (teascadh ama, teorainn ráta, earráid freastalaí), déan athiarracht le moill mhéadaitheach:

import time


def appel_avec_retry(fonction, max_essais=3):
    for essai in range(max_essais):
        try:
            return fonction()
        except Exception as e:
            if essai == max_essais - 1:
                raise
            attente = 2 ** essai
            print(f"Athiarracht i gceann {attente} s: {e}")
            time.sleep(attente)

Seicliosta réamh-tháirgeachta

Sula ndéanann tú píblíne Batch API a imlonnú chuig an táirgeadh, seiceáil:

  • Glacann an múnla le próiseáil baisce, agus feictear é ar liosta na múnlaí lascainithe má tá tábhacht leis an gcostas
  • Tá aitheantais iarratais uathúil agus déterministeach
  • Fíoraítear an comhad JSONL sula ndéantar é a uaslódáil (cuireann líne amháin neamhbhailí an bhaisc ar ceal)
  • Déantar íoslódáil torthaí ilmhóideacha a uathoibriú, laistigh d’uair amháin
  • Braitear teipeanna páirteacha agus déantar iad a athchur isteach i mbaisc nua
  • Faightear torthaí roimh expire_time
  • Clúdaíonn logaí gach céim den sreabhad oibre
  • Léitear an eochair API ó athróg timpeallachta, ná déan í a chrua-chódú riamh

Príomhphointí

  • Teorainneacha: 2 chruthú in aghaidh an tsoicind, 1,000 glao request-add in aghaidh gach 30 soicind, 25 MB in aghaidh an iarratais
  • Comhaid JSONL: 50,000 iarratas agus 200 MB ar a mhéad, aon bhaisc amháin in aghaidh gach comhaid
  • Éagann URLanna íomhá agus físeáin in uair amháin: íoslódáil láithreach
  • Aitheantais dhéterministeacha, seiceáil gach toraidh, rianú costais i ticks
  • Logaí, athiarracht le backoff, agus uasteorainn ama don táirgeadh

Tástáil do chuid eolais

Próiseáil mhórchóir: an Batch API gan aon limistéar liath.

1. Cathain is rogha cheart é an Batch API?

Freagra: Le haghaidh toirteanna móra gan srianta fíor-ama: aicmiú, saibhriú, meastóireachtaí, giniúint mhórchóir. Ní áirítear iarratais baisce i dteorainneacha ráta, agus faigheann múnlaí téacs incháilithe lascaine 20%.

2. Cad é an sreabhad oibre ceithre chéim?

Freagra: Cruthaigh baisc ainmnithe, cuir iarratais leis (tríd an API, nó trí bhíthin an bhaisc a chruthú ó chomhad JSONL uaslódáilte), rianaigh a chuntaireoirí, agus faigh na torthaí ansin, de réir mar a thagann siad nó ag an deireadh. Tosaíonn an phróiseáil léi féin, gan aon chéim seolta.

3. Cad is féidir leat a chur i mbaisc?

Freagra: Iarratais Responses (molta) agus Chat Completions (seanbhunaithe), le huirlisí freastalaí agus glaonna feidhme, chomh maith le giniúint agus eagarthóireacht íomhá agus físeáin, agus leathnú físeáin. Ní fhaigheann ach tokenna téacs do mhúnlaí incháilithe an lascaine.

4. Conas a rianaíonn tú feidhmiú?

Freagra: Trí chuntaireoirí na baisce (num_pending, num_success, num_error…), stádas gach iarratais (pending, succeeded, failed, cancelled), agus na torthaí leathanaithe, a scarann rathanna ó theipeanna. Tá an bhaisc próiseáilte go hiomlán nuair atá num_pending cothrom le nialas.

5. Cén dea-chleachtas a bhaineann leis na teorainneacha?

Freagra: Cuir iarratais i bpíosaí, roinn comhaid mhóra ina aon bhaisc amháin in aghaidh gach comhaid, íoslódáil meáin laistigh d’uair amháin, faigh torthaí roimh expire_time, agus cuir teipeanna isteach arís i mbaisc nua: dear an bhaisc mar phíblíne láidir, ní mar thíolacadh dall mórchóir.

Baisc dea-fhoirmithe, cuntaireoirí rianaithe, teipeanna athiarrtha: tiontaíonn an Batch API toirt gnáthamh, ar an gcostas is fearr.