Teorainneacha ráta agus dea-chleachtais
Ar an leathanach seo
Nuashonraithe an 2 Samhain, 2026. Bunaithe ar dhoiciméadú xAI: tá lascaine 20% ar mhúnlaí téacs incháilithe, leanann na samplaí an REST API agus an
xai-sdkoifigiúil (client.batch.*; ní úsáideann Batch API xAI formáid OpenAI, mar sin ní bhaineann an OpenAI SDK leis), agus tá an Responses API chun tosaigh ar Chat Completions, críochphoint seanbhunaithe ag xAI. Foinse: Batch API · Tagairt REST · Praghsáil Batch.
Srianta ar chóir duit a bheith ar an eolas faoi
Cuirtear teorainneacha teicniúla leis an Batch API ar chóir duit cur san áireamh i d’ailtireacht. Má dhéanann tú neamhaird orthu, beidh diúltuithe, baisc cealaithe, nó torthaí caillte mar thoradh air. Déanann an ceacht seo achoimre ar na srianta a dhoiciméadaigh xAI agus ar dhea-chleachtais le haghaidh úsáide táirgeachta.
Teorainneacha ráta
| Srian | Luach | Scóip |
|---|---|---|
| Cruthú baisce | 2 in aghaidh an tsoicind | In aghaidh na foirne |
| Líon na mbaisc | Gan teorainn | In aghaidh na foirne |
| Glaonna request-add | 1,000 in aghaidh gach 30 soicind | Fuinneog shleamhnáin, roinnte ar gach baisc na foirne |
| Méid iarratais | 25 MB | In aghaidh gach iarratais aonair |
| Iarratais in aghaidh na baisce | Gan teorainn go teoiriciúil | Os cionn 100,000, d’fhéadfadh an phróiseáil a bheith níos moille |
Cruthú baisce: is annamh a bhíonn fadhb leis an teorainn 2 chruthú in aghaidh an tsoicind, ós rud é go gcruthaíonn tú de ghnáth aon bhaisc amháin in aghaidh na hoibríochta.
Iarratais a chur leis: baineann an teorainn le glaonna, agus iompraíonn gach glao liosta iarratas. Le píosaí de 100 iarratas, ligeann sé seo do níos mó ná 3,000 iarratas in aghaidh an tsoicind cheana féin.
Méid iarratais: bíonn tionchar ag an teorainn 25 MB go príomha ar iarratais atá lódáilte le híomhánna códaithe base64; is annamh a sháraíonn iarratas téacs cúpla cilibheart.
Os a choinne sin, ní áirítear iarratais baisce i dteorainneacha ráta an API fíor-ama: ní chuireann baisc mhór moill ar d’fheidhmchlár idirghníomhach.
Teorainneacha comhad JSONL
| Srian | Luach |
|---|---|
| Iarratais in aghaidh an chomhaid | 50,000 ar a mhéad |
| Méid an chomhaid | 200 MB ar a mhéad |
| Breiseáin tar éis cruthaithe | Níl sé indéanta: tá an bhaisc séalaithe |
Má sháraíonn do bhaisc na teorainneacha seo, roinn ina roinnt comhaid é agus cruthaigh aon bhaisc amháin in aghaidh gach comhaid; déanfaidh tú na torthaí a thiomsú ina dhiaidh sin.
Éag dul in éag URL
Éagann URLanna sínithe le haghaidh torthaí íomhá agus físeáin tar éis uair amháin. Is é seo an srian is criticiúla le láimhseáil sa táirgeadh: caithfidh do phróiseas aisghabhála na meáin a íoslódáil láithreach, gan idirghabháil láimhe (an fheidhm telecharger_medias ó cheacht 9). Maidir leis an mbaisc, déan monatóireacht freisin ar expire_time, tar éis nach bhfuil aon torthaí inrochtana.
Dea-chleachtais táirgeachta
Aitheantais dhéterministeacha
Díorthaigh d’aitheantais iarratais (batch_request_id, nó custom_id i JSONL) ó do chuid sonraí ionchuir. Má tá ort baisc a athchur isteach, cruthóidh na sonraí céanna na haitheantais chéanna, rud a fhágann go bhfuil sé níos fusa dí-dhúbláil a dhéanamh:
import hashlib
def identifiant_requete(document_id: str, operation: str) -> str:
"""Gineann aitheantas iarratais déterministeach."""
brut = f"{document_id}:{operation}"
return hashlib.sha256(brut.encode()).hexdigest()[:16]
Láimhseáil teipeanna páirteacha
Is féidir go mbeidh iarratais theipthe fós i mbaisc a próiseáladh go hiomlán. Seiceáil gach toradh i gcónaí:
reussies, echouees = [], []
jeton = None
while True:
page = client.batch.list_batch_results(
batch_id=batch_id, limit=1000, pagination_token=jeton
)
reussies.extend(page.succeeded)
echouees.extend(page.failed)
if page.pagination_token is None:
break
jeton = page.pagination_token
if echouees:
print(f"{len(echouees)} iarratas teipthe le hathchur isteach i mbaisc nua")
Rianú costais
Coinníonn gach baisc rian ar a chostas iomlán i ticks (deichiú billiúnú cuid de dollar):
batch = client.batch.get(batch_id=batch_id)
print("Costas iomlán: %.4f $" % (batch.cost_breakdown.total_cost_usd_ticks / 1e10))
Tríd an REST API, feictear costas gach iarratais téacs ina thoradh, sa réimse usage.cost_in_usd_ticks.
Logaí agus inrianaitheacht
Déan logáil ar gach oibríocht ionas gur féidir leat fadhbanna a dhiagnóisiú:
import logging
logger = logging.getLogger("batch_api")
logger.info("Baisc cruthaithe: %s", batch_id)
logger.info("Comhad uaslódáilte: %s, %d iarratas", file_id, len(documents))
logger.info("Torthaí: %d rathúil, %d teipthe", len(reussies), len(echouees))
Athiarracht le backoff
Le haghaidh earráidí sealadacha (teascadh ama, teorainn ráta, earráid freastalaí), déan athiarracht le moill mhéadaitheach:
import time
def appel_avec_retry(fonction, max_essais=3):
for essai in range(max_essais):
try:
return fonction()
except Exception as e:
if essai == max_essais - 1:
raise
attente = 2 ** essai
print(f"Athiarracht i gceann {attente} s: {e}")
time.sleep(attente)
Seicliosta réamh-tháirgeachta
Sula ndéanann tú píblíne Batch API a imlonnú chuig an táirgeadh, seiceáil:
- Glacann an múnla le próiseáil baisce, agus feictear é ar liosta na múnlaí lascainithe má tá tábhacht leis an gcostas
- Tá aitheantais iarratais uathúil agus déterministeach
- Fíoraítear an comhad JSONL sula ndéantar é a uaslódáil (cuireann líne amháin neamhbhailí an bhaisc ar ceal)
- Déantar íoslódáil torthaí ilmhóideacha a uathoibriú, laistigh d’uair amháin
- Braitear teipeanna páirteacha agus déantar iad a athchur isteach i mbaisc nua
- Faightear torthaí roimh
expire_time - Clúdaíonn logaí gach céim den sreabhad oibre
- Léitear an eochair API ó athróg timpeallachta, ná déan í a chrua-chódú riamh
Príomhphointí
- Teorainneacha: 2 chruthú in aghaidh an tsoicind, 1,000 glao request-add in aghaidh gach 30 soicind, 25 MB in aghaidh an iarratais
- Comhaid JSONL: 50,000 iarratas agus 200 MB ar a mhéad, aon bhaisc amháin in aghaidh gach comhaid
- Éagann URLanna íomhá agus físeáin in uair amháin: íoslódáil láithreach
- Aitheantais dhéterministeacha, seiceáil gach toraidh, rianú costais i ticks
- Logaí, athiarracht le backoff, agus uasteorainn ama don táirgeadh
Tástáil do chuid eolais
Próiseáil mhórchóir: an Batch API gan aon limistéar liath.
1. Cathain is rogha cheart é an Batch API?
Freagra: Le haghaidh toirteanna móra gan srianta fíor-ama: aicmiú, saibhriú, meastóireachtaí, giniúint mhórchóir. Ní áirítear iarratais baisce i dteorainneacha ráta, agus faigheann múnlaí téacs incháilithe lascaine 20%.
2. Cad é an sreabhad oibre ceithre chéim?
Freagra: Cruthaigh baisc ainmnithe, cuir iarratais leis (tríd an API, nó trí bhíthin an bhaisc a chruthú ó chomhad JSONL uaslódáilte), rianaigh a chuntaireoirí, agus faigh na torthaí ansin, de réir mar a thagann siad nó ag an deireadh. Tosaíonn an phróiseáil léi féin, gan aon chéim seolta.
3. Cad is féidir leat a chur i mbaisc?
Freagra: Iarratais Responses (molta) agus Chat Completions (seanbhunaithe), le huirlisí freastalaí agus glaonna feidhme, chomh maith le giniúint agus eagarthóireacht íomhá agus físeáin, agus leathnú físeáin. Ní fhaigheann ach tokenna téacs do mhúnlaí incháilithe an lascaine.
4. Conas a rianaíonn tú feidhmiú?
Freagra: Trí chuntaireoirí na baisce (num_pending, num_success, num_error…), stádas gach iarratais (pending, succeeded, failed, cancelled), agus na torthaí leathanaithe, a scarann rathanna ó theipeanna. Tá an bhaisc próiseáilte go hiomlán nuair atá num_pending cothrom le nialas.
5. Cén dea-chleachtas a bhaineann leis na teorainneacha?
Freagra: Cuir iarratais i bpíosaí, roinn comhaid mhóra ina aon bhaisc amháin in aghaidh gach comhaid, íoslódáil meáin laistigh d’uair amháin, faigh torthaí roimh expire_time, agus cuir teipeanna isteach arís i mbaisc nua: dear an bhaisc mar phíblíne láidir, ní mar thíolacadh dall mórchóir.
Baisc dea-fhoirmithe, cuntaireoirí rianaithe, teipeanna athiarrtha: tiontaíonn an Batch API toirt gnáthamh, ar an gcostas is fearr.