Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Kunċett tal-Batch API

Lezzjoni 1 / 12 Aġġornat 2 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Ipproċessar asinkronu bil-kwantità
  2. Skont ta’ 20% fuq mudelli eliġibbli
  3. Fluss ta’ ħidma f’erba’ passi
  4. Endpoints appoġġjati
  5. Meta tuża l-Batch API
  6. Punti Ewlenin

Aġġornat fit-2 ta’ Novembru 2026, abbażi tad-dokumentazzjoni ta’ xAI: l-iskont għall-batches huwa ta’ 20% fuq mudelli tat-test eliġibbli (mhux 50%), l-eżempji jsegwu l-REST API u l-xai-sdk uffiċjali (client.batch.*; il-Batch API ta’ xAI ma tużax il-format ta’ OpenAI, allura l-SDK ta’ OpenAI ma japplikax), u r-Responses API tiġi qabel il-Chat Completions, li huwa endpoint antik f’xAI. Sorsi: Batch API · Referenza REST · Prezzijiet tal-Batch.

Ipproċessar asinkronu bil-kwantità

Il-Batch API ta’ xAI jippermettilek tibgħat eluf ta’ talbiet f’operazzjoni waħda, imbagħad tirriċevja r-riżultati meta jintemm l-ipproċessar. Kuntrarjament għas-sejħiet sinkroni, fejn trid tistenna kull tweġiba, il-modalità batch taħdem b’mod asinkronu: tibgħat batch, tkompli taħdem, u terġa’ lura għar-riżultati iktar tard.

Dan l-approċċ iwieġeb għal ħtieġa reali. Meta jkollok bżonn tgħaqqad 10,000 artiklu, tikklassifika 50,000 tikketta ta’ appoġġ, jew tikteb deskrizzjonijiet ta’ katalogu, li tibgħat it-talbiet wieħed wieħed ikun bil-mod, għali, u jwasslek biex tilħaq il-limiti tar-rata (rate limits). It-talbiet batch ma jgħoddux għal dawn il-limiti.

Skont ta’ 20% fuq mudelli eliġibbli

Il-vantaġġ ekonomiku huwa reali, iżda aktar modest minn dak li jissuġġerixxu xi sorsi. xAI tapplika skont ta’ 20% fuq it-talbiet batch għall-mudelli tat-test eliġibbli tagħha—sal-2 ta’ Novembru 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3, u t-tliet varjanti ta’ grok-4.20-0309—fuq it-tipi kollha ta’ tokens: input, output, cache, u raġunament. Mudelli mhux fuq din il-lista ma jiksbu l-ebda skont, anke jekk jaċċettaw il-batch.

Il-ġenerazzjoni ta’ stampi u vidjows issir f’batch, iżda bi prezz standard. Mhux kull mudell jaċċetta l-batch: il-paġna ta’ kull mudell tgħid jekk jagħmilx hekk, u talba lil mudell mhux eliġibbli tiġi miċħuda bil-messaġġ not supported for batch processing.

-20%
Tokens għal mudelli eliġibbli
24h
Ħin ta' twettiq tipiku, mhux garantit
50K
Talbiet għal kull fajl
200 MB
Daqs massimu ta' JSONL

Fluss ta’ ħidma f’erba’ passi

Il-Batch API ssegwi mudell sempliċi u prevedibbli:

  1. Oħloq batch imsemmi b’POST /v1/batches
  2. Żid it-talbiet, jew permezz ta’ sejħiet suċċessivi jew kollha f’daqqa b’fajl JSONL
  3. Immonitorja l-progress bl-użu tal-kontaturi tal-batch
  4. Irkupra r-riżultati hekk kif isiru disponibbli jew fit-tmiem

Dan il-fluss ta’ ħidma jissepara s-sottomissjoni mill-ipproċessar: m’għandekx bżonn iżżomm konnessjoni miftuħa waqt li Grok ikun qed jaħdem. Il-biċċa l-kbira tal-batches jiġu pproċessati f’anqas minn 24 siegħa, iżda xAI ma tiggarantixxihx: il-ħin ta’ twettiq ivarja skont it-tagħbija u d-daqs tal-batch.

Endpoints appoġġjati

Il-Batch API mhix limitata għat-test. Batch wieħed jista’ jħallat talbiet lejn:

  • /v1/responses — ir-Responses API, b’għodod fuq is-server (tiftix fil-web, tiftix fuq X, eżekuzzjoni tal-kodiċi, MCP)
  • /v1/chat/completions — il-Chat Completions API, endpoint antik f’xAI
  • /v1/images/generations u /v1/images/edits — ġenerazzjoni u editjar ta’ stampi
  • /v1/videos/generations (jew /v1/videos), /v1/videos/edits, u /v1/videos/extensions — ġenerazzjoni, editjar u estensjoni ta’ vidjows

Pereżempju, tista’ tikteb deskrizzjonijiet ta’ prodotti u tiġġenera l-viżwali tagħhom fl-istess batch.

Meta tuża l-Batch API

Il-Batch API hija adattata tajjeb kull meta r-riżultat jista’ jistenna:

  • Ipproċessar ta’ data bil-kwantità: klassifikazzjoni, estrazzjoni u riassunt ta’ eluf ta’ dokumenti
  • Evalwazzjonijiet: ġġib eluf ta’ prompts ta’ test minn ġo mudell
  • Pipelines tad-data: arrikkiment ta’ databases, moderazzjoni ta’ backlog ta’ kontenut, u rapporti ppreparati matul il-lejl

Jekk il-każ ta’ użu tiegħek jeħtieġ tweġiba immedjata (chatbot, assistent f’ħin reali), il-Batch API mhix adattata: hija sservi carichi ta’ ħidma fejn dewmien ta’ ftit sigħat huwa aċċettabbli.

Punti Ewlenin

  • Il-Batch API tipproċessa t-talbiet b’mod asinkronu, ħafna minnhom f’anqas minn 24 siegħa, mingħajr garanzija
  • Skont ta’ 20% fuq it-tokens kollha għal mudelli tat-test eliġibbli; stampi u vidjows bi prezz standard
  • Il-fluss ta’ ħidma għandu erba’ passi: oħloq, żid, immonitorja, irkupera
  • Test, stampi u vidjows jistgħu jkunu flimkien fl-istess batch
  • It-talbiet batch ma jgħoddux għal-limiti tar-rata, iżda mhumiex adattati għal ħin reali