Kunċett tal-Batch API
F'din il-paġna
Aġġornat fit-2 ta’ Novembru 2026, abbażi tad-dokumentazzjoni ta’ xAI: l-iskont għall-batches huwa ta’ 20% fuq mudelli tat-test eliġibbli (mhux 50%), l-eżempji jsegwu l-REST API u l-
xai-sdkuffiċjali (client.batch.*; il-Batch API ta’ xAI ma tużax il-format ta’ OpenAI, allura l-SDK ta’ OpenAI ma japplikax), u r-Responses API tiġi qabel il-Chat Completions, li huwa endpoint antik f’xAI. Sorsi: Batch API · Referenza REST · Prezzijiet tal-Batch.
Ipproċessar asinkronu bil-kwantità
Il-Batch API ta’ xAI jippermettilek tibgħat eluf ta’ talbiet f’operazzjoni waħda, imbagħad tirriċevja r-riżultati meta jintemm l-ipproċessar. Kuntrarjament għas-sejħiet sinkroni, fejn trid tistenna kull tweġiba, il-modalità batch taħdem b’mod asinkronu: tibgħat batch, tkompli taħdem, u terġa’ lura għar-riżultati iktar tard.
Dan l-approċċ iwieġeb għal ħtieġa reali. Meta jkollok bżonn tgħaqqad 10,000 artiklu, tikklassifika 50,000 tikketta ta’ appoġġ, jew tikteb deskrizzjonijiet ta’ katalogu, li tibgħat it-talbiet wieħed wieħed ikun bil-mod, għali, u jwasslek biex tilħaq il-limiti tar-rata (rate limits). It-talbiet batch ma jgħoddux għal dawn il-limiti.
Skont ta’ 20% fuq mudelli eliġibbli
Il-vantaġġ ekonomiku huwa reali, iżda aktar modest minn dak li jissuġġerixxu xi sorsi. xAI tapplika skont ta’ 20% fuq it-talbiet batch għall-mudelli tat-test eliġibbli tagħha—sal-2 ta’ Novembru 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3, u t-tliet varjanti ta’ grok-4.20-0309—fuq it-tipi kollha ta’ tokens: input, output, cache, u raġunament. Mudelli mhux fuq din il-lista ma jiksbu l-ebda skont, anke jekk jaċċettaw il-batch.
Il-ġenerazzjoni ta’ stampi u vidjows issir f’batch, iżda bi prezz standard. Mhux kull mudell jaċċetta l-batch: il-paġna ta’ kull mudell tgħid jekk jagħmilx hekk, u talba lil mudell mhux eliġibbli tiġi miċħuda bil-messaġġ not supported for batch processing.
Fluss ta’ ħidma f’erba’ passi
Il-Batch API ssegwi mudell sempliċi u prevedibbli:
- Oħloq batch imsemmi b’
POST /v1/batches - Żid it-talbiet, jew permezz ta’ sejħiet suċċessivi jew kollha f’daqqa b’fajl JSONL
- Immonitorja l-progress bl-użu tal-kontaturi tal-batch
- Irkupra r-riżultati hekk kif isiru disponibbli jew fit-tmiem
Dan il-fluss ta’ ħidma jissepara s-sottomissjoni mill-ipproċessar: m’għandekx bżonn iżżomm konnessjoni miftuħa waqt li Grok ikun qed jaħdem. Il-biċċa l-kbira tal-batches jiġu pproċessati f’anqas minn 24 siegħa, iżda xAI ma tiggarantixxihx: il-ħin ta’ twettiq ivarja skont it-tagħbija u d-daqs tal-batch.
Endpoints appoġġjati
Il-Batch API mhix limitata għat-test. Batch wieħed jista’ jħallat talbiet lejn:
/v1/responses— ir-Responses API, b’għodod fuq is-server (tiftix fil-web, tiftix fuq X, eżekuzzjoni tal-kodiċi, MCP)/v1/chat/completions— il-Chat Completions API, endpoint antik f’xAI/v1/images/generationsu/v1/images/edits— ġenerazzjoni u editjar ta’ stampi/v1/videos/generations(jew/v1/videos),/v1/videos/edits, u/v1/videos/extensions— ġenerazzjoni, editjar u estensjoni ta’ vidjows
Pereżempju, tista’ tikteb deskrizzjonijiet ta’ prodotti u tiġġenera l-viżwali tagħhom fl-istess batch.
Meta tuża l-Batch API
Il-Batch API hija adattata tajjeb kull meta r-riżultat jista’ jistenna:
- Ipproċessar ta’ data bil-kwantità: klassifikazzjoni, estrazzjoni u riassunt ta’ eluf ta’ dokumenti
- Evalwazzjonijiet: ġġib eluf ta’ prompts ta’ test minn ġo mudell
- Pipelines tad-data: arrikkiment ta’ databases, moderazzjoni ta’ backlog ta’ kontenut, u rapporti ppreparati matul il-lejl
Jekk il-każ ta’ użu tiegħek jeħtieġ tweġiba immedjata (chatbot, assistent f’ħin reali), il-Batch API mhix adattata: hija sservi carichi ta’ ħidma fejn dewmien ta’ ftit sigħat huwa aċċettabbli.
Punti Ewlenin
- Il-Batch API tipproċessa t-talbiet b’mod asinkronu, ħafna minnhom f’anqas minn 24 siegħa, mingħajr garanzija
- Skont ta’ 20% fuq it-tokens kollha għal mudelli tat-test eliġibbli; stampi u vidjows bi prezz standard
- Il-fluss ta’ ħidma għandu erba’ passi: oħloq, żid, immonitorja, irkupera
- Test, stampi u vidjows jistgħu jkunu flimkien fl-istess batch
- It-talbiet batch ma jgħoddux għal-limiti tar-rata, iżda mhumiex adattati għal ħin reali