Koncept API-ja za paketno obdelavo
Na tej strani
Posodobljeno 2. novembra 2026 na podlagi dokumentacije xAI: popust za paketno obdelavo znaša 20 % za ustrezne besedilne modele (ne 50 %), primeri sledijo REST API-ju in uradnemu paketu
xai-sdk(client.batch.*; paketni API xAI ne uporablja formata OpenAI, zato paket SDK OpenAI ne velja), API Responses pa ima prednost pred Chat Completions, ki je pri xAI zastarela končna točka. Viri: Batch API · REST reference · Batch pricing.
Asinhrona množična obdelava
Paketni API (Batch API) podjetja xAI ti omogoča pošiljanje tisočev zahtevkov v eni sami operaciji, rezultate pa prejmeš, ko se obdelava zaključi. Za razliko od sinhronih klicev, kjer čakaš na vsak odgovor posebej, paketni način deluje asinhrono: predložiš paket, nadaljuješ z delom in se kasneje vrneš po rezultate.
Ta pristop naslavlja realno potrebo. Ko moraš povzeti 10.000 člankov, razvrstiti 50.000 vstopnic za podporo ali napisati opise kataloga, bi bilo pošiljanje zahtevkov enega za drugim počasno, drago in bi hitro naletel na omejitve hitrosti (rate limits). Paketni zahtevki se v te omejitve ne štejejo.
20-odstotni popust za ustrezne modele
Gospodarska prednost je stvarna, a skromnejša, kot nekateri viri nakazujejo. xAI uporablja 20-odstotni popust za paketne zahtevke za svoje ustrezne besedilne modele – stanje na dan 2. novembra 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 in tri različice grok-4.20-0309 – za vse vrste žetonov: vhodne, izhodne, predpomnilniške in tiste za sklepanje. Modeli, ki niso na tem seznamu, ne prejmejo popusta, tudi če sprejemajo paketno obdelavo.
Generiranje slik in videoposnetkov poteka v paketnem načinu, vendar po standardnih cenah. Ne vsak model sprejema paketno obdelavo: stran vsakega modela navaja, ali to podpira, zahtevek za neustrezen model pa bo zavrnjen s sporočilom not supported for batch processing.
Delovni tok v štirih korakih
Paketni API sledi preprostemu in predvidljivemu vzorcu:
- Ustvari imenovani paket z
POST /v1/batches - Dodaj zahtevke, bodisi zaporedoma s klici ali vse naenkrat z datoteko JSONL
- Spremljaj napredek s pomočjo števcov paketa
- Pridobi rezultate, ko so na voljo, ali na koncu obdelave
Ta delovni tok ločuje predložitev od obdelave: medtem ko Grok dela, ti ni treba vzdrževati odprte povezave. Večina paketov je obdelanih v manj kot 24 urah, vendar xAI tega ne zagotavlja: čas obdelave se spreminja glede na obremenitev in velikost paketa.
Podprte končne točke
Paketni API ni omejen le na besedilo. En sam paket lahko združuje zahtevke za:
/v1/responses— API Responses, s strežniškimi orodji (spletno iskanje, iskanje po X, izvajanje kode, MCP)/v1/chat/completions— API Chat Completions, zastarela končna točka pri xAI/v1/images/generationsin/v1/images/edits— generiranje in urejanje slik/v1/videos/generations(ali/v1/videos),/v1/videos/editsin/v1/videos/extensions— generiranje, urejanje in podaljševanje videoposnetkov
Na primer, v istem paketu lahko napišeš opise izdelkov in ustvariš njihove vizuale.
Kdaj uporabiti paketni API
Paketni API je prava izbira, kadar lahko na rezultat počakaš:
- Množična obdelava podatkov: razvrščanje, ekstrakcija in povzemanje tisočev dokumentov
- Evalvacije: zagon tisočev testnih pozivov skozi model
- Podatkovni cevovodi: bogatenje baz podatkov, moderacija čakajoče vsebine in poročila, pripravljena čez noč
Če tvoj primer uporabe zahteva takojšen odziv (klepetalni bot, asistent v realnem času), paketni API ni primeren: namenjen je delovnim obremenitvam, kjer je zamik nekaj ur sprejemljiv.
Ključne ugotovitve
- Paketni API obdeluje zahtevke asinhrono, večino v manj kot 24 urah, brez garancije
- 20-odstotni popust za vse žetone pri ustreznih besedilnih modelih; slike in videoposnetki po standardnih cenah
- Delovni tok ima štiri korake: ustvari, dodaj, spremljaj, pridobi
- Besedilo, slike in videoposnetki lahko sobivajo v istem paketu
- Paketni zahtevki se ne štejejo v omejitve hitrosti, vendar niso primerni za delo v realnem času