Koncept Batch API-ja
Na ovoj stranici
Ažurirano 2. studenoga 2026., na temelju dokumentacije tvrtke xAI: popust za batch iznosi 20 % na kvalificirane tekstualne modele (ne 50 %), primjeri slijede REST API i službeni
xai-sdk(client.batch.*; Batch API tvrtke xAI ne koristi format OpenAI-ja, stoga se OpenAI SDK ne primjenjuje), a Responses API prethodi Chat Completionsu, koji je kod xAI-ja zastarjela krajnja točka. Izvori: Batch API · REST referenca · Cijene za Batch.
Asinkrona masovna obrada
Batch API tvrtke xAI omogućuje ti slanje tisuća zahtjeva u jednoj operaciji, nakon čega preuzimaš rezultate kada se obrada završi. Za razliku od sinkronih poziva gdje čekaš svaki odgovor, batch način radi asinkrono: pošalješ batch, nastaviš s radom i kasnije se vratiš po rezultate.
Ovaj pristup odgovara na stvarnu potrebu. Kada trebaš sažeti 10 000 članaka, klasificirati 50 000 tiketa za podršku ili napisati opise za katalog, slanje zahtjeva jedan po jedan bilo bi sporo, skupo i dovelo bi te do ograničenja stope (rate limits). Batch zahtjevi se ne uračunavaju u ta ograničenja.
Popust od 20 % na kvalificirane modele
Ekonomska prednost je stvarna, ali skromnija nego što neki izvori sugeriraju. xAI primjenjuje popust od 20 % na batch zahtjeve za svoje kvalificirane tekstualne modele—zaključno s 2. studenim 2026.: grok-4.7, grok-4.6, grok-4.5, grok-4.3 i tri varijante grok-4.20-0309—za sve vrste tokena: ulazne, izlazne, cache i one za rezoniranje. Modeli koji nisu na ovom popisu nemaju popust, čak i ako prihvaćaju batch.
Generiranje slika i videa odvija se u batchu, ali po standardnim cijenama. Ne prihvaća svaki model batch: stranica svakog modela navodi podržava li ga, a zahtjev upućen nekvalificiranom modelu bit će odbijen s porukom not supported for batch processing.
Radni tijek u četiri koraka
Batch API slijedi jednostavan i predvidljiv obrazac:
- Stvori imenovani batch s
POST /v1/batches - Dodaj zahtjeve, bilo kroz uzastopne pozive ili odjednom pomoću JSONL datoteke
- Prati napredak koristeći brojače batcha
- Preuzmi rezultate kako postaju dostupni ili na kraju
Ovaj radni tijek odvaja slanje od obrade: ne moraš držati vezu otvorenom dok Grok radi. Većina batcheva obradi se u roku od 24 sata, ali xAI to ne jamči: vrijeme izvršenja varira ovisno o opterećenju i veličini batcha.
Podržane krajnje točke
Batch API nije ograničen samo na tekst. Jedan batch može miješati zahtjeve za:
/v1/responses— Responses API, s alatima na strani poslužitelja (web pretraživanje, pretraživanje X-a, izvršavanje koda, MCP)/v1/chat/completions— Chat Completions API, zastarjela krajnja točka kod xAI-ja/v1/images/generationsi/v1/images/edits— generiranje i uređivanje slika/v1/videos/generations(ili/v1/videos),/v1/videos/editsi/v1/videos/extensions— generiranje, uređivanje i proširivanje videa
Na primjer, u istom batchu možeš napisati opise proizvoda i generirati njihove vizuale.
Kada koristiti Batch API
Batch API je dobar izbor kad god rezultat može pričekati:
- Masovna obrada podataka: klasifikacija, ekstrakcija i sažimanje tisuća dokumenata
- Evaluacije: pokretanje tisuća testnih promptova kroz model
- Podatkovni cjevovodi: obogaćivanje baza podataka, moderiranje zaostalog sadržaja i izvješća pripremljena preko noći
Ako tvoj slučaj upotrebe zahtijeva trenutni odgovor (chatbot, asistent u stvarnom vremenu), Batch API nije prikladan: namijenjen je opterećenjima gdje je kašnjenje od nekoliko sati prihvatljivo.
Ključne točke
- Batch API obrađuje zahtjeve asinkrono, većinu u roku od 24 sata, bez jamstva
- Popust od 20 % na sve tokene za kvalificirane tekstualne modele; slike i video po standardnim cijenama
- Radni tijek ima četiri koraka: stvori, dodaj, prati, preuzmi
- Tekst, slike i video mogu supostojati u istom batchu
- Batch zahtjevi se ne uračunavaju u ograničenja stope, ali nisu prikladni za rad u stvarnom vremenu