Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Koncept Batch API-ja

Lekcija 1 od 12 Ažurirano 2. studenoga 2026. Programer
Na ovoj stranici
  1. Asinkrona masovna obrada
  2. Popust od 20 % na kvalificirane modele
  3. Radni tijek u četiri koraka
  4. Podržane krajnje točke
  5. Kada koristiti Batch API
  6. Ključne točke

Ažurirano 2. studenoga 2026., na temelju dokumentacije tvrtke xAI: popust za batch iznosi 20 % na kvalificirane tekstualne modele (ne 50 %), primjeri slijede REST API i službeni xai-sdk (client.batch.*; Batch API tvrtke xAI ne koristi format OpenAI-ja, stoga se OpenAI SDK ne primjenjuje), a Responses API prethodi Chat Completionsu, koji je kod xAI-ja zastarjela krajnja točka. Izvori: Batch API · REST referenca · Cijene za Batch.

Asinkrona masovna obrada

Batch API tvrtke xAI omogućuje ti slanje tisuća zahtjeva u jednoj operaciji, nakon čega preuzimaš rezultate kada se obrada završi. Za razliku od sinkronih poziva gdje čekaš svaki odgovor, batch način radi asinkrono: pošalješ batch, nastaviš s radom i kasnije se vratiš po rezultate.

Ovaj pristup odgovara na stvarnu potrebu. Kada trebaš sažeti 10 000 članaka, klasificirati 50 000 tiketa za podršku ili napisati opise za katalog, slanje zahtjeva jedan po jedan bilo bi sporo, skupo i dovelo bi te do ograničenja stope (rate limits). Batch zahtjevi se ne uračunavaju u ta ograničenja.

Popust od 20 % na kvalificirane modele

Ekonomska prednost je stvarna, ali skromnija nego što neki izvori sugeriraju. xAI primjenjuje popust od 20 % na batch zahtjeve za svoje kvalificirane tekstualne modele—zaključno s 2. studenim 2026.: grok-4.7, grok-4.6, grok-4.5, grok-4.3 i tri varijante grok-4.20-0309—za sve vrste tokena: ulazne, izlazne, cache i one za rezoniranje. Modeli koji nisu na ovom popisu nemaju popust, čak i ako prihvaćaju batch.

Generiranje slika i videa odvija se u batchu, ali po standardnim cijenama. Ne prihvaća svaki model batch: stranica svakog modela navodi podržava li ga, a zahtjev upućen nekvalificiranom modelu bit će odbijen s porukom not supported for batch processing.

-20%
Tokeni za kvalificirane modele
24h
Uobičajeno vrijeme izvršenja, nije zajamčeno
50K
Zahtjeva po datoteci
200 MB
Maksimalna veličina JSONL-a

Radni tijek u četiri koraka

Batch API slijedi jednostavan i predvidljiv obrazac:

  1. Stvori imenovani batch s POST /v1/batches
  2. Dodaj zahtjeve, bilo kroz uzastopne pozive ili odjednom pomoću JSONL datoteke
  3. Prati napredak koristeći brojače batcha
  4. Preuzmi rezultate kako postaju dostupni ili na kraju

Ovaj radni tijek odvaja slanje od obrade: ne moraš držati vezu otvorenom dok Grok radi. Većina batcheva obradi se u roku od 24 sata, ali xAI to ne jamči: vrijeme izvršenja varira ovisno o opterećenju i veličini batcha.

Podržane krajnje točke

Batch API nije ograničen samo na tekst. Jedan batch može miješati zahtjeve za:

  • /v1/responses — Responses API, s alatima na strani poslužitelja (web pretraživanje, pretraživanje X-a, izvršavanje koda, MCP)
  • /v1/chat/completions — Chat Completions API, zastarjela krajnja točka kod xAI-ja
  • /v1/images/generations i /v1/images/edits — generiranje i uređivanje slika
  • /v1/videos/generations (ili /v1/videos), /v1/videos/edits i /v1/videos/extensions — generiranje, uređivanje i proširivanje videa

Na primjer, u istom batchu možeš napisati opise proizvoda i generirati njihove vizuale.

Kada koristiti Batch API

Batch API je dobar izbor kad god rezultat može pričekati:

  • Masovna obrada podataka: klasifikacija, ekstrakcija i sažimanje tisuća dokumenata
  • Evaluacije: pokretanje tisuća testnih promptova kroz model
  • Podatkovni cjevovodi: obogaćivanje baza podataka, moderiranje zaostalog sadržaja i izvješća pripremljena preko noći

Ako tvoj slučaj upotrebe zahtijeva trenutni odgovor (chatbot, asistent u stvarnom vremenu), Batch API nije prikladan: namijenjen je opterećenjima gdje je kašnjenje od nekoliko sati prihvatljivo.

Ključne točke

  • Batch API obrađuje zahtjeve asinkrono, većinu u roku od 24 sata, bez jamstva
  • Popust od 20 % na sve tokene za kvalificirane tekstualne modele; slike i video po standardnim cijenama
  • Radni tijek ima četiri koraka: stvori, dodaj, prati, preuzmi
  • Tekst, slike i video mogu supostojati u istom batchu
  • Batch zahtjevi se ne uračunavaju u ograničenja stope, ali nisu prikladni za rad u stvarnom vremenu