Koncept rozhrania Batch API
Na tejto strane
Aktualizované 2. novembra 2026 na základe dokumentácie xAI: zľava pre batch je 20 % na spôsobilé textové modely (nie 50 %), príklady sa riadia rozhraním REST API a oficiálnym
xai-sdk(client.batch.*; Batch API od xAI nepoužíva formát OpenAI, takže SDK od OpenAI nie je použiteľné) a Responses API má prednosť pred Chat Completions, čo je zastaraný koncový bod v xAI. Zdroje: Batch API · Referencia REST · Cenník Batch.
Asynchrónne hromadné spracovanie
Batch API od xAI ti umožňuje odoslať tisíce požiadaviek v jednej operácii a následne získať výsledky po dokončení spracovania. Na rozdiel od synchrónnych volaní, kde čakáš na každú odpoveď, batch režim funguje asynchrónne: odošleš batch, pokračuješ v práci a pre výsledky sa vrátiš neskôr.
Tento prístup rieši reálnu potrebu. Ak potrebuješ zhrnúť 10 000 článkov, klasifikovať 50 000 podporných ticketov alebo napísať popisy katalógu, odosielanie požiadaviek po jednej by bolo pomalé, drahé a narazil by si na limity rýchlosti (rate limits). Batch požiadavky sa do týchto limitov nezapočítavajú.
Zľava 20 % na spôsobilé modely
Ekonomická výhoda je reálna, no skromnejšia, než naznačujú niektoré zdroje. xAI uplatňuje 20 % zľavu na batch požiadavky pre svoje spôsobilé textové modely – k 2. novembru 2026 sú to: grok-4.7, grok-4.6, grok-4.5, grok-4.3 a tri varianty grok-4.20-0309 – a to pre všetky typy tokenov: vstupné, výstupné, cache a reasoning. Modely, ktoré nie sú na tomto zozname, žiadnu zľavu nedostanú, ani keď batch prijímajú.
Generovanie obrázkov a videí beží v batchi, ale za štandardné ceny. Nie každý model akceptuje batch: stránka každého modelu uvádza, či ho podporuje, a požiadavka na nezpôsobilý model bude zamietnutá so správou not supported for batch processing.
Štvorkrokový pracovný postup
Batch API sa riadi jednoduchým a predvídateľným vzorcom:
- Vytvor pomenovaný batch pomocou
POST /v1/batches - Pridaj požiadavky, či už postupnými volaniami, alebo naraz pomocou súboru JSONL
- Sleduj priebeh pomocou počítadiel batchu
- Získaj výsledky, hneď ako sú k dispozícii, alebo na konci
Tento pracovný postup oddeľuje odoslanie od spracovania: nemusíš udržiavať otvorené pripojenie, kým Grok pracuje. Väčšina batchov sa spracuje do 24 hodín, ale xAI to negarantuje: doba vybavenia sa líši podľa zaťaženia a veľkosti batchu.
Podporované koncové body
Batch API nie je obmedzené len na text. Jediný batch môže kombinovať požiadavky na:
/v1/responses– Responses API so serverovými nástrojmi (webové vyhľadávanie, vyhľadávanie na X, vykonávanie kódu, MCP)/v1/chat/completions– Chat Completions API, čo je zastaraný koncový bod v xAI/v1/images/generationsa/v1/images/edits– generovanie a úprava obrázkov/v1/videos/generations(alebo/v1/videos),/v1/videos/editsa/v1/videos/extensions– generovanie, úprava a rozširovanie videí
Napríklad môžeš v rovnakom batchi napísať popisy produktov a vygenerovať k nim vizuály.
Kedy použiť Batch API
Batch API je vhodnou voľbou vždy, keď môže výsledok počkať:
- Hromadné spracovanie dát: klasifikácia, extrakcia a zhrnutie tisícov dokumentov
- Evaluácie: spustenie tisícov testovacích promptov cez model
- Dátové pipeline: obohacovanie databáz, moderovanie backlogu obsahu a príprava reportov cez noc
Ak tvoj prípad použitia vyžaduje okamžitú odpoveď (chatbot, asistent v reálnom čase), Batch API nie je vhodný: slúži pre pracovné záťaže, kde je oneskorenie niekoľkých hodín prijateľné.
Kľúčové poznatky
- Batch API spracúva požiadavky asynchrónne, väčšinu do 24 hodín, bez záruky
- 20 % zľava na všetky tokeny pre spôsobilé textové modely; obrázky a videá za štandardné ceny
- Pracovný postup má štyri kroky: vytvoriť, pridať, sledovať, získať
- Text, obrázky a videá môžu koexistovať v rovnakom batchi
- Batch požiadavky sa nezapočítavajú do limitov rýchlosti, ale nie sú vhodné pre reálny čas