Koncept rozhraní Batch API
Na této stránce
Aktualizováno 2. listopadu 2026 na základě dokumentace xAI: sleva pro dávkové zpracování činí 20 % u způsobilých textových modelů (nikoliv 50 %), příklady se řídí rozhraním REST API a oficiálním
xai-sdk(client.batch.*; Batch API od xAI nepoužívá formát OpenAI, takže SDK od OpenAI zde neplatí) a rozhraní Responses API má přednost před Chat Completions, což je u xAI zastaralý koncový bod. Zdroje: Batch API · Reference k REST API · Ceník pro dávkové zpracování.
Asynchronní hromadné zpracování
Batch API od xAI ti umožňuje odeslat tisíce požadavků v jediné operaci a výsledky si stáhnout, jakmile se zpracování dokončí. Na rozdíl od synchronních volání, kde čekáš na každou odpověď zvlášť, dávkový režim funguje asynchronně: odešleš dávku, pokračuješ v práci a pro výsledky se vrátíš později.
Tento přístup řeší reálnou potřebu. Pokud potřebuješ shrnout 10 000 článků, klasifikovat 50 000 tiketů podpory nebo napsat popisy produktů do katalogu, odesílání požadavků jeden po druhém by bylo pomalé, drahé a rychle bys narazil na limity rychlosti (rate limits). Dávkové požadavky se do těchto limitů nezapočítávají.
Sleva 20 % na způsobilé modely
Ekonomická výhoda je reálná, ale skromnější, než některé zdroje naznačují. xAI poskytuje slevu 20 % na dávkové požadavky pro své způsobilé textové modely – k 2. listopadu 2026 jsou to: grok-4.7, grok-4.6, grok-4.5, grok-4.3 a tři varianty grok-4.20-0309 – a to pro všechny typy tokenů: vstupní, výstupní, cache i reasoning. Modely, které nejsou na tomto seznamu, žádnou slevu nedostanou, ani když dávkové zpracování podporují.
Generování obrázků a videí lze spustit v dávkovém režimu, ale za standardní ceny. Ne každý model přijímá dávky: stránka každého modelu uvádí, zda jej podporuje, a požadavek odeslaný na nezpůsobilý model bude zamítnut s chybovou zprávou not supported for batch processing.
Čtyřkrokový pracovní postup
Batch API se řídí jednoduchým a předvídatelným vzorcem:
- Vytvoř pojmenovanou dávku pomocí
POST /v1/batches - Přidej požadavky, ať už postupnými voláními, nebo najednou prostřednictvím souboru JSONL
- Sleduj průběh pomocí čítačů dávky
- Získej výsledky, jakmile jsou k dispozici, nebo až na konci
Tento pracovní postup odděluje odeslání od zpracování: nemusíš udržovat otevřené připojení, zatímco Grok pracuje. Většina dávek se zpracuje do 24 hodin, ale xAI to negarantuje: doba zpracování se liší podle vytížení a velikosti dávky.
Podporované koncové body
Batch API není omezeno pouze na text. Jediná dávka může kombinovat požadavky na:
/v1/responses– rozhraní Responses API s nástroji na straně serveru (vyhledávání na webu, hledání na X, spouštění kódu, MCP)/v1/chat/completions– rozhraní Chat Completions API, což je u xAI zastaralý koncový bod/v1/images/generationsa/v1/images/edits– generování a úpravy obrázků/v1/videos/generations(nebo/v1/videos),/v1/videos/editsa/v1/videos/extensions– generování, úpravy a prodlužování videí
Můžeš například napsat popisy produktů a vygenerovat k nim vizuály v rámci téže dávky.
Kdy použít Batch API
Batch API je ideální volbou vždy, když může výsledek počkat:
- Hromadné zpracování dat: klasifikace, extrakce a shrnování tisíců dokumentů
- Evaluace: spuštění tisíců testovacích promptů skrze model
- Datové pipeline: obohacování databází, moderování backlogu obsahu a příprava reportů přes noc
Pokud tvůj případ použití vyžaduje okamžitou odpověď (chatbot, asistent v reálném čase), Batch API není vhodné: slouží pro pracovní zátěže, kde je přijatelné zpoždění v řádu několika hodin.
Klíčové poznatky
- Batch API zpracovává požadavky asynchronně, většinu do 24 hodin, bez garance
- Sleva 20 % na všechny tokeny pro způsobilé textové modely; obrázky a videa za standardní ceny
- Pracovní postup má čtyři kroky: vytvořit, přidat, sledovat, získat
- Text, obrázky i videa mohou koexistovat ve stejné dávce
- Dávkové požadavky se nezapočítávají do limitů rychlosti, ale nejsou vhodné pro práci v reálném čase