Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Koncept rozhrania Batch API

Lekcia 1 z 12 Aktualizované 2. novembra 2026 Vývojár
Na tejto strane
  1. Asynchrónne hromadné spracovanie
  2. Zľava 20 % na spôsobilé modely
  3. Štvorkrokový pracovný postup
  4. Podporované koncové body
  5. Kedy použiť Batch API
  6. Kľúčové poznatky

Aktualizované 2. novembra 2026 na základe dokumentácie xAI: zľava pre batch je 20 % na spôsobilé textové modely (nie 50 %), príklady sa riadia rozhraním REST API a oficiálnym xai-sdk (client.batch.*; Batch API od xAI nepoužíva formát OpenAI, takže SDK od OpenAI nie je použiteľné) a Responses API má prednosť pred Chat Completions, čo je zastaraný koncový bod v xAI. Zdroje: Batch API · Referencia REST · Cenník Batch.

Asynchrónne hromadné spracovanie

Batch API od xAI ti umožňuje odoslať tisíce požiadaviek v jednej operácii a následne získať výsledky po dokončení spracovania. Na rozdiel od synchrónnych volaní, kde čakáš na každú odpoveď, batch režim funguje asynchrónne: odošleš batch, pokračuješ v práci a pre výsledky sa vrátiš neskôr.

Tento prístup rieši reálnu potrebu. Ak potrebuješ zhrnúť 10 000 článkov, klasifikovať 50 000 podporných ticketov alebo napísať popisy katalógu, odosielanie požiadaviek po jednej by bolo pomalé, drahé a narazil by si na limity rýchlosti (rate limits). Batch požiadavky sa do týchto limitov nezapočítavajú.

Zľava 20 % na spôsobilé modely

Ekonomická výhoda je reálna, no skromnejšia, než naznačujú niektoré zdroje. xAI uplatňuje 20 % zľavu na batch požiadavky pre svoje spôsobilé textové modely – k 2. novembru 2026 sú to: grok-4.7, grok-4.6, grok-4.5, grok-4.3 a tri varianty grok-4.20-0309 – a to pre všetky typy tokenov: vstupné, výstupné, cache a reasoning. Modely, ktoré nie sú na tomto zozname, žiadnu zľavu nedostanú, ani keď batch prijímajú.

Generovanie obrázkov a videí beží v batchi, ale za štandardné ceny. Nie každý model akceptuje batch: stránka každého modelu uvádza, či ho podporuje, a požiadavka na nezpôsobilý model bude zamietnutá so správou not supported for batch processing.

-20%
Tokeny pre spôsobilé modely
24h
Typická doba vybavenia, nie garantovaná
50K
Požiadaviek na súbor
200 MB
Maximálna veľkosť JSONL

Štvorkrokový pracovný postup

Batch API sa riadi jednoduchým a predvídateľným vzorcom:

  1. Vytvor pomenovaný batch pomocou POST /v1/batches
  2. Pridaj požiadavky, či už postupnými volaniami, alebo naraz pomocou súboru JSONL
  3. Sleduj priebeh pomocou počítadiel batchu
  4. Získaj výsledky, hneď ako sú k dispozícii, alebo na konci

Tento pracovný postup oddeľuje odoslanie od spracovania: nemusíš udržiavať otvorené pripojenie, kým Grok pracuje. Väčšina batchov sa spracuje do 24 hodín, ale xAI to negarantuje: doba vybavenia sa líši podľa zaťaženia a veľkosti batchu.

Podporované koncové body

Batch API nie je obmedzené len na text. Jediný batch môže kombinovať požiadavky na:

  • /v1/responses – Responses API so serverovými nástrojmi (webové vyhľadávanie, vyhľadávanie na X, vykonávanie kódu, MCP)
  • /v1/chat/completions – Chat Completions API, čo je zastaraný koncový bod v xAI
  • /v1/images/generations a /v1/images/edits – generovanie a úprava obrázkov
  • /v1/videos/generations (alebo /v1/videos), /v1/videos/edits a /v1/videos/extensions – generovanie, úprava a rozširovanie videí

Napríklad môžeš v rovnakom batchi napísať popisy produktov a vygenerovať k nim vizuály.

Kedy použiť Batch API

Batch API je vhodnou voľbou vždy, keď môže výsledok počkať:

  • Hromadné spracovanie dát: klasifikácia, extrakcia a zhrnutie tisícov dokumentov
  • Evaluácie: spustenie tisícov testovacích promptov cez model
  • Dátové pipeline: obohacovanie databáz, moderovanie backlogu obsahu a príprava reportov cez noc

Ak tvoj prípad použitia vyžaduje okamžitú odpoveď (chatbot, asistent v reálnom čase), Batch API nie je vhodný: slúži pre pracovné záťaže, kde je oneskorenie niekoľkých hodín prijateľné.

Kľúčové poznatky

  • Batch API spracúva požiadavky asynchrónne, väčšinu do 24 hodín, bez záruky
  • 20 % zľava na všetky tokeny pre spôsobilé textové modely; obrázky a videá za štandardné ceny
  • Pracovný postup má štyri kroky: vytvoriť, pridať, sledovať, získať
  • Text, obrázky a videá môžu koexistovať v rovnakom batchi
  • Batch požiadavky sa nezapočítavajú do limitov rýchlosti, ale nie sú vhodné pre reálny čas