A Batch API fogalma
Ezen az oldalon
Frissítve: 2026. november 2., az xAI dokumentációja alapján: a batch kedvezmény 20% a jogosult szöveges modelleken (nem 50%), a példák a REST API-t és a hivatalos
xai-sdk-t (client.batch.*) követik (az xAI Batch API-ja nem az OpenAI formátumát használja, így az OpenAI SDK nem alkalmazható), és a Responses API megelőzi a Chat Completions-t, amely az xAI-nál már elavult végpont. Források: Batch API · REST hivatkozás · Batch árazás.
Aszinkron tömbös feldolgozás
Az xAI Batch API-ja lehetővé teszi, hogy egyetlen műveletben ezernyi kérést küldj el, majd a feldolgozás befejezése után lekérd az eredményeket. A szinkron hívásokkal ellentétben, ahol minden egyes válaszra várnod kell, a batch mód aszinkron módon működik: benyújtasz egy batchot, dolgozol tovább, majd később térsz vissza az eredményekért.
Ez a megközelítés valós igényt elégít ki. Ha 10 000 cikket kell összefoglalnod, 50 000 ügyfélszolgálati jegyet osztályoznod, vagy katalógusleírásokat kell írnod, az egyesével küldött kérések lassúak, drágák lennének, és gyorsan elérnéd a sebességkorlátokat (rate limits). A batch kérések nem számítanak bele ezekbe a korlátokba.
20%-os kedvezmény a jogosult modelleken
A gazdasági előny valós, de szerényebb, mint azt egyes források sugallják. Az xAI 20% kedvezményt alkalmaz a batch kérésekre a jogosult szöveges modelljeinél – 2026. november 2-i állapot szerint: grok-4.7, grok-4.6, grok-4.5, grok-4.3, valamint a három grok-4.20-0309 variáns – minden tokentípusra vonatkozóan: bemenet, kimenet, gyorsítótár (cache) és következtetés (reasoning). A listán nem szereplő modellek nem kapnak kedvezményt, még akkor sem, ha elfogadják a batch kéréseket.
A kép- és videógenerálás is futtatható batchben, de ezek standard árazás alá esnek. Nem minden modell fogad el batch kérést: minden modell oldalán feltüntetik, hogy támogatja-e, és a nem jogosult modellnek küldött kérés a not supported for batch processing hibaüzenettel kerül elutasításra.
Négy lépésből álló munkafolyamat
A Batch API egy egyszerű, kiszámítható mintát követ:
- Létrehozás: hozz létre egy elnevezett batchot a
POST /v1/batchesvégponton keresztül. - Hozzáadás: add hozzá a kéréseket,要么 egymást követő hívásokkal,要么 egyszerre egy JSONL fájl feltöltésével.
- Figyelés: kövesd nyomon a haladást a batch számlálók segítségével.
- Lekérés: kérd le az eredményeket, ahogy elérhetővé válnak, vagy a folyamat végén.
Ez a munkafolyamat szétválasztja a benyújtást a feldolgozástól: nem kell nyitva tartanod a kapcsolatot, miközben a Grok dolgozik. A batchok többsége 24 órán belül feldolgozásra kerül, de az xAI ezt nem garantálja: az átfutási idő a terheléstől és a batch méretétől függően változik.
Támogatott végpontok
A Batch API nem korlátozódik csak a szövegre. Egyetlen batchben keverheted a következő végpontokra irányuló kéréseket:
/v1/responses– a Responses API, szerveroldali eszközökkel (webes keresés, X keresés, kódvégrehajtás, MCP)/v1/chat/completions– a Chat Completions API, amely az xAI-nál már elavult végpontnak számít/v1/images/generationsés/v1/images/edits– képgenerálás és képszerkesztés/v1/videos/generations(vagy/v1/videos),/v1/videos/editsés/v1/videos/extensions– videógenerálás, szerkesztés és hosszabbítás
Például ugyanabban a batchben írhatsz termékismertetőket és generálhatod hozzájuk a vizuális elemeket is.
Mikor használd a Batch API-t?
A Batch API akkor jó választás, ha az eredmény várhat:
- Nagy mennyiségű adat feldolgozása: ezernyi dokumentum osztályozása, kinyerése és összefoglalása.
- Értékelések (Evaluations): ezernyi tesztelőprompt futtatása egy modellen.
- Adatfolyamatok (Data pipelines): adatbázisok dúsítása, tartalmi backlogok moderálása és éjszaka előkészített jelentések.
Ha a használati eseted azonnali választ igényel (chatbot, valós idejű asszisztens), a Batch API nem megfelelő megoldás: olyan munkaterhelésekhez készült, ahol elfogadható a néhány órás késés.
Főbb megállapítások
- A Batch API aszinkron módon dolgozza fel a kéréseket, többségüket 24 órán belül, garancia nélkül
- 20% kedvezmény minden tokenre a jogosult szöveges modelleknél; a képek és videók standard árazás alá esnek
- A munkafolyamat négy lépésből áll: létrehozás, hozzáadás, figyelés, lekérés
- Szöveg, kép és videó is szerepelhet ugyanabban a batchben
- A batch kérések nem számítanak bele a sebességkorlátokba, de valós idejű feladatokra nem alkalmasak