Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

A Batch API fogalma

1. lecke 12 közül Frissítve 2026. november 2. Fejlesztő
Ezen az oldalon
  1. Aszinkron tömbös feldolgozás
  2. 20%-os kedvezmény a jogosult modelleken
  3. Négy lépésből álló munkafolyamat
  4. Támogatott végpontok
  5. Mikor használd a Batch API-t?
  6. Főbb megállapítások

Frissítve: 2026. november 2., az xAI dokumentációja alapján: a batch kedvezmény 20% a jogosult szöveges modelleken (nem 50%), a példák a REST API-t és a hivatalos xai-sdk-t (client.batch.*) követik (az xAI Batch API-ja nem az OpenAI formátumát használja, így az OpenAI SDK nem alkalmazható), és a Responses API megelőzi a Chat Completions-t, amely az xAI-nál már elavult végpont. Források: Batch API · REST hivatkozás · Batch árazás.

Aszinkron tömbös feldolgozás

Az xAI Batch API-ja lehetővé teszi, hogy egyetlen műveletben ezernyi kérést küldj el, majd a feldolgozás befejezése után lekérd az eredményeket. A szinkron hívásokkal ellentétben, ahol minden egyes válaszra várnod kell, a batch mód aszinkron módon működik: benyújtasz egy batchot, dolgozol tovább, majd később térsz vissza az eredményekért.

Ez a megközelítés valós igényt elégít ki. Ha 10 000 cikket kell összefoglalnod, 50 000 ügyfélszolgálati jegyet osztályoznod, vagy katalógusleírásokat kell írnod, az egyesével küldött kérések lassúak, drágák lennének, és gyorsan elérnéd a sebességkorlátokat (rate limits). A batch kérések nem számítanak bele ezekbe a korlátokba.

20%-os kedvezmény a jogosult modelleken

A gazdasági előny valós, de szerényebb, mint azt egyes források sugallják. Az xAI 20% kedvezményt alkalmaz a batch kérésekre a jogosult szöveges modelljeinél – 2026. november 2-i állapot szerint: grok-4.7, grok-4.6, grok-4.5, grok-4.3, valamint a három grok-4.20-0309 variáns – minden tokentípusra vonatkozóan: bemenet, kimenet, gyorsítótár (cache) és következtetés (reasoning). A listán nem szereplő modellek nem kapnak kedvezményt, még akkor sem, ha elfogadják a batch kéréseket.

A kép- és videógenerálás is futtatható batchben, de ezek standard árazás alá esnek. Nem minden modell fogad el batch kérést: minden modell oldalán feltüntetik, hogy támogatja-e, és a nem jogosult modellnek küldött kérés a not supported for batch processing hibaüzenettel kerül elutasításra.

-20%
Tokenek a jogosult modelleknél
24 óra
Tipikus átfutási idő, nem garantált
50K
Kérések fájlonként
200 MB
Maximális JSONL méret

Négy lépésből álló munkafolyamat

A Batch API egy egyszerű, kiszámítható mintát követ:

  1. Létrehozás: hozz létre egy elnevezett batchot a POST /v1/batches végponton keresztül.
  2. Hozzáadás: add hozzá a kéréseket,要么 egymást követő hívásokkal,要么 egyszerre egy JSONL fájl feltöltésével.
  3. Figyelés: kövesd nyomon a haladást a batch számlálók segítségével.
  4. Lekérés: kérd le az eredményeket, ahogy elérhetővé válnak, vagy a folyamat végén.

Ez a munkafolyamat szétválasztja a benyújtást a feldolgozástól: nem kell nyitva tartanod a kapcsolatot, miközben a Grok dolgozik. A batchok többsége 24 órán belül feldolgozásra kerül, de az xAI ezt nem garantálja: az átfutási idő a terheléstől és a batch méretétől függően változik.

Támogatott végpontok

A Batch API nem korlátozódik csak a szövegre. Egyetlen batchben keverheted a következő végpontokra irányuló kéréseket:

  • /v1/responses – a Responses API, szerveroldali eszközökkel (webes keresés, X keresés, kódvégrehajtás, MCP)
  • /v1/chat/completions – a Chat Completions API, amely az xAI-nál már elavult végpontnak számít
  • /v1/images/generations és /v1/images/edits – képgenerálás és képszerkesztés
  • /v1/videos/generations (vagy /v1/videos), /v1/videos/edits és /v1/videos/extensions – videógenerálás, szerkesztés és hosszabbítás

Például ugyanabban a batchben írhatsz termékismertetőket és generálhatod hozzájuk a vizuális elemeket is.

Mikor használd a Batch API-t?

A Batch API akkor jó választás, ha az eredmény várhat:

  • Nagy mennyiségű adat feldolgozása: ezernyi dokumentum osztályozása, kinyerése és összefoglalása.
  • Értékelések (Evaluations): ezernyi tesztelőprompt futtatása egy modellen.
  • Adatfolyamatok (Data pipelines): adatbázisok dúsítása, tartalmi backlogok moderálása és éjszaka előkészített jelentések.

Ha a használati eseted azonnali választ igényel (chatbot, valós idejű asszisztens), a Batch API nem megfelelő megoldás: olyan munkaterhelésekhez készült, ahol elfogadható a néhány órás késés.

Főbb megállapítások

  • A Batch API aszinkron módon dolgozza fel a kéréseket, többségüket 24 órán belül, garancia nélkül
  • 20% kedvezmény minden tokenre a jogosult szöveges modelleknél; a képek és videók standard árazás alá esnek
  • A munkafolyamat négy lépésből áll: létrehozás, hozzáadás, figyelés, lekérés
  • Szöveg, kép és videó is szerepelhet ugyanabban a batchben
  • A batch kérések nem számítanak bele a sebességkorlátokba, de valós idejű feladatokra nem alkalmasak