Batch API -konsepti
Tällä sivulla
Päivitetty 2. marraskuuta 2026 xAI:n dokumentaation perusteella: alennus eräajosta on 20 % tukikelpoisissa tekstimalleissa (ei 50 %), esimerkit noudattavat REST APIa ja virallista
xai-sdk:ta (client.batch.*; xAI:n Batch API ei käytä OpenAI:n formaattia, joten OpenAI SDK ei sovellu), ja Responses API tulee ennen Chat Completionsia, joka on xAI:lla vanhentunut päätepiste. Lähteet: Batch API · REST-viite · Eräajon hinnoittelu.
Asynkroninen massakäsittely
xAI:n Batch API:n avulla voit lähettää tuhansia pyyntöjä yhdessä operaatiossa ja hakea tulokset käsittelyn valmistuttua. Toisin kuin synkronisissa kutsuissa, joissa odotat jokaista vastausta, erätila toimii asynkronisesti: lähetät erän, jatkat työtäsi ja palaat hakemaan tulokset myöhemmin.
Tämä lähestymistapa vastaa todelliseen tarpeeseen. Kun sinun täytyy tiivistää 10 000 artikkelia, luokitella 50 000 tukipyyntöä tai kirjoittaa tuoteluettelon kuvauksia, pyyntöjen lähettäminen yksi kerrallaan olisi hidasta, kallista ja johtaisi nopeasti käyttörajoihin. Eräpyynnöt eivät kuluta näitä rajoja.
20 % alennus tukikelpoisissa malleissa
Taloudellinen hyöty on todellinen, mutta vaatimattomampi kuin jotkut lähteet väittävät. xAI myöntää 20 % alennuksen eräpyynnöille tukikelpoisissa tekstimalleissaan – 2. marraskuuta 2026 tilanteen mukaan: grok-4.7, grok-4.6, grok-4.5, grok-4.3 ja kolme grok-4.20-0309-varianttia – kaikissa token-tyypeissä: syöte, tuloste, välimuisti ja päättely. Listan ulkopuolella olevat mallit eivät saa alennusta, vaikka ne hyväksyisivätkin eräajoja.
Kuvien ja videoiden generointi toimii eräajona, mutta normaalilla hinnoittelulla. Kaikki mallit eivät hyväksy eräajoja: jokaisen mallin sivulla kerrotaan, tukeeko se sitä, ja tukikelvottomaan malliin tehty pyyntö hylätään virheilmoituksella not supported for batch processing.
Nelivaiheinen työnkulku
Batch API noudattaa yksinkertaista ja ennustettavaa kaavaa:
- Luo nimetty erä komennolla
POST /v1/batches - Lisää pyynnöt joko peräkkäisillä kutsuilla tai kaikki kerralla JSONL-tiedostona
- Seuraa edistymistä erälaskureiden avulla
- Hae tulokset sitä mukaa kun ne valmistuvat tai prosessin lopussa
Tämä työnkulku irrottaa lähetyksen käsittelystä: sinun ei tarvitse pitää yhteyttä auki Grokin työskennellessä. Useimmat erät käsitellään alle 24 tunnissa, mutta xAI ei takaa tätä: läpimenoaika vaihtelee kuormituksen ja erän koon mukaan.
Tuetut päätepisteet
Batch API ei rajoitu vain tekstiin. Yksi erä voi sisältää pyyntöjä seuraaviin kohteisiin:
/v1/responses– Responses API, jossa on palvelinpuolen työkaluja (web-haku, X-haku, koodin suoritus, MCP)/v1/chat/completions– Chat Completions API, joka on xAI:lla vanhentunut päätepiste/v1/images/generationsja/v1/images/edits– kuvien generointi ja muokkaus/v1/videos/generations(tai/v1/videos),/v1/videos/editsja/v1/videos/extensions– videoiden generointi, muokkaus ja jatkaminen
Voit esimerkiksi kirjoittaa tuotekuvaukset ja generoida niihin liittyvät kuvat samassa erässä.
Milloin käyttää Batch APIa
Batch API sopii hyvin tilanteisiin, joissa tulos voi odottaa:
- Massadatan käsittely: tuhansien dokumenttien luokittelu, tietojen poiminta ja tiivistäminen
- Arvioinnit: tuhansien testikehotteiden ajaminen mallin läpi
- Dataputket: tietokantojen rikastaminen, sisältöjonon moderointi ja yön yli valmisteltavat raportit
Jos käyttötapauksesi vaatii välitöntä vastausta (keskustelubotti, reaaliaikainen avustaja), Batch API ei ole oikea valinta: se on tarkoitettu kuormituksille, joissa muutaman tunnin viive on hyväksyttävä.
Keskeiset asiat
- Batch API käsittelee pyynnöt asynkronisesti, useimmat alle 24 tunnissa, ilman takuuta
- 20 % alennus kaikista tokeneista tukikelpoisissa tekstimalleissa; kuvat ja videot normaalihinnalla
- Työnkulussa on neljä vaihetta: luo, lisää, seuraa, hae
- Teksti, kuvat ja videot voivat esiintyä samassa erässä
- Eräpyynnöt eivät kuluta käyttörajoja, mutta ne eivät sovellu reaaliaikaiseen käyttöön