Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Batch API -konsepti

Oppitunti 1 / 12 Päivitetty 2. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Asynkroninen massakäsittely
  2. 20 % alennus tukikelpoisissa malleissa
  3. Nelivaiheinen työnkulku
  4. Tuetut päätepisteet
  5. Milloin käyttää Batch APIa
  6. Keskeiset asiat

Päivitetty 2. marraskuuta 2026 xAI:n dokumentaation perusteella: alennus eräajosta on 20 % tukikelpoisissa tekstimalleissa (ei 50 %), esimerkit noudattavat REST APIa ja virallista xai-sdk:ta (client.batch.*; xAI:n Batch API ei käytä OpenAI:n formaattia, joten OpenAI SDK ei sovellu), ja Responses API tulee ennen Chat Completionsia, joka on xAI:lla vanhentunut päätepiste. Lähteet: Batch API · REST-viite · Eräajon hinnoittelu.

Asynkroninen massakäsittely

xAI:n Batch API:n avulla voit lähettää tuhansia pyyntöjä yhdessä operaatiossa ja hakea tulokset käsittelyn valmistuttua. Toisin kuin synkronisissa kutsuissa, joissa odotat jokaista vastausta, erätila toimii asynkronisesti: lähetät erän, jatkat työtäsi ja palaat hakemaan tulokset myöhemmin.

Tämä lähestymistapa vastaa todelliseen tarpeeseen. Kun sinun täytyy tiivistää 10 000 artikkelia, luokitella 50 000 tukipyyntöä tai kirjoittaa tuoteluettelon kuvauksia, pyyntöjen lähettäminen yksi kerrallaan olisi hidasta, kallista ja johtaisi nopeasti käyttörajoihin. Eräpyynnöt eivät kuluta näitä rajoja.

20 % alennus tukikelpoisissa malleissa

Taloudellinen hyöty on todellinen, mutta vaatimattomampi kuin jotkut lähteet väittävät. xAI myöntää 20 % alennuksen eräpyynnöille tukikelpoisissa tekstimalleissaan – 2. marraskuuta 2026 tilanteen mukaan: grok-4.7, grok-4.6, grok-4.5, grok-4.3 ja kolme grok-4.20-0309-varianttia – kaikissa token-tyypeissä: syöte, tuloste, välimuisti ja päättely. Listan ulkopuolella olevat mallit eivät saa alennusta, vaikka ne hyväksyisivätkin eräajoja.

Kuvien ja videoiden generointi toimii eräajona, mutta normaalilla hinnoittelulla. Kaikki mallit eivät hyväksy eräajoja: jokaisen mallin sivulla kerrotaan, tukeeko se sitä, ja tukikelvottomaan malliin tehty pyyntö hylätään virheilmoituksella not supported for batch processing.

-20%
Tokenit tukikelpoisissa malleissa
24 h
Tyypillinen läpimenoaika, ei takuuta
50 000
Pyyntöä tiedostoa kohden
200 Mt
JSONL-tiedoston enimmäiskoko

Nelivaiheinen työnkulku

Batch API noudattaa yksinkertaista ja ennustettavaa kaavaa:

  1. Luo nimetty erä komennolla POST /v1/batches
  2. Lisää pyynnöt joko peräkkäisillä kutsuilla tai kaikki kerralla JSONL-tiedostona
  3. Seuraa edistymistä erälaskureiden avulla
  4. Hae tulokset sitä mukaa kun ne valmistuvat tai prosessin lopussa

Tämä työnkulku irrottaa lähetyksen käsittelystä: sinun ei tarvitse pitää yhteyttä auki Grokin työskennellessä. Useimmat erät käsitellään alle 24 tunnissa, mutta xAI ei takaa tätä: läpimenoaika vaihtelee kuormituksen ja erän koon mukaan.

Tuetut päätepisteet

Batch API ei rajoitu vain tekstiin. Yksi erä voi sisältää pyyntöjä seuraaviin kohteisiin:

  • /v1/responses – Responses API, jossa on palvelinpuolen työkaluja (web-haku, X-haku, koodin suoritus, MCP)
  • /v1/chat/completions – Chat Completions API, joka on xAI:lla vanhentunut päätepiste
  • /v1/images/generations ja /v1/images/edits – kuvien generointi ja muokkaus
  • /v1/videos/generations (tai /v1/videos), /v1/videos/edits ja /v1/videos/extensions – videoiden generointi, muokkaus ja jatkaminen

Voit esimerkiksi kirjoittaa tuotekuvaukset ja generoida niihin liittyvät kuvat samassa erässä.

Milloin käyttää Batch APIa

Batch API sopii hyvin tilanteisiin, joissa tulos voi odottaa:

  • Massadatan käsittely: tuhansien dokumenttien luokittelu, tietojen poiminta ja tiivistäminen
  • Arvioinnit: tuhansien testikehotteiden ajaminen mallin läpi
  • Dataputket: tietokantojen rikastaminen, sisältöjonon moderointi ja yön yli valmisteltavat raportit

Jos käyttötapauksesi vaatii välitöntä vastausta (keskustelubotti, reaaliaikainen avustaja), Batch API ei ole oikea valinta: se on tarkoitettu kuormituksille, joissa muutaman tunnin viive on hyväksyttävä.

Keskeiset asiat

  • Batch API käsittelee pyynnöt asynkronisesti, useimmat alle 24 tunnissa, ilman takuuta
  • 20 % alennus kaikista tokeneista tukikelpoisissa tekstimalleissa; kuvat ja videot normaalihinnalla
  • Työnkulussa on neljä vaihetta: luo, lisää, seuraa, hae
  • Teksti, kuvat ja videot voivat esiintyä samassa erässä
  • Eräpyynnöt eivät kuluta käyttörajoja, mutta ne eivät sovellu reaaliaikaiseen käyttöön