Konceptet Batch API
På denne side
Opdateret 2. november 2026 baseret på xAI’s dokumentation: batch-rabatten er på 20 % for berettigede tekstmodeller (ikke 50 %), eksemplerne følger REST API’en og det officielle
xai-sdk(client.batch.*; xAI’s Batch API bruger ikke OpenAI-formatet, så OpenAI SDK’en gælder ikke), og Responses API’en kommer før Chat Completions, som er et forældet endpoint hos xAI. Kilder: Batch API · REST-reference · Batch-prissætning.
Asynkron massebehandling
xAI’s Batch API giver dig mulighed for at sende tusindvis af forespørgsler i én enkelt operation og derefter hente resultaterne, når behandlingen er afsluttet. I modsætning til synkrone kald, hvor du venter på hvert svar, fungerer batch-tilstand asynkront: du indsender en batch, fortsætter dit arbejde og kommer tilbage senere for at hente resultaterne.
Denne tilgang imødekommer et reelt behov. Når du skal opsummere 10.000 artikler, klassificere 50.000 support-sager eller skrive produktbeskrivelser til et katalog, vil det være langsomt, dyrt og føre til, at du rammer rate-grænser, hvis du sender forespørgsler én ad gangen. Batch-forespørgsler tæller ikke med i disse grænser.
20 % rabat på berettigede modeller
Den økonomiske fordel er reel, men mere beskeden end nogle kilder antyder. xAI giver en rabat på 20 % på batch-forespørgsler til sine berettigede tekstmodeller – pr. 2. november 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 og de tre varianter af grok-4.20-0309 – for alle tokentyper: input, output, cache og ræsonnement. Modeller, der ikke står på denne liste, får ingen rabat, selvom de accepterer batch.
Billede- og videogenerering kører i batch, men til standardpriser. Ikke alle modeller accepterer batch: Hver models side angiver, om den gør det, og en forespørgsel til en ikke-berettiget model bliver afvist med beskeden not supported for batch processing.
Fire-trins workflow
Batch API’en følger et simpelt og forudsigeligt mønster:
- Opret en navngiven batch med
POST /v1/batches - Tilføj forespørgsler, enten gennem successive kald eller alle på én gang med en JSONL-fil
- Overvåg fremdriften ved hjælp af batch-tællerne
- Hent resultaterne, efterhånden som de bliver tilgængelige, eller til sidst
Dette workflow afkobler indsendelse fra behandling: Du behøver ikke holde en forbindelse åben, mens Grok arbejder. De fleste batches behandles på under 24 timer, men xAI garanterer det ikke: svartiden varierer afhængigt af belastning og batch-størrelse.
Understøttede endpoints
Batch API’en er ikke begrænset til tekst. En enkelt batch kan blande forespørgsler til:
/v1/responses— Responses API’en, med server-side værktøjer (websøgning, X-søgning, kodeeksekvering, MCP)/v1/chat/completions— Chat Completions API’en, et forældet endpoint hos xAI/v1/images/generationsog/v1/images/edits— billedgenerering og redigering/v1/videos/generations(eller/v1/videos),/v1/videos/editsog/v1/videos/extensions— videogenerering, redigering og udvidelse
Du kan for eksempel skrive produktbeskrivelser og generere deres visuelle elementer i samme batch.
Hvornår skal du bruge Batch API’en?
Batch API’en er velegnet, når resultatet kan vente:
- Massebehandling af data: klassificering, udtrækning og opsummering af tusindvis af dokumenter
- Evalueringer: kør tusindvis af test-prompts gennem en model
- Datapipelines: berigelse af databaser, moderering af indholdsbacklogs og rapporter udarbejdet om natten
Hvis dit brugstilfælde kræver et øjeblikkeligt svar (chatbot, realtidsassistent), er Batch API’en ikke løsningen: den er designet til arbejdsmængder, hvor en forsinkelse på nogle få timer er acceptabel.
Vigtige pointer
- Batch API’en behandler forespørgsler asynkront, de fleste på under 24 timer, uden garanti
- 20 % rabat på alle tokens for berettigede tekstmodeller; billeder og videoer til standardpriser
- Workflowet har fire trin: opret, tilføj, overvåg, hent
- Tekst, billeder og videoer kan sameksistere i samme batch
- Batch-forespørgsler tæller ikke med i rate-grænser, men de er ikke egnet til realtidsbrug