Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Konceptet Batch API

Lektion 1 af 12 Opdateret 2. november 2026 Udvikler
På denne side
  1. Asynkron massebehandling
  2. 20 % rabat på berettigede modeller
  3. Fire-trins workflow
  4. Understøttede endpoints
  5. Hvornår skal du bruge Batch API’en?
  6. Vigtige pointer

Opdateret 2. november 2026 baseret på xAI’s dokumentation: batch-rabatten er på 20 % for berettigede tekstmodeller (ikke 50 %), eksemplerne følger REST API’en og det officielle xai-sdk (client.batch.*; xAI’s Batch API bruger ikke OpenAI-formatet, så OpenAI SDK’en gælder ikke), og Responses API’en kommer før Chat Completions, som er et forældet endpoint hos xAI. Kilder: Batch API · REST-reference · Batch-prissætning.

Asynkron massebehandling

xAI’s Batch API giver dig mulighed for at sende tusindvis af forespørgsler i én enkelt operation og derefter hente resultaterne, når behandlingen er afsluttet. I modsætning til synkrone kald, hvor du venter på hvert svar, fungerer batch-tilstand asynkront: du indsender en batch, fortsætter dit arbejde og kommer tilbage senere for at hente resultaterne.

Denne tilgang imødekommer et reelt behov. Når du skal opsummere 10.000 artikler, klassificere 50.000 support-sager eller skrive produktbeskrivelser til et katalog, vil det være langsomt, dyrt og føre til, at du rammer rate-grænser, hvis du sender forespørgsler én ad gangen. Batch-forespørgsler tæller ikke med i disse grænser.

20 % rabat på berettigede modeller

Den økonomiske fordel er reel, men mere beskeden end nogle kilder antyder. xAI giver en rabat på 20 % på batch-forespørgsler til sine berettigede tekstmodeller – pr. 2. november 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 og de tre varianter af grok-4.20-0309 – for alle tokentyper: input, output, cache og ræsonnement. Modeller, der ikke står på denne liste, får ingen rabat, selvom de accepterer batch.

Billede- og videogenerering kører i batch, men til standardpriser. Ikke alle modeller accepterer batch: Hver models side angiver, om den gør det, og en forespørgsel til en ikke-berettiget model bliver afvist med beskeden not supported for batch processing.

-20%
Tokens til berettigede modeller
24t
Typisk svartid, ikke garanteret
50.000
Forespørgsler pr. fil
200 MB
Maks. JSONL-størrelse

Fire-trins workflow

Batch API’en følger et simpelt og forudsigeligt mønster:

  1. Opret en navngiven batch med POST /v1/batches
  2. Tilføj forespørgsler, enten gennem successive kald eller alle på én gang med en JSONL-fil
  3. Overvåg fremdriften ved hjælp af batch-tællerne
  4. Hent resultaterne, efterhånden som de bliver tilgængelige, eller til sidst

Dette workflow afkobler indsendelse fra behandling: Du behøver ikke holde en forbindelse åben, mens Grok arbejder. De fleste batches behandles på under 24 timer, men xAI garanterer det ikke: svartiden varierer afhængigt af belastning og batch-størrelse.

Understøttede endpoints

Batch API’en er ikke begrænset til tekst. En enkelt batch kan blande forespørgsler til:

  • /v1/responses — Responses API’en, med server-side værktøjer (websøgning, X-søgning, kodeeksekvering, MCP)
  • /v1/chat/completions — Chat Completions API’en, et forældet endpoint hos xAI
  • /v1/images/generations og /v1/images/edits — billedgenerering og redigering
  • /v1/videos/generations (eller /v1/videos), /v1/videos/edits og /v1/videos/extensions — videogenerering, redigering og udvidelse

Du kan for eksempel skrive produktbeskrivelser og generere deres visuelle elementer i samme batch.

Hvornår skal du bruge Batch API’en?

Batch API’en er velegnet, når resultatet kan vente:

  • Massebehandling af data: klassificering, udtrækning og opsummering af tusindvis af dokumenter
  • Evalueringer: kør tusindvis af test-prompts gennem en model
  • Datapipelines: berigelse af databaser, moderering af indholdsbacklogs og rapporter udarbejdet om natten

Hvis dit brugstilfælde kræver et øjeblikkeligt svar (chatbot, realtidsassistent), er Batch API’en ikke løsningen: den er designet til arbejdsmængder, hvor en forsinkelse på nogle få timer er acceptabel.

Vigtige pointer

  • Batch API’en behandler forespørgsler asynkront, de fleste på under 24 timer, uden garanti
  • 20 % rabat på alle tokens for berettigede tekstmodeller; billeder og videoer til standardpriser
  • Workflowet har fire trin: opret, tilføj, overvåg, hent
  • Tekst, billeder og videoer kan sameksistere i samme batch
  • Batch-forespørgsler tæller ikke med i rate-grænser, men de er ikke egnet til realtidsbrug