Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Konceptet Batch API

Lektion 1 av 12 Uppdaterad 2 november 2026 Utvecklare
På denna sida
  1. Asynkron bulkbearbetning
  2. 20 % rabatt på berättigade modeller
  3. Arbetsflöde i fyra steg
  4. Slutpunkter som stöds
  5. När ska du använda Batch API?
  6. Viktiga punkter

Uppdaterat den 2 november 2026, baserat på xAI:s dokumentation: rabatten för batch är 20 % på berättigade textmodeller (inte 50 %), exemplen följer REST API:t och den officiella xai-sdk (client.batch.*; xAI:s Batch API använder inte OpenAI:s format, så OpenAI SDK gäller inte), och Responses API kommer före Chat Completions, som är en föråldrad slutpunkt hos xAI. Källor: Batch API · REST-referens · Batch-prissättning.

Asynkron bulkbearbetning

xAI:s Batch API låter dig skicka tusentals förfrågningar i en enda operation och hämta resultaten när bearbetningen är klar. Till skillnad från synkrona anrop, där du väntar på varje svar, fungerar batch-läge asynkront: du skickar in en batch, fortsätter arbeta och kommer tillbaka för resultaten senare.

Detta tillvägagångssätt möter ett verkligt behov. När du behöver sammanfatta 10 000 artiklar, klassificera 50 000 supportärenden eller skriva katalogbeskrivningar skulle det vara långsamt, dyrt och leda till att du når hastighetsbegränsningar om du skickade förfrågningar en i taget. Batch-förfrågningar räknas inte mot dessa begränsningar.

20 % rabatt på berättigade modeller

Den ekonomiska fördelen är verklig, men mer blygsam än vad vissa källor antyder. xAI tillämpar en rabatt på 20 % på batch-förfrågningar för sina berättigade textmodeller – per den 2 november 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 och de tre varianterna av grok-4.20-0309 – för alla tokentyper: inmatning, utmatning, cache och resonemang. Modeller som inte finns med på denna lista får ingen rabatt, även om de accepterar batch.

Bild- och videogenerering körs i batch, men till standardpriser. Inte varje modell accepterar batch: varje modellsida anger om den gör det, och en förfrågan till en icke-berättigad modell avvisas med meddelandet not supported for batch processing.

-20%
Tokens för berättigade modeller
24h
Typisk leveranstid, ej garanterad
50K
Förfrågningar per fil
200 MB
Maximal JSONL-storlek

Arbetsflöde i fyra steg

Batch API följer ett enkelt och förutsägbart mönster:

  1. Skapa en namngiven batch med POST /v1/batches
  2. Lägg till förfrågningar, antingen genom successiva anrop eller alla på en gång med en JSONL-fil
  3. Övervaka framstegen med hjälp av batch-räknare
  4. Hämta resultaten när de blir tillgängliga eller vid slutet

Detta arbetsflöde kopplar bort inskickning från bearbetning: du behöver inte hålla en anslutning öppen medan Grok arbetar. De flesta batchar bearbetas på under 24 timmar, men xAI garanterar inte detta: leveranstiden varierar beroende på belastning och batch-storlek.

Slutpunkter som stöds

Batch API är inte begränsat till text. En enda batch kan blanda förfrågningar till:

  • /v1/responses — Responses API, med server-side-verktyg (webbsökning, X-sökning, kodexekvering, MCP)
  • /v1/chat/completions — Chat Completions API, en föråldrad slutpunkt hos xAI
  • /v1/images/generations och /v1/images/edits — bildgenerering och redigering
  • /v1/videos/generations (eller /v1/videos), /v1/videos/edits och /v1/videos/extensions — videogenerering, redigering och förlängning

Du kan till exempel skriva produktbeskrivningar och generera deras visuella innehåll i samma batch.

När ska du använda Batch API?

Batch API passar bra när resultatet kan vänta:

  • Bulkbearbetning av data: klassificering, extraktion och sammanfattning av tusentals dokument
  • Utvärderingar: kör tusentals testprompter genom en modell
  • Datapipelines: berikning av databaser, moderering av innehållsköer och rapporter som förbereds över natten

Om ditt användningsfall kräver ett omedelbart svar (chattbot, assistent i realtid) är Batch API inte rätt val: det tjänar arbetsbelastningar där en fördröjning på några timmar är acceptabel.

Viktiga punkter

  • Batch API bearbetar förfrågningar asynkront, de flesta på under 24 timmar, utan garanti
  • 20 % rabatt på alla tokens för berättigade textmodeller; bilder och videor till standardpriser
  • Arbetsflödet har fyra steg: skapa, lägg till, övervaka, hämta
  • Text, bilder och videor kan samexistera i samma batch
  • Batch-förfrågningar räknas inte mot hastighetsbegränsningar, men de passar inte för realtidsanvändning