Konceptet Batch API
På denna sida
Uppdaterat den 2 november 2026, baserat på xAI:s dokumentation: rabatten för batch är 20 % på berättigade textmodeller (inte 50 %), exemplen följer REST API:t och den officiella
xai-sdk(client.batch.*; xAI:s Batch API använder inte OpenAI:s format, så OpenAI SDK gäller inte), och Responses API kommer före Chat Completions, som är en föråldrad slutpunkt hos xAI. Källor: Batch API · REST-referens · Batch-prissättning.
Asynkron bulkbearbetning
xAI:s Batch API låter dig skicka tusentals förfrågningar i en enda operation och hämta resultaten när bearbetningen är klar. Till skillnad från synkrona anrop, där du väntar på varje svar, fungerar batch-läge asynkront: du skickar in en batch, fortsätter arbeta och kommer tillbaka för resultaten senare.
Detta tillvägagångssätt möter ett verkligt behov. När du behöver sammanfatta 10 000 artiklar, klassificera 50 000 supportärenden eller skriva katalogbeskrivningar skulle det vara långsamt, dyrt och leda till att du når hastighetsbegränsningar om du skickade förfrågningar en i taget. Batch-förfrågningar räknas inte mot dessa begränsningar.
20 % rabatt på berättigade modeller
Den ekonomiska fördelen är verklig, men mer blygsam än vad vissa källor antyder. xAI tillämpar en rabatt på 20 % på batch-förfrågningar för sina berättigade textmodeller – per den 2 november 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 och de tre varianterna av grok-4.20-0309 – för alla tokentyper: inmatning, utmatning, cache och resonemang. Modeller som inte finns med på denna lista får ingen rabatt, även om de accepterar batch.
Bild- och videogenerering körs i batch, men till standardpriser. Inte varje modell accepterar batch: varje modellsida anger om den gör det, och en förfrågan till en icke-berättigad modell avvisas med meddelandet not supported for batch processing.
Arbetsflöde i fyra steg
Batch API följer ett enkelt och förutsägbart mönster:
- Skapa en namngiven batch med
POST /v1/batches - Lägg till förfrågningar, antingen genom successiva anrop eller alla på en gång med en JSONL-fil
- Övervaka framstegen med hjälp av batch-räknare
- Hämta resultaten när de blir tillgängliga eller vid slutet
Detta arbetsflöde kopplar bort inskickning från bearbetning: du behöver inte hålla en anslutning öppen medan Grok arbetar. De flesta batchar bearbetas på under 24 timmar, men xAI garanterar inte detta: leveranstiden varierar beroende på belastning och batch-storlek.
Slutpunkter som stöds
Batch API är inte begränsat till text. En enda batch kan blanda förfrågningar till:
/v1/responses— Responses API, med server-side-verktyg (webbsökning, X-sökning, kodexekvering, MCP)/v1/chat/completions— Chat Completions API, en föråldrad slutpunkt hos xAI/v1/images/generationsoch/v1/images/edits— bildgenerering och redigering/v1/videos/generations(eller/v1/videos),/v1/videos/editsoch/v1/videos/extensions— videogenerering, redigering och förlängning
Du kan till exempel skriva produktbeskrivningar och generera deras visuella innehåll i samma batch.
När ska du använda Batch API?
Batch API passar bra när resultatet kan vänta:
- Bulkbearbetning av data: klassificering, extraktion och sammanfattning av tusentals dokument
- Utvärderingar: kör tusentals testprompter genom en modell
- Datapipelines: berikning av databaser, moderering av innehållsköer och rapporter som förbereds över natten
Om ditt användningsfall kräver ett omedelbart svar (chattbot, assistent i realtid) är Batch API inte rätt val: det tjänar arbetsbelastningar där en fördröjning på några timmar är acceptabel.
Viktiga punkter
- Batch API bearbetar förfrågningar asynkront, de flesta på under 24 timmar, utan garanti
- 20 % rabatt på alla tokens för berättigade textmodeller; bilder och videor till standardpriser
- Arbetsflödet har fyra steg: skapa, lägg till, övervaka, hämta
- Text, bilder och videor kan samexistera i samma batch
- Batch-förfrågningar räknas inte mot hastighetsbegränsningar, men de passar inte för realtidsanvändning