Concept van de Batch API
Op deze pagina
Bijgewerkt op 2 november 2026, gebaseerd op de documentatie van xAI: de batch-korting bedraagt 20% op in aanmerking komende tekstmodellen (niet 50%), de voorbeelden volgen de REST API en de officiële
xai-sdk(client.batch.*; de Batch API van xAI gebruikt niet het formaat van OpenAI, dus de OpenAI SDK is niet van toepassing), en de Responses API gaat vooraf aan Chat Completions, een verouderd eindpunt bij xAI. Bronnen: Batch API · REST-referentie · Batch-prijzen.
Asynchrone bulkverwerking
Met de Batch API van xAI kunt u duizenden verzoeken in één enkele bewerking verzenden en de resultaten ophalen zodra de verwerking is voltooid. In tegenstelling tot synchrone oproepen, waarbij u op elk antwoord wacht, werkt de batch-modus asynchroon: u dient een batch in, gaat door met uw werk en komt later terug voor de resultaten.
Deze aanpak speelt in op een reële behoefte. Wanneer u 10.000 artikelen moet samenvatten, 50.000 supporttickets moet classificeren of catalogusbeschrijvingen moet schrijven, zou het één voor één verzenden van verzoeken traag en duur zijn, en zou u tegen tariefslimieten (rate limits) aanlopen. Batch-verzoeken tellen niet mee voor deze limieten.
Een korting van 20% op in aanmerking komende modellen
Het economische voordeel is reëel, maar bescheidener dan sommige bronnen suggereren. xAI past een korting van 20% toe op batch-verzoeken voor zijn in aanmerking komende tekstmodellen—per 2 november 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 en de drie varianten van grok-4.20-0309—voor alle tokentypes: input, output, cache en reasoning. Modellen die niet op deze lijst staan, krijgen geen korting, zelfs niet als ze batch-verwerking accepteren.
Het genereren van afbeeldingen en video’s werkt wel in batch, maar tegen de standaardprijzen. Niet elk model accepteert batch: op de pagina van elk model staat vermeld of dit mogelijk is, en een verzoek aan een niet-in aanmerking komend model wordt geweigerd met het bericht not supported for batch processing.
Werkflow in vier stappen
De Batch API volgt een eenvoudig, voorspelbaar patroon:
- Maak een benoemde batch aan met
POST /v1/batches - Voeg verzoeken toe, hetzij via opeenvolgende oproepen, hetzij in één keer met een JSONL-bestand
- Bewaak de voortgang met behulp van de batch-tellers
- Haal de resultaten op zodra ze beschikbaar zijn of aan het einde
Deze werkflow ontkoppelt indiening van verwerking: u hoeft geen verbinding open te houden terwijl Grok aan het werk is. De meeste batches worden verwerkt in minder dan 24 uur, maar xAI garandeert dit niet: de doorlooptijd varieert afhankelijk van de belasting en de batch-grootte.
Ondersteunde eindpunten
De Batch API is niet beperkt tot tekst. Een enkele batch kan verzoeken mengen aan:
/v1/responses— de Responses API, met server-side tools (webzoekopdrachten, X-zoekopdrachten, code-uitvoering, MCP)/v1/chat/completions— de Chat Completions API, een verouderd eindpunt bij xAI/v1/images/generationsen/v1/images/edits— het genereren en bewerken van afbeeldingen/v1/videos/generations(of/v1/videos),/v1/videos/editsen/v1/videos/extensions— het genereren, bewerken en verlengen van video’s
U kunt bijvoorbeeld productbeschrijvingen schrijven en de bijbehorende visuals genereren in dezelfde batch.
Wanneer gebruikt u de Batch API?
De Batch API is een goede keuze wanneer het resultaat kan wachten:
- Bulkgegevensverwerking: classificatie, extractie en samenvatting van duizenden documenten
- Evaluaties: duizenden testprompts door een model laten lopen
- Gegevenspijplijnen: verrijking van databases, moderatie van een content-backlog en rapporten die ‘s nachts worden voorbereid
Als uw use case een onmiddellijk antwoord vereist (chatbot, realtime-assistent), is de Batch API niet geschikt: deze dient workloads waarbij een vertraging van enkele uren acceptabel is.
Belangrijkste punten
- De Batch API verwerkt verzoeken asynchroon, de meeste in minder dan 24 uur, zonder garantie
- 20% korting op alle tokens voor in aanmerking komende tekstmodellen; afbeeldingen en video’s tegen standaardprijzen
- De werkflow bestaat uit vier stappen: maken, toevoegen, bewaken, ophalen
- Tekst, afbeeldingen en video’s kunnen in dezelfde batch coëxisteren
- Batch-verzoeken tellen niet mee voor tariefslimieten, maar zijn niet geschikt voor realtime-toepassingen