Konzept der Batch API
Auf dieser Seite
Aktualisiert am 2. November 2026, basierend auf der Dokumentation von xAI: Der Batch-Rabatt beträgt 20 % für berechtigte Textmodelle (nicht 50 %), die Beispiele folgen dem REST-API-Standard und dem offiziellen
xai-sdk(client.batch.*; die Batch API von xAI verwendet kein OpenAI-Format, sodass das OpenAI SDK nicht anwendbar ist), und die Responses API geht der Chat Completions API voraus, einem Legacy-Endpunkt bei xAI. Quellen: Batch API · REST-Referenz · Batch-Preise.
Asynchrone Massenvverarbeitung
Die Batch API von xAI ermöglicht es Ihnen, Tausende von Anfragen in einer einzigen Operation zu senden und die Ergebnisse erst abzurufen, sobald die Verarbeitung abgeschlossen ist. Im Gegensatz zu synchronen Aufrufen, bei denen Sie auf jede Antwort warten müssen, funktioniert der Batch-Modus asynchron: Sie übermitteln einen Batch, arbeiten weiter und kommen später für die Ergebnisse zurück.
Dieser Ansatz adressiert einen echten Bedarf. Wenn Sie 10.000 Artikel zusammenfassen, 50.000 Support-Tickets klassifizieren oder Katalogbeschreibungen verfassen müssen, wäre das Senden von Anfragen einzeln langsam, teuer und würde Sie an Rate Limits stoßen. Batch-Anfragen zählen nicht zu diesen Limits.
20 % Rabatt für berechtigte Modelle
Der wirtschaftliche Vorteil ist real, aber bescheidener als einige Quellen nahelegen. xAI gewährt einen Rabatt von 20 % auf Batch-Anfragen für seine berechtigen Textmodelle – Stand 2. November 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 und die drei Varianten grok-4.20-0309 – für alle Token-Typen: Eingabe, Ausgabe, Cache und Reasoning. Modelle, die nicht in dieser Liste stehen, erhalten keinen Rabatt, auch wenn sie Batch-Anfragen akzeptieren.
Bild- und Videogenerierung laufen im Batch, jedoch zu Standardpreisen. Nicht jedes Modell akzeptiert Batch: Auf der Seite jedes Modells steht, ob dies der Fall ist, und eine Anfrage an ein nicht berechtiges Modell wird mit der Meldung not supported for batch processing abgelehnt.
Vierstufiger Arbeitsablauf
Die Batch API folgt einem einfachen, vorhersehbaren Muster:
- Erstellen Sie einen benannten Batch mit
POST /v1/batches - Fügen Sie Anfragen hinzu, entweder durch aufeinanderfolgende Aufrufe oder alle auf einmal mit einer JSONL-Datei
- Überwachen Sie den Fortschritt mithilfe der Batch-Zähler
- Rufen Sie die Ergebnisse ab, sobald sie verfügbar sind, oder am Ende
Dieser Arbeitsablauf entkoppelt die Übermittlung von der Verarbeitung: Sie müssen keine Verbindung offen halten, während Grok arbeitet. Die meisten Batches werden in weniger als 24 Stunden verarbeitet, doch xAI garantiert dies nicht: Die Bearbeitungszeit variiert je nach Last und Batch-Größe.
Unterstützte Endpunkte
Die Batch API ist nicht auf Text beschränkt. Ein einzelner Batch kann Anfragen an folgende Endpunkte mischen:
/v1/responses— die Responses API, mit serverseitigen Tools (Web-Suche, X-Suche, Codeausführung, MCP)/v1/chat/completions— die Chat Completions API, ein Legacy-Endpunkt bei xAI/v1/images/generationsund/v1/images/edits— Bildgenerierung und -bearbeitung/v1/videos/generations(oder/v1/videos),/v1/videos/editsund/v1/videos/extensions— Videogenerierung, -bearbeitung und -erweiterung
Beispielsweise können Sie Produktbeschreibungen verfassen und deren visuelle Darstellung im selben Batch generieren.
Wann die Batch API eingesetzt wird
Die Batch API eignet sich, wenn das Ergebnis warten kann:
- Massendatenverarbeitung: Klassifizierung, Extraktion und Zusammenfassung von Tausenden von Dokumenten
- Evaluierungen: Durchlaufen von Tausenden von Test-Prompts durch ein Modell
- Datenpipelines: Datenanreicherung einer Datenbank, Moderation eines Content-Backlogs und Nachtruhe-Berichte
Wenn Ihr Anwendungsfall eine sofortige Antwort erfordert (Chatbot, Echtzeit-Assistent), ist die Batch API nicht geeignet: Sie dient Workloads, bei denen eine Verzögerung von einigen Stunden akzeptabel ist.
Kernaussagen
- Die Batch API verarbeitet Anfragen asynchron, meist in weniger als 24 Stunden, ohne Garantie
- 20 % Rabatt auf alle Token für berechtigte Textmodelle; Bilder und Videos zu Standardpreisen
- Der Arbeitsablauf besteht aus vier Schritten: Erstellen, Hinzufügen, Überwachen, Abrufen
- Text, Bilder und Videos können im selben Batch koexistieren
- Batch-Anfragen zählen nicht zu den Rate Limits, sind aber für Echtzeitanwendungen nicht geeignet