Legacy-Status und das stateless-Prinzip
Auf dieser Seite
Aktualisiert am 3. November 2026 basierend auf den besten Praktiken von xAI: xAI klassifiziert Chat Completions nun als veraltet (deprecated) und empfiehlt die Responses API für Grok-Reasoning-Modelle. Der konkrete Grund: Das Format Chat Completions verfügt über kein Feld für die verschlüsselte Begründung des Modells. Daher geht bei jedem mehrstufigen Gespräch oder Tool-Aufruf die Begründung aus vorherigen Schritten verloren. Neue Funktionen werden ebenfalls zuerst über die Responses API eingeführt. Quellen: xAI Best Practices · Chat Completions (legacy).
Der Chat-Completions-Endpunkt im xAI-Ökosystem
Die xAI-API bietet zwei Hauptendpunkte zur Interaktion mit Grok-Modellen: die Responses API (primärer Endpunkt) und den Chat-Completions-Endpunkt. Letzterer ist als legacy (veraltet) gekennzeichnet: Er bleibt voll funktionsfähig, neue Funktionen werden jedoch nun priorisiert für die Responses API entwickelt.
Warum ist das dennoch relevant? Denn Chat Completions bleibt der am weitesten verbreitete Endpunkt im Ökosystem. Alle bestehenden OpenAI-SDKs, Frameworks wie LangChain oder LlamaIndex sowie Tausende von Tutorials nutzen dieses Format. Wenn Sie von einem anderen Anbieter migrieren oder mit Drittanbieter-Tools arbeiten, ist dies wahrscheinlich der Endpunkt, den Sie zuerst verwenden werden.
Ein stateless-Endpunkt: Senden Sie bei jedem Aufruf alles
Das grundlegende Prinzip von Chat Completions ist, dass er stateless ist: Der Server speichert keine Gesprächsverlaufdaten. Bei jedem Aufruf müssen Sie den gesamten Verlauf vorheriger Nachrichten in Ihrer Anfrage enthalten.
Konkret bedeutet dies, dass für ein Gespräch mit 10 Austauschschritten Ihre 11. Anfrage die 10 vorherigen Nachrichten (Benutzer + Assistent) sowie die neue Nachricht enthalten muss. Ihre Anwendung verwaltet diesen Verlauf.
{
"model": "grok-4.20-0309-reasoning",
"messages": [
{"role": "system", "content": "Sie sind ein hilfreicher Assistent."},
{"role": "user", "content": "Hallo!"},
{"role": "assistant", "content": "Hallo! Wie kann ich Ihnen helfen?"},
{"role": "user", "content": "Erklären Sie mir maschinelles Lernen."}
]
}
In diesem Beispiel repräsentieren die ersten drei Nachrichten den Gesprächsverlauf. Nur die letzte ist die neue Nachricht des Benutzers. Das Modell benötigt diesen gesamten Kontext, um eine kohärente Antwort zu generieren.
Praktische Auswirkungen
Dieser stateless-Ansatz hat mehrere Konsequenzen:
- Vollständige Kontrolle: Sie entscheiden genau, welche Nachrichten an das Modell gesendet werden. Sie können den Verlauf vor jedem Aufruf filtern, zusammenfassen oder modifizieren.
- Proportionale Kosten: Jeder Aufruf wird für alle gesendeten Tokens berechnet, einschließlich des Verlaufs. Je länger das Gespräch, desto teurer wird jeder einzelne Austausch.
- Keine Server-Persistenz: Es werden keine Daten zwischen den Anfragen auf der xAI-Seite gespeichert. Dies ist ein Vorteil für die Privatsphäre, erfordert aber, dass Sie die Persistenz selbst verwalten.
Vergleich mit der Responses API
Die Responses API ist hingegen stateful: Sie speichert den Verlauf serverseitig über previous_response_id. Sie müssen vorherige Nachrichten nicht erneut senden – ein einfacher Identifikator genügt. Antworten können mit store: true bis zu 30 Tage gespeichert werden.
Die Wahl zwischen den beiden hängt von Ihrem Anwendungsfall ab. Wenn Sie mit einem bestehenden OpenAI-SDK arbeiten oder von einem anderen Anbieter migrieren, ist Chat Completions der logische Ausgangspunkt. Für ein neues Projekt wird die Responses API empfohlen.
Kernaussagen
- Chat Completions ist als legacy gekennzeichnet, bleibt jedoch voll funktionsfähig und kompatibel mit dem OpenAI-Ökosystem.
- Der Endpunkt ist stateless: Sie müssen bei jedem Aufruf den gesamten Verlauf erneut senden.
- Die Kosten eines Aufrufs umfassen alle Tokens des Verlaufs.
- Die Responses API bietet eine stateful-Alternative mit serverseitiger Persistenz.
- Für Reasoning-Modelle wird eine Timeout-Dauer von 3600 Sekunden empfohlen.