OpenAI SDK mit xAI base_url
Auf dieser Seite
Aktualisiert am 3. November 2026. Laut der xAI-Referenz zu Chat Completions ist die Kompatibilität mit dem OpenAI SDK nicht „100 %” – mehrere Parameter werden von Reasoning-Modellen nicht unterstützt, von aktuellen Modellen ignoriert oder von keinem Modell unterstützt. Quelle: xAI, Chat Completions.
Das OpenAI SDK für den Zugriff auf Grok verwenden
Einer der größten Vorteile des xAI-Endpunkts Chat Completions ist seine Kompatibilität mit dem OpenAI SDK. Sie können das Ihnen bereits bekannte Paket openai verwenden und lediglich die base_url auf die xAI-Server ändern.
Dieser Ansatz ist ideal, wenn Sie eine bestehende Anwendung von OpenAI zu Grok migrieren oder mit minimalem Aufwand zwischen Anbietern wechseln möchten.
Konfiguration
Die Installation entspricht der jedes Projekts mit dem OpenAI SDK:
pip install openai
Der einzige Unterschied liegt bei der Erstellung des Clients, in der Sie die Basis-URL und den xAI-API-Schlüssel angeben:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
Die beiden wesentlichen Parameter sind:
api_key: Ihr xAI-API-Schlüssel (kein OpenAI-Schlüssel)base_url:https://api.x.ai/v1—this leitet die Anfragen an xAI statt an OpenAI um
Aufrufe identisch zu OpenAI
Sobald der Client konfiguriert ist, entspricht die Nutzung vollständig der des normalen OpenAI SDK – abgesehen von den Parametern, die xAI nicht unterstützt, siehe unten:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "Sie sind ein technischer Assistent."},
{"role": "user", "content": "Was ist der Unterschied zwischen TCP und UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Der einzige sichtbare Unterschied ist der Modellname: grok-4.20-0309-reasoning statt beispielsweise gpt-5.6.
Streaming mit dem OpenAI SDK
Streaming funktioniert exakt nach demselben Prinzip:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Erklären Sie das Konzept der Microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
Das OpenAI SDK für Node.js funktioniert auf dieselbe Weise:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: proces...KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "Sie sind ein hilfreicher Assistent." },
{ role: "user", content: "Hallo, wie geht es Ihnen?" },
],
});
console.log(response.choices[0].message.content);
Beachten Sie, dass die Eigenschaft in JavaScript baseURL (mit großem U) heißt, in Python hingegen base_url.
Zwischen Anbietern wechseln
Der Hauptvorteil dieses Ansatzes ist die Möglichkeit, Anbieter mit einer einzigen Variable zu wechseln:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Diese Multi-Provider-Architektur ist in Produktionsanwendungen verbreitet, die flexibel bleiben möchten.
Was zwischen Anbietern nicht übernommen wird
Kompatibel bedeutet nicht identisch. Die xAI-Referenz zum Endpoint markiert mehrere Parameter, die Reasoning-Modelle nicht unterstützen – frequency_penalty, presence_penalty (wie grok-3) und stop. logprobs und top_logprobs werden von grok-4.20 und neueren Modellen ohne Fehlermeldung ignoriert, logit_bias wird nicht unterstützt. Code, der diese Parameter für OpenAI setzt, muss sie für Grok entfernen. Still ignorierte Felder sind die tückischen, denn nichts zeigt an, dass sie wirkungslos sind. Auch die gehosteten Tools unterscheiden sich zwischen den Anbietern: die Websuche von OpenAI ist nicht die von xAI. Schließlich stuft xAI Chat Completions inzwischen als Legacy-Endpoint ein und empfiehlt die Responses API (Lektionen 11 und 12).
Kernaussagen
- Das OpenAI SDK funktioniert mit xAI, indem Sie einfach
base_urlaufhttps://api.x.ai/v1ändern - Methoden und Antwortformate sind identisch, doch einige Parameter werden nicht unterstützt (
frequency_penalty,presence_penalty,stopbei Reasoning-Modellen,logit_bias) oder ignoriert (logprobsabgrok-4.20) - Passen Sie API-Schlüssel, Modellname und nicht unterstützte Parameter an
- Dieser Ansatz vereinfacht die Migration von OpenAI und ermöglicht den Anbieterwechsel
- Streaming und die Typisierung des OpenAI SDK funktionieren; gehostete Tools sind jedem Anbieter eigen