OpenAI SDK med xAI base_url
På denne side
Opdateret 3. november 2026. Ifølge referencen for xAI Chat Completions er kompatibiliteten med OpenAI SDK ikke “100 %”. Flere parametre understøttes ikke af ræsonnementsmodeller, ignoreres af nyere modeller eller understøttes slet ikke af nogen model. Kilde: xAI, Chat Completions.
Brug af OpenAI SDK til at få adgang til Grok
En af de største fordele ved xAI Chat Completions-endepunktet er kompatibiliteten med OpenAI SDK. Du kan bruge den openai-pakke, du allerede kender, og blot ændre base_url, så den peger på xAI-serverne.
Denne tilgang er ideel, hvis du migrerer en eksisterende applikation fra OpenAI til Grok, eller hvis du ønsker at skifte mellem udbydere med minimale ændringer.
Konfiguration
Installationen er den samme som for ethvert projekt, der bruger OpenAI SDK:
pip install openai
Den eneste forskel ligger i oprettelsen af klienten, hvor du angiver base-URL’en og din xAI API-nøgle:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
De to essentielle parametre er:
api_key: Din xAI API-nøgle (ikke en OpenAI-nøgle)base_url:https://api.x.ai/v1– dette omdirigerer anmodninger til xAI i stedet for OpenAI
Kald, der er identiske med OpenAI
Når klienten er konfigureret, er brugen den samme som med standard OpenAI SDK – bortset fra de parametre, som xAI ikke understøtter, og som er beskrevet nedenfor:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Den eneste synlige forskel er modelnavnet: grok-4.20-0309-reasoning i stedet for f.eks. gpt-5.6.
Streaming med OpenAI SDK
Streaming fungerer præcis på samme måde:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
OpenAI SDK til Node.js fungerer på samme måde:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Bemærk, at egenskaben hedder baseURL (med stort U) i JavaScript, hvorimod den hedder base_url i Python.
Skift mellem udbydere
Den største fordel ved denne tilgang er muligheden for at skifte udbyder ved hjælp af en enkelt variabel:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Denne arkitektur med flere udbydere er almindelig i produktionsapplikationer, der ønsker at bevare fleksibilitet.
Hvad overføres ikke mellem udbydere
Kompatibel betyder ikke identisk. Referencen for xAI-endepunktet flagrer flere parametre, som ræsonnementsmodeller ikke understøtter – frequency_penalty, presence_penalty (ligesom grok-3) og stop. logprobs og top_logprobs ignoreres uden fejl af grok-4.20 og nyere modeller, og logit_bias understøttes ikke. Kode, der sætter disse parametre til OpenAI, skal fjerne dem til Grok. Felter, der ignoreres stille, er de sværeste at håndtere, da intet signalerer, at de ingen effekt har. Værktøjer hostet af udbyderen varierer også: OpenAIs websøgning er ikke det samme som xAIs. Endelig klassificerer xAI nu Chat Completions som et forældet endepunkt og anbefaler Responses API (lektion 11 og 12).
Vigtige pointer
- OpenAI SDK fungerer med xAI ved blot at ændre
base_urltilhttps://api.x.ai/v1 - Metoder og responsformater er de samme, men nogle parametre understøttes ikke (
frequency_penalty,presence_penalty,stoppå ræsonnementsmodeller,logit_bias) eller ignoreres (logprobsfragrok-4.20og fremefter) - Tilpas API-nøglen, modelnavnet og de parametre, der ikke understøttes
- Denne tilgang forenkler migration fra OpenAI og muliggør skift mellem udbydere
- Streaming og typning i OpenAI SDK fungerer; værktøjer hostet af udbyderen er specifikke for hver enkelt