OpenAI SDK xAI base_url címmel
Ezen az oldalon
Frissítve: 2026. november 3. Az xAI Chat Completions dokumentációja szerint az OpenAI SDK-val való kompatibilitás nem „100%-os“: több paramétert a következtető modellek nem támogatnak, a legújabb modellek figyelmen kívül hagynak, vagy egyetlen modell sem kezeli őket. Forrás: xAI, Chat Completions.
Az OpenAI SDK használata a Grok eléréséhez
Az xAI Chat Completions végpont egyik legnagyobb előnye az OpenAI SDK-val való kompatibilitás. Használhatod a már ismert openai csomagot, csupán a base_url értékét kell módosítanod, hogy az xAI szervereire mutasson.
Ez a megközelítés ideális, ha egy meglévő alkalmazást migrálsz az OpenAI-ról a Grokra, vagy ha minimális kód módosításával szeretnél váltani a szolgáltatók között.
Konfiguráció
A telepítés megegyezik bármely más, OpenAI SDK-t használó projekttel:
pip install openai
Az egyetlen különbség a kliens létrehozásánál van, ahol megadod a base URL-t és az xAI API-kulcsot:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
A két alapvető paraméter:
api_key: Az xAI API-kulcsod (nem OpenAI-kulcs)base_url:https://api.x.ai/v1– ez az OpenAI helyett az xAI felé irányítja a kéréseket
Az OpenAI-val megegyező hívások
Ha a klienst konfiguráltad, a használat ugyanaz, mint a szabványos OpenAI SDK esetén – kivéve azokat a paramétereket, amelyeket az xAI nem támogat (ezeket lentebb részletezzük):
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Az egyetlen látható különbség a modell neve: például grok-4.20-0309-reasoning a gpt-5.6 helyett.
Streamelés az OpenAI SDK-val
A streamelés pontosan ugyanúgy működik:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
A Node.js-hez készült OpenAI SDK ugyanígy működik:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Vedd figyelembe, hogy JavaScriptben a tulajdonság neve baseURL (nagy U-val), míg Pythonban base_url.
Váltás a szolgáltatók között
Ennek a megközelítésnek a fő előnye, hogy egyetlen változó módosításával váltani tudsz a szolgáltatók között:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Ez a több szolgáltatót támogató architektúra gyakori olyan éles alkalmazásoknál, amelyek rugalmasságot szeretnének biztosítani.
Ami nem vihető át a szolgáltatók között
A kompatibilitás nem jelent azonosságot. Az xAI végpont referenciája több olyan paramétert is kiemel, amelyet a következtető modellek nem támogatnak – ilyen a frequency_penalty, a presence_penalty (akárcsak a grok-3 esetén) és a stop. A logprobs és a top_logprobs paramétereket a grok-4.20 és újabb modellek hiba nélkül figyelmen kívül hagyják, a logit_bias pedig egyáltalán nem támogatott. Azokat a kódokat, amelyek ezeket a paramétereket az OpenAI számára állítják be, a Grok használatakor módosítani kell, és el kell távolítani ezeket a beállításokat. A csendesen figyelmen kívül hagyott mezők a legtrükkösebbek, mivel semmi sem jelzi, hogy nincs hatásuk. A hosztolt eszközök is szolgáltatófüggők: az OpenAI webes keresése nem egyenlő az xAI megoldásával. Végezetül: az xAI már elavult végpontként (legacy endpoint) kezeli a Chat Completions szolgáltatást, és helyette a Responses API használatát javasolja (lásd a 11. és 12. leckét).
Főbb megállapítások
- Az OpenAI SDK az xAI-lal is működik, csupán a
base_urlértékét kellhttps://api.x.ai/v1-re állítani - A metódusok és a válaszformátumok megegyeznek, de egyes paraméterek nem támogatottak (
frequency_penalty,presence_penalty,stopa következtető modelleknél,logit_bias), vagy figyelmen kívül maradnak (logprobsagrok-4.20verziótól kezdve) - Igazítsd hozzá az API-kulcsot, a modellnevét és a nem támogatott paramétereket
- Ez a megközelítés leegyszerűsíti az OpenAI-ról történő migrációt, és lehetővé teszi a szolgáltatók közötti váltást
- A streamelés és az OpenAI SDK típusai működnek; a hosztolt eszközök azonban szolgáltatóspecifikusak