OpenAI SDK koos xAI base_url-iga
Sellel lehel
Uuendatud 3. novembril 2026. xAI vestluse lõpuleviimise (Chat Completions) dokumentatsiooni kohaselt ei ole ühilduvus OpenAI SDK-ga „100%“: mõned parameetrid ei toeta järeldusmudeleid, hiljutised mudelid eiravad neid või ükski mudel neid ei toeta. Allikas: xAI, Chat Completions.
OpenAI SDK kasutamine Grokile juurdepääsuks
Üks xAI vestluse lõpuleviimise lõpp-punkti peamisi eeliseid on selle ühilduvus OpenAI SDK-ga. Saad kasutada juba tuttavat openai paketti, muutes lihtsalt base_url-i, et see osutaks xAI serveritele.
See lähenemine on ideaalne, kui viid olemasolevat rakendust OpenAI-lt Grokile üle või soovid pakkujate vahetada minimaalsete muudatustega.
Konfigureerimine
Paigaldamine on sama mis igas OpenAI SDK-d kasutavas projektis:
pip install openai
Ainus erinevus on kliendi loomine, kus määrad baas-URL-i ja xAI API võtme:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
Kaks olulist parameetrit on:
api_key: Sinu xAI API võti (mitte OpenAI võti)base_url:https://api.x.ai/v1– see suunab päringud OpenAI asemel xAI-le
OpenAI-ga identsed väljakutsed
Kui klient on konfigureeritud, on kasutamine sama mis standardses OpenAI SDK-s – välja arvatud parameetrid, mida xAI ei toeta ja mida on kirjeldatud allpool:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Ainus nähtav erinevus on mudeli nimi: grok-4.20-0309-reasoning asemel näiteks gpt-5.6.
Voogedastus OpenAI SDK-ga
Voogedastus toimib täpselt samamoodi:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
Node.js-i OpenAI SDK toimib samamoodi:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Pane tähele, et JavaScriptis on omaduse nimi baseURL (suur U), samas kui Pythonis on see base_url.
Pakkujate vahetamine
Selle lähenemise peamine eelis on võimalus muuta pakkujat ühe muutujaga:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
See mitme pakkujaga arhitektuur on levinud tootmiskeskkonna rakendustes, mis soovivad säilitada paindlikkust.
Mis ei kandu pakkujate vahel üle
Ühilduvus ei tähenda identsust. xAI lõpp-punkti dokumentatsioon toob välja mitu parameetrit, mida järeldusmudelid ei toeta – frequency_penalty, presence_penalty (nagu grok-3 puhul) ja stop. logprobs ja top_logprobs eiratakse veata grok-4.20 ja uuemate mudelite poolt ning logit_bias ei ole toetatud. Kood, mis seab need parameetrid OpenAI jaoks, tuleb Groki jaoks eemaldada. Vaikimisi eiratavad väljad on kõige keerulisemad, kuna miski ei anna märku, et neil puudub mõju. Majutatud tööriistad erinevad samuti pakkujate lõikes: OpenAI veebiotsing ei ole xAI oma. Lõpuks liigitab xAI nüüd vestluse lõpuleviimise (Chat Completions) iganenuks lõpp-punktiks ja soovitab Responses API-t (tunnid 11 ja 12).
Peamised punktid
- OpenAI SDK töötab xAI-ga, muutes lihtsalt
base_url-i väärtusekshttps://api.x.ai/v1 - Meetodid ja vastuse vormingud on samad, kuid mõned parameetrid ei ole toetatud (
frequency_penalty,presence_penalty,stopjäreldusmudelitel,logit_bias) või eiratakse neid (logprobsalatesgrok-4.20-st) - Kohanda API võti, mudeli nimi ja mittetoetatud parameetrid
- See lähenemine lihtsustab üleminekut OpenAI-lt ja võimaldab pakkujate vahetamist
- Voogedastus ja OpenAI SDK tüüpimine toimivad; majutatud tööriistad on iga pakkuja jaoks spetsiifilised