OpenAI SDK su xAI base_url
Šiame puslapyje
Atnaujinta 2026 m. lapkričio 3 d. Pagal xAI „Chat Completions“ nuorodą, suderinamumas su OpenAI SDK nėra „100 %“ – keli parametrai nepalaikomi samprotavimo modelių, yra ignoruojami naujausių modelių arba nepalaikomi jokių modelių. Šaltinis: xAI, Chat Completions.
OpenAI SDK naudojimas prieigai prie Grok
Vienas iš pagrindinių xAI „Chat Completions“ galinio taško privalumų yra jo suderinamumas su OpenAI SDK. Gali naudoti jau pažįstamą openai paketą, tiesiog pakeisdamas base_url, kad jis nukreiptų į xAI serverius.
Šis būdas idealus, jei perkeli esamą programą iš OpenAI į Grok arba jei nori keisti tiekėjus atlikdamas minimalius pakeitimus.
Konfigūracija
Diegimas toks pats kaip ir bet kuriam projektui, naudojančiam OpenAI SDK:
pip install openai
Vienintelis skirtumas – kliento kūrimas, kuriame nurodai bazinį URL ir xAI API raktą:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
Du esminiai parametrai yra šie:
api_key: Tavo xAI API raktas (ne OpenAI raktas)base_url:https://api.x.ai/v1– tai nukreipia užklausas į xAI, o ne į OpenAI
Užklausos, identiškos OpenAI
Sukonfigūravus klientą, naudojimas yra toks pats kaip ir standartinio OpenAI SDK atveju, išskyrus toliau išvardytus parametrus, kurių xAI nepalaiko:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Vienintelis matomas skirtumas – modelio pavadinimas: grok-4.20-0309-reasoning vietoj, pavyzdžiui, gpt-5.6.
Transliavimas naudojant OpenAI SDK
Transliavimas veikia visiškai taip pat:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
OpenAI SDK „Node.js“ aplinkoje veikia taip pat:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Atkreipk dėmesį, kad JavaScript kalboje savybė vadinama baseURL (didžioji U), tuo tarpu Python kalboje ji yra base_url.
Perjungimas tarp tiekėjų
Pagrindinis šio metodo privalumas – galimybė pakeisti tiekėją naudojant vieną kintamąjį:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Ši kelių tiekėjų architektūra dažna gamybinėse programose, norinčiose išlaikyti lankstumą.
Kas neperkeliamą tarp tiekėjų
Suderinamumas nereiškia tapatumo. xAI galinio taško nuorodoje pažymimi keli parametrai, kurių samprotavimo modeliai nepalaiko – frequency_penalty, presence_penalty (kaip ir grok-3) bei stop. logprobs ir top_logprobs yra ignoruojami be klaidos grok-4.20 ir naujesniuose modeliuose, o logit_bias nepalaikomas. Kodas, nustatantis šiuos parametrus OpenAI, turės juos pašalinti naudojant Grok. Tyloje ignoruojami laukai yra pati kebliausia dalis, nes niekas nepraneša, kad jie neturi jokio poveikio. Prieglobos įrankiai taip pat skiriasi tarp tiekėjų: OpenAI žiniatinklio paieška nėra xAI paieška. Galiausiai, xAI dabar „Chat Completions“ klasifikuoja kaip pasenusį galinį tašką ir rekomenduoja naudoti „Responses API“ (11 ir 12 pamokos).
Svarbiausi punktai
- OpenAI SDK veikia su xAI tiesiog pakeitus
base_urlįhttps://api.x.ai/v1 - Metodai ir atsakymų formatai yra tie patys, tačiau kai kurie parametrai nepalaikomi (
frequency_penalty,presence_penalty,stopsamprotavimo modeliuose,logit_bias) arba yra ignoruojami (logprobsnuogrok-4.20versijos) - Pritaikyk API raktą, modelio pavadinimą ir nepalaikomus parametrus
- Šis būdas supaprastina migraciją iš OpenAI ir leidžia lengvai perjungti tiekėjus
- Transliavimas ir OpenAI SDK tipizavimas veikia; prieglobos įrankiai yra specifiniai kiekvienam tiekėjui