OpenAI SDK s xAI base_url
Na ovoj stranici
Ažurirano 3. studenoga 2026. Prema referenci za xAI Chat Completions, kompatibilnost s OpenAI SDK-om nije „100 %“ – neki parametri nisu podržani kod modela za rezoniranje, ignoriraju ih najnoviji modeli ili ih ne podržava nijedan model. Izvor: xAI, Chat Completions.
Korištenje OpenAI SDK-a za pristup Groku
Jedna od glavnih prednosti xAI Chat Completions endpointa jest njegova kompatibilnost s OpenAI SDK-om. Možeš koristiti paket openai koji već poznaješ, uz jednostavnu promjenu base_url kako bi ukazivao na xAI poslužitelje.
Ovaj je pristup idealan ako migriraš postojeću aplikaciju s OpenAI na Grok ili ako želiš mijenjati pružatelje usluga uz minimalne izmjene.
Konfiguracija
Instalacija je ista kao i za bilo koji projekt koji koristi OpenAI SDK:
pip install openai
Jedina je razlika u stvaranju klijenta, gdje navodiš osnovni URL i xAI API ključ:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
Dva su ključna parametra:
api_key: Tvoj xAI API ključ (ne OpenAI ključ)base_url:https://api.x.ai/v1– ovo preusmjerava zahtjeve na xAI umjesto na OpenAI
Pozivi identični onima za OpenAI
Nakon što konfiguriraš klijenta, korištenje je isto kao i sa standardnim OpenAI SDK-om – osim za parametre koje xAI ne podržava, a koji su detaljno opisani u nastavku:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Jedina vidljiva razlika jest naziv modela: grok-4.20-0309-reasoning umjesto, primjerice, gpt-5.6.
Strujanje (Streaming) s OpenAI SDK-om
Strujanje funkcionira potpuno isto:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
OpenAI SDK za Node.js funkcionira na isti način:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Imaj na umu da je svojstvo u JavaScriptu baseURL (veliko slovo U), dok je u Pythonu base_url.
Prebacivanje između pružatelja usluga
Glavna je prednost ovog pristupa mogućnost promjene pružatelja usluga putem jedne varijable:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Ova arhitektura s više pružatelja usluga česta je u produkcijskim aplikacijama koje žele zadržati fleksibilnost.
Što se ne prenosi između pružatelja usluga
Kompatibilno ne znači i identično. Referenca za xAI endpoint ističe nekoliko parametara koje modeli za rezoniranje ne podržavaju – frequency_penalty, presence_penalty (kao kod grok-3) i stop. Parametri logprobs i top_logprobs ignoriraju se bez greške kod modela grok-4.20 i novijih, a logit_bias nije podržan. Kod koji postavlja ove parametre za OpenAI morat će ih ukloniti za Grok. Polja koja se tiho ignoriraju najproblematičnija su jer ništa ne signalizira da nemaju učinka. Hostirani alati također se razlikuju između pružatelja: OpenAI-jevo web pretraživanje nije isto što i xAI-jevo. Naposljetku, xAI sada Chat Completions klasificira kao zastarjeli endpoint i preporučuje Responses API (lekcije 11 i 12).
Ključne točke
- OpenAI SDK funkcionira s xAI-jem jednostavnom promjenom
base_urlnahttps://api.x.ai/v1 - Metode i formati odgovora isti su, ali neki parametri nisu podržani (
frequency_penalty,presence_penalty,stopkod modela za rezoniranje,logit_bias) ili se ignoriraju (logprobsodgrok-4.20nadalje) - Prilagodi API ključ, naziv modela i nepodržane parametre
- Ovaj pristup pojednostavljuje migraciju s OpenAI-ja i omogućuje prebacivanje između pružatelja usluga
- Strujanje i tipizacija OpenAI SDK-a funkcioniraju; hostirani su alati specifični za svakog pružatelja