OpenAI SDK с base_url на xAI
На тази страница
Обновено на 3 ноември 2026 г. Според справочната документация за Chat Completions на xAI, съвместимостта с OpenAI SDK не е „100%“ – няколко параметъра не се поддържат от моделите за разсъждаване, игнорират се от по-новите модели или не се поддържат от никой модел. Източник: xAI, Chat Completions.
Използване на OpenAI SDK за достъп до Grok
Едно от основните предимства на крайната точка (endpoint) за Chat Completions на xAI е нейната съвместимост с OpenAI SDK. Можете да използвате познатия вече пакет openai, като просто промените base_url, за да сочи към сървърите на xAI.
Този подход е идеален, ако мигрирате съществуващо приложение от OpenAI към Grok или ако искате да превключвате между доставчици с минимални промени.
Конфигурация
Инсталацията е същата като за всеки проект, използващ OpenAI SDK:
pip install openai
Единствената разлика е при създаването на клиента, където посочвате базовия URL и API ключа на xAI:
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
Двата основни параметъра са:
api_key: Вашият API ключ за xAI (не ключ на OpenAI)base_url:https://api.x.ai/v1– това пренасочва заявките към xAI вместо към OpenAI
Извиквания, идентични с тези на OpenAI
След като клиентът е конфигуриран, използването е същото като при стандартния OpenAI SDK – с изключение на параметрите, които xAI не поддържа и които са описани по-долу:
import os
from openai import OpenAI
client = OpenAI(
api_key=os.getenv("XAI_API_KEY"),
base_url="https://api.x.ai/v1"
)
response = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "system", "content": "You are a technical assistant."},
{"role": "user", "content": "What is the difference between TCP and UDP?"}
],
temperature=0.7,
max_tokens=1000
)
print(response.choices[0].message.content)
Единствената видима разлика е името на модела: grok-4.20-0309-reasoning вместо например gpt-5.6.
Стрийминг с OpenAI SDK
Стриймингът работи по абсолютно същия начин:
stream = client.chat.completions.create(
model="grok-4.20-0309-reasoning",
messages=[
{"role": "user", "content": "Explain the concept of microservices."}
],
stream=True
)
for chunk in stream:
content = chunk.choices[0].delta.content
if content:
print(content, end="", flush=True)
JavaScript / TypeScript
OpenAI SDK за Node.js работи по същия начин:
import OpenAI from "openai";
const client = new OpenAI({
apiKey: process.env.XAI_API_KEY,
baseURL: "https://api.x.ai/v1",
});
const response = await client.chat.completions.create({
model: "grok-4.20-0309-reasoning",
messages: [
{ role: "system", content: "You are a helpful assistant." },
{ role: "user", content: "Hello, how are you?" },
],
});
console.log(response.choices[0].message.content);
Имайте предвид, че в JavaScript свойството е baseURL (с главна буква U), докато в Python е base_url.
Превключване между доставчици
Основното предимство на този подход е възможността да смените доставчика чрез една единствена променлива:
import os
from openai import OpenAI
provider = os.getenv("LLM_PROVIDER", "xai")
configs = {
"xai": {
"api_key": os.getenv("XAI_API_KEY"),
"base_url": "https://api.x.ai/v1",
"model": "grok-4.20-0309-reasoning"
},
"openai": {
"api_key": os.getenv("OPENAI_API_KEY"),
"base_url": "https://api.openai.com/v1",
"model": "gpt-5.6"
}
}
config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])
Тази архитектура с множество доставчици е често срещана в производствените приложения, които искат да запазят гъвкавост.
Какво не се прехвърля между доставчиците
Съвместимостта не означава идентичност. Справочната документация на крайната точка на xAI посочва няколко параметъра, които моделите за разсъждаване не поддържат – frequency_penalty, presence_penalty (както при grok-3) и stop. logprobs и top_logprobs се игнорират без грешка от моделите grok-4.20 и по-нови, а logit_bias не се поддържа. Кодът, който задава тези параметри за OpenAI, ще трябва да ги премахне за Grok. Полетата, които се игнорират тихо, са най-коварни, тъй като нищо не сигнализира, че те нямат ефект. Интегрираните инструменти (hosted tools) също се различават между доставчиците: уеб търсенето на OpenAI не е същото като това на xAI. Накрая, xAI вече класифицира Chat Completions като остаряла крайна точка и препоръчва Responses API (уроци 11 и 12).
Ключови изводи
- OpenAI SDK работи с xAI чрез проста промяна на
base_urlнаhttps://api.x.ai/v1 - Методите и форматите на отговорите са същите, но някои параметри не се поддържат (
frequency_penalty,presence_penalty,stopпри моделите за разсъждаване,logit_bias) или се игнорират (logprobsотgrok-4.20нататък) - Адаптирайте API ключа, името на модела и неподдържаните параметри
- Този подход опростява миграцията от OpenAI и позволява превключване между доставчици
- Стриймингът и типизирането на OpenAI SDK функционират; интегрираните инструменти са специфични за всеки доставчик