Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

OpenAI SDK su xAI base_url

Paskaita 5 iš 12 Atnaujinta 2026 m. lapkričio 3 d. Kūrėjas
Šiame puslapyje
  1. OpenAI SDK naudojimas prieigai prie Grok
  2. Konfigūracija
  3. Užklausos, identiškos OpenAI
  4. Transliavimas naudojant OpenAI SDK
  5. JavaScript / TypeScript
  6. Perjungimas tarp tiekėjų
  7. Kas neperkeliamą tarp tiekėjų
  8. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 3 d. Pagal xAI „Chat Completions“ nuorodą, suderinamumas su OpenAI SDK nėra „100 %“ – keli parametrai nepalaikomi samprotavimo modelių, yra ignoruojami naujausių modelių arba nepalaikomi jokių modelių. Šaltinis: xAI, Chat Completions.

OpenAI SDK naudojimas prieigai prie Grok

Vienas iš pagrindinių xAI „Chat Completions“ galinio taško privalumų yra jo suderinamumas su OpenAI SDK. Gali naudoti jau pažįstamą openai paketą, tiesiog pakeisdamas base_url, kad jis nukreiptų į xAI serverius.

Šis būdas idealus, jei perkeli esamą programą iš OpenAI į Grok arba jei nori keisti tiekėjus atlikdamas minimalius pakeitimus.

Konfigūracija

Diegimas toks pats kaip ir bet kuriam projektui, naudojančiam OpenAI SDK:

pip install openai

Vienintelis skirtumas – kliento kūrimas, kuriame nurodai bazinį URL ir xAI API raktą:

from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

Du esminiai parametrai yra šie:

  • api_key: Tavo xAI API raktas (ne OpenAI raktas)
  • base_url: https://api.x.ai/v1 – tai nukreipia užklausas į xAI, o ne į OpenAI

Užklausos, identiškos OpenAI

Sukonfigūravus klientą, naudojimas yra toks pats kaip ir standartinio OpenAI SDK atveju, išskyrus toliau išvardytus parametrus, kurių xAI nepalaiko:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

response = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "system", "content": "You are a technical assistant."},
        {"role": "user", "content": "What is the difference between TCP and UDP?"}
    ],
    temperature=0.7,
    max_tokens=1000
)

print(response.choices[0].message.content)

Vienintelis matomas skirtumas – modelio pavadinimas: grok-4.20-0309-reasoning vietoj, pavyzdžiui, gpt-5.6.

Transliavimas naudojant OpenAI SDK

Transliavimas veikia visiškai taip pat:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "user", "content": "Explain the concept of microservices."}
    ],
    stream=True
)

for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

JavaScript / TypeScript

OpenAI SDK „Node.js“ aplinkoje veikia taip pat:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.XAI_API_KEY,
  baseURL: "https://api.x.ai/v1",
});

const response = await client.chat.completions.create({
  model: "grok-4.20-0309-reasoning",
  messages: [
    { role: "system", content: "You are a helpful assistant." },
    { role: "user", content: "Hello, how are you?" },
  ],
});

console.log(response.choices[0].message.content);

Atkreipk dėmesį, kad JavaScript kalboje savybė vadinama baseURL (didžioji U), tuo tarpu Python kalboje ji yra base_url.

Perjungimas tarp tiekėjų

Pagrindinis šio metodo privalumas – galimybė pakeisti tiekėją naudojant vieną kintamąjį:

import os
from openai import OpenAI

provider = os.getenv("LLM_PROVIDER", "xai")

configs = {
    "xai": {
        "api_key": os.getenv("XAI_API_KEY"),
        "base_url": "https://api.x.ai/v1",
        "model": "grok-4.20-0309-reasoning"
    },
    "openai": {
        "api_key": os.getenv("OPENAI_API_KEY"),
        "base_url": "https://api.openai.com/v1",
        "model": "gpt-5.6"
    }
}

config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])

Ši kelių tiekėjų architektūra dažna gamybinėse programose, norinčiose išlaikyti lankstumą.

Kas neperkeliamą tarp tiekėjų

Suderinamumas nereiškia tapatumo. xAI galinio taško nuorodoje pažymimi keli parametrai, kurių samprotavimo modeliai nepalaiko – frequency_penalty, presence_penalty (kaip ir grok-3) bei stop. logprobs ir top_logprobs yra ignoruojami be klaidos grok-4.20 ir naujesniuose modeliuose, o logit_bias nepalaikomas. Kodas, nustatantis šiuos parametrus OpenAI, turės juos pašalinti naudojant Grok. Tyloje ignoruojami laukai yra pati kebliausia dalis, nes niekas nepraneša, kad jie neturi jokio poveikio. Prieglobos įrankiai taip pat skiriasi tarp tiekėjų: OpenAI žiniatinklio paieška nėra xAI paieška. Galiausiai, xAI dabar „Chat Completions“ klasifikuoja kaip pasenusį galinį tašką ir rekomenduoja naudoti „Responses API“ (11 ir 12 pamokos).

Svarbiausi punktai

  • OpenAI SDK veikia su xAI tiesiog pakeitus base_url į https://api.x.ai/v1
  • Metodai ir atsakymų formatai yra tie patys, tačiau kai kurie parametrai nepalaikomi (frequency_penalty, presence_penalty, stop samprotavimo modeliuose, logit_bias) arba yra ignoruojami (logprobs nuo grok-4.20 versijos)
  • Pritaikyk API raktą, modelio pavadinimą ir nepalaikomus parametrus
  • Šis būdas supaprastina migraciją iš OpenAI ir leidžia lengvai perjungti tiekėjus
  • Transliavimas ir OpenAI SDK tipizavimas veikia; prieglobos įrankiai yra specifiniai kiekvienam tiekėjui