Lähe põhisisu juurde
Eesti— Vali keel
Menüü

OpenAI SDK koos xAI base_url-iga

Õppetund 5 / 12 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. OpenAI SDK kasutamine Grokile juurdepääsuks
  2. Konfigureerimine
  3. OpenAI-ga identsed väljakutsed
  4. Voogedastus OpenAI SDK-ga
  5. JavaScript / TypeScript
  6. Pakkujate vahetamine
  7. Mis ei kandu pakkujate vahel üle
  8. Peamised punktid

Uuendatud 3. novembril 2026. xAI vestluse lõpuleviimise (Chat Completions) dokumentatsiooni kohaselt ei ole ühilduvus OpenAI SDK-ga „100%“: mõned parameetrid ei toeta järeldusmudeleid, hiljutised mudelid eiravad neid või ükski mudel neid ei toeta. Allikas: xAI, Chat Completions.

OpenAI SDK kasutamine Grokile juurdepääsuks

Üks xAI vestluse lõpuleviimise lõpp-punkti peamisi eeliseid on selle ühilduvus OpenAI SDK-ga. Saad kasutada juba tuttavat openai paketti, muutes lihtsalt base_url-i, et see osutaks xAI serveritele.

See lähenemine on ideaalne, kui viid olemasolevat rakendust OpenAI-lt Grokile üle või soovid pakkujate vahetada minimaalsete muudatustega.

Konfigureerimine

Paigaldamine on sama mis igas OpenAI SDK-d kasutavas projektis:

pip install openai

Ainus erinevus on kliendi loomine, kus määrad baas-URL-i ja xAI API võtme:

from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

Kaks olulist parameetrit on:

  • api_key: Sinu xAI API võti (mitte OpenAI võti)
  • base_url: https://api.x.ai/v1 – see suunab päringud OpenAI asemel xAI-le

OpenAI-ga identsed väljakutsed

Kui klient on konfigureeritud, on kasutamine sama mis standardses OpenAI SDK-s – välja arvatud parameetrid, mida xAI ei toeta ja mida on kirjeldatud allpool:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

response = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "system", "content": "You are a technical assistant."},
        {"role": "user", "content": "What is the difference between TCP and UDP?"}
    ],
    temperature=0.7,
    max_tokens=1000
)

print(response.choices[0].message.content)

Ainus nähtav erinevus on mudeli nimi: grok-4.20-0309-reasoning asemel näiteks gpt-5.6.

Voogedastus OpenAI SDK-ga

Voogedastus toimib täpselt samamoodi:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "user", "content": "Explain the concept of microservices."}
    ],
    stream=True
)

for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

JavaScript / TypeScript

Node.js-i OpenAI SDK toimib samamoodi:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.XAI_API_KEY,
  baseURL: "https://api.x.ai/v1",
});

const response = await client.chat.completions.create({
  model: "grok-4.20-0309-reasoning",
  messages: [
    { role: "system", content: "You are a helpful assistant." },
    { role: "user", content: "Hello, how are you?" },
  ],
});

console.log(response.choices[0].message.content);

Pane tähele, et JavaScriptis on omaduse nimi baseURL (suur U), samas kui Pythonis on see base_url.

Pakkujate vahetamine

Selle lähenemise peamine eelis on võimalus muuta pakkujat ühe muutujaga:

import os
from openai import OpenAI

provider = os.getenv("LLM_PROVIDER", "xai")

configs = {
    "xai": {
        "api_key": os.getenv("XAI_API_KEY"),
        "base_url": "https://api.x.ai/v1",
        "model": "grok-4.20-0309-reasoning"
    },
    "openai": {
        "api_key": os.getenv("OPENAI_API_KEY"),
        "base_url": "https://api.openai.com/v1",
        "model": "gpt-5.6"
    }
}

config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])

See mitme pakkujaga arhitektuur on levinud tootmiskeskkonna rakendustes, mis soovivad säilitada paindlikkust.

Mis ei kandu pakkujate vahel üle

Ühilduvus ei tähenda identsust. xAI lõpp-punkti dokumentatsioon toob välja mitu parameetrit, mida järeldusmudelid ei toeta – frequency_penalty, presence_penalty (nagu grok-3 puhul) ja stop. logprobs ja top_logprobs eiratakse veata grok-4.20 ja uuemate mudelite poolt ning logit_bias ei ole toetatud. Kood, mis seab need parameetrid OpenAI jaoks, tuleb Groki jaoks eemaldada. Vaikimisi eiratavad väljad on kõige keerulisemad, kuna miski ei anna märku, et neil puudub mõju. Majutatud tööriistad erinevad samuti pakkujate lõikes: OpenAI veebiotsing ei ole xAI oma. Lõpuks liigitab xAI nüüd vestluse lõpuleviimise (Chat Completions) iganenuks lõpp-punktiks ja soovitab Responses API-t (tunnid 11 ja 12).

Peamised punktid

  • OpenAI SDK töötab xAI-ga, muutes lihtsalt base_url-i väärtuseks https://api.x.ai/v1
  • Meetodid ja vastuse vormingud on samad, kuid mõned parameetrid ei ole toetatud (frequency_penalty, presence_penalty, stop järeldusmudelitel, logit_bias) või eiratakse neid (logprobs alates grok-4.20-st)
  • Kohanda API võti, mudeli nimi ja mittetoetatud parameetrid
  • See lähenemine lihtsustab üleminekut OpenAI-lt ja võimaldab pakkujate vahetamist
  • Voogedastus ja OpenAI SDK tüüpimine toimivad; majutatud tööriistad on iga pakkuja jaoks spetsiifilised