Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

OpenAI SDK ar xAI base_url

Nodarbība 5 no 12 Atjaunota 2026. gada 3. novembris Programmētājs
Šajā lapā
  1. OpenAI SDK izmantošana piekļuvei Grok
  2. Konfigurācija
  3. Izsaukumi, kas identiski OpenAI
  4. Straumēšana ar OpenAI SDK
  5. JavaScript / TypeScript
  6. Pārslēgšanās starp sniedzējiem
  7. Kas netiek pārnestes starp sniedzējiem
  8. Galvenās atziņas

Atjaunināts 2026. gada 3. novembrī. Saskaņā ar xAI tērzēšanas pabeigšanu (Chat Completions) atsauces dokumentāciju saderība ar OpenAI SDK nav „100 %” — vairāki parametri netiek atbalstīti spriešanas modeļos, tiek ignorēti jaunākajos modeļos vai netiek atbalstīti nevienā modelī. Avots: xAI, Chat Completions.

OpenAI SDK izmantošana piekļuvei Grok

Viena no lielākajām xAI tērzēšanas pabeigšanu (Chat Completions) galapunkta priekšrocībām ir tā saderība ar OpenAI SDK. Tu vari izmantot jau iepazīto openai pakotni, vienkārši nomainot base_url, lai tas norādītu uz xAI serveriem.

Šī pieeja ir ideāla, ja migrē esošu lietotni no OpenAI uz Grok vai ja vēlies pārslēgties starp sniedzējiem ar minimālām izmaiņām.

Konfigurācija

Instalācija ir tāda pati kā jebkuram projektam, kas izmanto OpenAI SDK:

pip install openai

Vienīgā atšķirība ir klienta izveide, kur norādi bāzes URL un xAI API atslēgu:

from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

Divi būtiskākie parametri ir:

  • api_key: Tava xAI API atslēga (nevis OpenAI atslēga)
  • base_url: https://api.x.ai/v1 — tas novirza pieprasījumus uz xAI, nevis OpenAI

Izsaukumi, kas identiski OpenAI

Kad klients ir konfigurēts, lietojums ir tāds pats kā standarta OpenAI SDK — izņemot parametrus, kurus xAI neatbalsta un kas detalizēti aprakstīti tālāk:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.getenv("XAI_API_KEY"),
    base_url="https://api.x.ai/v1"
)

response = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "system", "content": "You are a technical assistant."},
        {"role": "user", "content": "What is the difference between TCP and UDP?"}
    ],
    temperature=0.7,
    max_tokens=1000
)

print(response.choices[0].message.content)

Vienīgā redzamā atšķirība ir modeļa nosaukums: grok-4.20-0309-reasoning instead of gpt-5.6, piemēram.

Straumēšana ar OpenAI SDK

Straumēšana darbojas tieši tāpat:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[
        {"role": "user", "content": "Explain the concept of microservices."}
    ],
    stream=True
)

for chunk in stream:
    content = chunk.choices[0].delta.content
    if content:
        print(content, end="", flush=True)

JavaScript / TypeScript

OpenAI SDK priekš Node.js darbojas tāpat:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.XAI_API_KEY,
  baseURL: "https://api.x.ai/v1",
});

const response = await client.chat.completions.create({
  model: "grok-4.20-0309-reasoning",
  messages: [
    { role: "system", content: "You are a helpful assistant." },
    { role: "user", content: "Hello, how are you?" },
  ],
});

console.log(response.choices[0].message.content);

Ņem vērā, ka JavaScript īpašība ir baseURL (lielais burts U), savukārt Python tā ir base_url.

Pārslēgšanās starp sniedzējiem

Galvenā šīs pieejas priekšrocība ir iespēja mainīt sniedzēju, izmanojot vienu mainīgo:

import os
from openai import OpenAI

provider = os.getenv("LLM_PROVIDER", "xai")

configs = {
    "xai": {
        "api_key": os.getenv("XAI_API_KEY"),
        "base_url": "https://api.x.ai/v1",
        "model": "grok-4.20-0309-reasoning"
    },
    "openai": {
        "api_key": os.getenv("OPENAI_API_KEY"),
        "base_url": "https://api.openai.com/v1",
        "model": "gpt-5.6"
    }
}

config = configs[provider]
client = OpenAI(api_key=config["api_key"], base_url=config["base_url"])

Šī vairāku sniedzēju arhitektūra ir izplatīta ražošanas lietotnēs, kas vēlas saglabāt elastību.

Kas netiek pārnestes starp sniedzējiem

Saderīgs nenozīmē identisks. xAI galapunkta atsauce norāda vairākus parametrus, kurus spriešanas modeļi neatbalsta — frequency_penalty, presence_penalty (tāpat kā grok-3) un stop. logprobs un top_logprobs tiek ignorēti bez kļūdas, sākot ar grok-4.20 un jaunākiem modeļiem, un logit_bias netiek atbalstīts. Kodam, kas iestata šos parametrus priekš OpenAI, būs jāsvītro tie priekš Grok. Klusi ignorēti lauki ir vismānīgākie, jo nekas neliecina, ka tiem nav efekta. Mitinātie rīki arī atšķiras starp sniedzējiem: OpenAI tīmekļa meklēšana nav xAI tīmekļa meklēšana. Visbeidzot, xAI tagad klasificē tērzēšanas pabeigšanu (Chat Completions) kā mantotu galapunktu un iesaka lietot atbilžu API (Responses API) (11. un 12. nodarbība).

Galvenās atziņas

  • OpenAI SDK strādā ar xAI, vienkārši nomainot base_url uz https://api.x.ai/v1
  • Metodes un atbilžu formāti ir vienādi, taču daži parametri netiek atbalstīti (frequency_penalty, presence_penalty, stop spriešanas modeļos, logit_bias) vai tiek ignorēti (logprobs, sākot ar grok-4.20)
  • Pielāgo API atslēgu, modeļa nosaukumu un neatbalstītos parametrus
  • Šī pieeja vienkāršo migrāciju no OpenAI un ļauj pārslēgties starp sniedzējiem
  • Straumēšana un OpenAI SDK tipēšana darbojas; mitinātie rīki ir specifiski katram sniedzējam