Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

xAI SDK: client.chat.create

Lekce 4 z 12 Aktualizováno 3. listopadu 2026 Vývojář
Na této stránce
  1. Nativní xAI SDK
  2. Instalace a autentizace
  3. Konverzace, nikoliv požadavek
  4. Parametry generování
  5. Streamování odpovědí
  6. Zpracování chyb
  7. Asynchronní volání
  8. Klíčové poznatky

Aktualizováno 3. listopadu 2026. Předchozí verze předpokládala, že xai-sdk používá rozhraní OpenAI SDK: zprávy jako slovníky, response.choices[0].message.content, parametr stream=True a neexistující modul xai_sdk.errors. Se skutečným SDK (verze 1.21.0) tento kód selže již při prvním volání: ValueError: unknown enum label "user". Tato lekce nyní následuje oficiální README SDK a každý příklad byl spuštěn proti xAI API (s fiktivním klíčem pro ověření cesty volání a chyb). Zdroje: xAI Python SDK · Osvědčené postupy (xAI) · Ladění chyb (xAI).

Nativní xAI SDK

Oficiální xAI SDK pro Python, xai-sdk, nepoužívá koncový bod REST Chat Completions: jedná se o knihovnu gRPC se synchronním klientem (Client) a asynchronním klientem (AsyncClient) pro Python 3.10 a novější. Nesnaží se napodobovat OpenAI SDK, což je první věc, kterou musíš mít na paměti: jeho objekty, metody a chyby mají vlastní strukturu. Pokud chceš znovu použít kód napsaný pro OpenAI, další lekce ukáže druhou cestu: OpenAI SDK nakonfigurované pro xAI API.

Instalace a autentizace

pip install xai-sdk

Autentizace využívá API klíč vytvořený v konzoli xAI. Umísti jej do proměnné prostředí XAI_API_KEY, kterou klient automaticky načte:

export XAI_API_KEY="your-api-key"

Konverzace, nikoliv požadavek

S tímto SDK client.chat.create() nic neodesílá: vytváří objekt konverzace (chat), do kterého přidáváš zprávy pomocí append, a následně vyžádáš odpověď pomocí sample(). Zprávy se vytvářejí funkcemi system, user a assistant z modulu xai_sdk.chat, nikoliv jako slovníky.

from xai_sdk import Client
from xai_sdk.chat import system, user

client = Client()  # načte XAI_API_KEY

chat = client.chat.create(
    model="grok-4.7",
    messages=[system("You are a helpful assistant. Respond in French.")],
)
chat.append(user("Explain deep learning in 3 sentences."))

response = chat.sample()
print(response.content)

Odpověď zpřístupňuje svůj text přímo v response.content, vedle finish_reason, usage (spotřebované tokeny), reasoning_content pro modely, které jej poskytují, a citations, pokud bylo provedeno vyhledávání.

API zůstává bezstavové: objekt chat si za tebe uchovává historii. Pro vícekolovou konverzaci přidej odpověď do vlákna před další otázkou:

chat.append(response)
chat.append(user("Give a concrete example of an application."))
print(chat.sample().content)

Parametry generování

Parametry se předávají do client.chat.create() a platí pro celou konverzaci:

chat = client.chat.create(
    model="grok-4.7",
    messages=[system("Respond only in JSON.")],
    temperature=0.7,
    top_p=0.95,
    reasoning_effort="medium",
)
  • model: identifikátor modelu. xAI doporučuje grok-4.7 pro všechny účely.
  • messages: počáteční zprávy vytvořené pomocí system, user a assistant.
  • temperature: API přijímá hodnoty od 0 do 2, ale xAI je nad 1 ořezává na 1 a doporučuje 0,7 s top_p nastaveným na 0,95.
  • max_tokens: maximální počet generovaných tokenů. Osvědčené postupy xAI doporučují nastavit tuto hodnotu nad očekávanou délku nejdelší odpovědi, nebo ponechat výchozí hodnotu.
  • reasoning_effort: hloubka uvažování od none po high (a xhigh u některých modelů). Výchozí hodnota závisí na modelu: xAI doporučuje nastavit ji explicitně u každého požadavku a zaznamenávat ji u každého výsledku.
  • response_format, tools, tool_choice: strukturované výstupy a volání nástrojů, kterými se budeme zabývat později v kurzu.

Existuje také stop (až čtyři sekvence), ale osvědčené postupy xAI uvádějí, že modely pro uvažování jej nepřijímají, stejně jako presence_penalty a frequency_penalty.

Streamování odpovědí

xAI doporučuje streamování, zejména u modelů pro uvažování, jejichž odpovědi mohou dorazit až po dlouhé době. Nepoužívá se žádný parametr: konverzace nabízí druhou metodu, stream(), která v každém kroku vrací dvojici (response, chunk). chunk.content obsahuje textový fragment, který právě dorazil, a response během celého streamu akumuluje úplnou odpověď.

chat = client.chat.create(model="grok-4.7")
chat.append(user("Write a short article on generative AI."))

for response, chunk in chat.stream():
    print(chunk.content, end="", flush=True)
print()

chat.append(response)  # úplná odpověď se připojí k historii

Zpracování chyb

Protože SDK komunikuje přes gRPC, jeho chyby jsou typu grpc.RpcError (asynchronně grpc.aio.AioRpcError, které z nich dědí). Kód čteš pomocí .code() a zprávu pomocí .details():

import grpc
from xai_sdk import Client
from xai_sdk.chat import user

client = Client()
chat = client.chat.create(model="grok-4.7")
chat.append(user("Hello"))

try:
    response = chat.sample()
    print(response.content)
except grpc.RpcError as error:
    if error.code() == grpc.StatusCode.DEADLINE_EXCEEDED:
        print("Timeout exceeded: the request took too long.")
    else:
        print(f"Error {error.code().name}: {error.details()}")

Stojí za to znát tři typy chování. SDK automaticky opakuje požadavky, které selžou s chybou UNAVAILABLE, až pětkrát s rostoucím zpožděním; jeho README ukazuje, jak do tohoto seznamu přidat další kódy, například RESOURCE_EXHAUSTED, což je kód gRPC pro vyčerpané kvóty. Časový limit čekání je ve výchozím nastavení 27 minut pro jakýkoli požadavek a nastavuje se při vytvoření klienta (Client(timeout=…), v sekundách). Nesnižuj jej příliš: xAI radí plánovat alespoň 900 sekund na požadavek u svých modelů pro uvažování. Nakonec, neplatný API klíč se projeví kódem INVALID_ARGUMENT a zprávou „Incorrect API key provided“: to je to, co API vrací dnes, ověřeno 3. listopadu 2026.

Asynchronní volání

Pro aplikaci asyncio nahraď Client za AsyncClient. Vytvoření konverzace zůstává synchronní; čekají se pouze sample() a stream():

import asyncio

from xai_sdk import AsyncClient
from xai_sdk.chat import user


async def main():
    client = AsyncClient()
    chat = client.chat.create(model="grok-4.7")
    chat.append(user("Hello"))

    response = await chat.sample()
    print(response.content)

    chat.append(response)
    chat.append(user("Summarize your response in one sentence."))
    async for response, chunk in chat.stream():
        print(chunk.content, end="", flush=True)


asyncio.run(main())

Klíčové poznatky

  • xai-sdk je gRPC SDK s vlastním rozhraním: nepoužívá tvar ani objekty OpenAI SDK
  • client.chat.create() vytvoří konverzaci; chat.append(user(...)) přidá zprávu, chat.sample() vrátí odpověď, kterou čteš v response.content
  • Zprávy se vytvářejí pomocí system, user a assistant z xai_sdk.chat; slovníky způsobí selhání volání
  • Streamování používá chat.stream(), které vrací dvojice (response, chunk)
  • Chyby jsou typu grpc.RpcError; UNAVAILABLE se opakuje automaticky, výchozí časový limit je 27 minut