xAI SDK: client.chat.create
Na této stránce
Aktualizováno 3. listopadu 2026. Předchozí verze předpokládala, že
xai-sdkpoužívá rozhraní OpenAI SDK: zprávy jako slovníky,response.choices[0].message.content, parametrstream=Truea neexistující modulxai_sdk.errors. Se skutečným SDK (verze 1.21.0) tento kód selže již při prvním volání:ValueError: unknown enum label "user". Tato lekce nyní následuje oficiální README SDK a každý příklad byl spuštěn proti xAI API (s fiktivním klíčem pro ověření cesty volání a chyb). Zdroje: xAI Python SDK · Osvědčené postupy (xAI) · Ladění chyb (xAI).
Nativní xAI SDK
Oficiální xAI SDK pro Python, xai-sdk, nepoužívá koncový bod REST Chat Completions: jedná se o knihovnu gRPC se synchronním klientem (Client) a asynchronním klientem (AsyncClient) pro Python 3.10 a novější. Nesnaží se napodobovat OpenAI SDK, což je první věc, kterou musíš mít na paměti: jeho objekty, metody a chyby mají vlastní strukturu. Pokud chceš znovu použít kód napsaný pro OpenAI, další lekce ukáže druhou cestu: OpenAI SDK nakonfigurované pro xAI API.
Instalace a autentizace
pip install xai-sdk
Autentizace využívá API klíč vytvořený v konzoli xAI. Umísti jej do proměnné prostředí XAI_API_KEY, kterou klient automaticky načte:
export XAI_API_KEY="your-api-key"
Konverzace, nikoliv požadavek
S tímto SDK client.chat.create() nic neodesílá: vytváří objekt konverzace (chat), do kterého přidáváš zprávy pomocí append, a následně vyžádáš odpověď pomocí sample(). Zprávy se vytvářejí funkcemi system, user a assistant z modulu xai_sdk.chat, nikoliv jako slovníky.
from xai_sdk import Client
from xai_sdk.chat import system, user
client = Client() # načte XAI_API_KEY
chat = client.chat.create(
model="grok-4.7",
messages=[system("You are a helpful assistant. Respond in French.")],
)
chat.append(user("Explain deep learning in 3 sentences."))
response = chat.sample()
print(response.content)
Odpověď zpřístupňuje svůj text přímo v response.content, vedle finish_reason, usage (spotřebované tokeny), reasoning_content pro modely, které jej poskytují, a citations, pokud bylo provedeno vyhledávání.
API zůstává bezstavové: objekt chat si za tebe uchovává historii. Pro vícekolovou konverzaci přidej odpověď do vlákna před další otázkou:
chat.append(response)
chat.append(user("Give a concrete example of an application."))
print(chat.sample().content)
Parametry generování
Parametry se předávají do client.chat.create() a platí pro celou konverzaci:
chat = client.chat.create(
model="grok-4.7",
messages=[system("Respond only in JSON.")],
temperature=0.7,
top_p=0.95,
reasoning_effort="medium",
)
model: identifikátor modelu. xAI doporučujegrok-4.7pro všechny účely.messages: počáteční zprávy vytvořené pomocísystem,useraassistant.temperature: API přijímá hodnoty od 0 do 2, ale xAI je nad 1 ořezává na 1 a doporučuje 0,7 stop_pnastaveným na 0,95.max_tokens: maximální počet generovaných tokenů. Osvědčené postupy xAI doporučují nastavit tuto hodnotu nad očekávanou délku nejdelší odpovědi, nebo ponechat výchozí hodnotu.reasoning_effort: hloubka uvažování odnonepohigh(axhighu některých modelů). Výchozí hodnota závisí na modelu: xAI doporučuje nastavit ji explicitně u každého požadavku a zaznamenávat ji u každého výsledku.response_format,tools,tool_choice: strukturované výstupy a volání nástrojů, kterými se budeme zabývat později v kurzu.
Existuje také stop (až čtyři sekvence), ale osvědčené postupy xAI uvádějí, že modely pro uvažování jej nepřijímají, stejně jako presence_penalty a frequency_penalty.
Streamování odpovědí
xAI doporučuje streamování, zejména u modelů pro uvažování, jejichž odpovědi mohou dorazit až po dlouhé době. Nepoužívá se žádný parametr: konverzace nabízí druhou metodu, stream(), která v každém kroku vrací dvojici (response, chunk). chunk.content obsahuje textový fragment, který právě dorazil, a response během celého streamu akumuluje úplnou odpověď.
chat = client.chat.create(model="grok-4.7")
chat.append(user("Write a short article on generative AI."))
for response, chunk in chat.stream():
print(chunk.content, end="", flush=True)
print()
chat.append(response) # úplná odpověď se připojí k historii
Zpracování chyb
Protože SDK komunikuje přes gRPC, jeho chyby jsou typu grpc.RpcError (asynchronně grpc.aio.AioRpcError, které z nich dědí). Kód čteš pomocí .code() a zprávu pomocí .details():
import grpc
from xai_sdk import Client
from xai_sdk.chat import user
client = Client()
chat = client.chat.create(model="grok-4.7")
chat.append(user("Hello"))
try:
response = chat.sample()
print(response.content)
except grpc.RpcError as error:
if error.code() == grpc.StatusCode.DEADLINE_EXCEEDED:
print("Timeout exceeded: the request took too long.")
else:
print(f"Error {error.code().name}: {error.details()}")
Stojí za to znát tři typy chování. SDK automaticky opakuje požadavky, které selžou s chybou UNAVAILABLE, až pětkrát s rostoucím zpožděním; jeho README ukazuje, jak do tohoto seznamu přidat další kódy, například RESOURCE_EXHAUSTED, což je kód gRPC pro vyčerpané kvóty. Časový limit čekání je ve výchozím nastavení 27 minut pro jakýkoli požadavek a nastavuje se při vytvoření klienta (Client(timeout=…), v sekundách). Nesnižuj jej příliš: xAI radí plánovat alespoň 900 sekund na požadavek u svých modelů pro uvažování. Nakonec, neplatný API klíč se projeví kódem INVALID_ARGUMENT a zprávou „Incorrect API key provided“: to je to, co API vrací dnes, ověřeno 3. listopadu 2026.
Asynchronní volání
Pro aplikaci asyncio nahraď Client za AsyncClient. Vytvoření konverzace zůstává synchronní; čekají se pouze sample() a stream():
import asyncio
from xai_sdk import AsyncClient
from xai_sdk.chat import user
async def main():
client = AsyncClient()
chat = client.chat.create(model="grok-4.7")
chat.append(user("Hello"))
response = await chat.sample()
print(response.content)
chat.append(response)
chat.append(user("Summarize your response in one sentence."))
async for response, chunk in chat.stream():
print(chunk.content, end="", flush=True)
asyncio.run(main())
Klíčové poznatky
xai-sdkje gRPC SDK s vlastním rozhraním: nepoužívá tvar ani objekty OpenAI SDKclient.chat.create()vytvoří konverzaci;chat.append(user(...))přidá zprávu,chat.sample()vrátí odpověď, kterou čteš vresponse.content- Zprávy se vytvářejí pomocí
system,useraassistantzxai_sdk.chat; slovníky způsobí selhání volání - Streamování používá
chat.stream(), které vrací dvojice(response, chunk) - Chyby jsou typu
grpc.RpcError;UNAVAILABLEse opakuje automaticky, výchozí časový limit je 27 minut