xAI SDK AsyncClient
На тази страница
Защо да преминете към асинхронен режим
Когато заявявате xAI API синхронно, всяко извикване блокира изпълнението на програмата Ви, докато не пристигне отговорът. За модел за разсъждения като grok-4.5, една единствена заявка може да отнеме няколко десетки секунди. Ако трябва да обработите 100 заявки, общото време за изчакване става непоносимо.
Асинхронният режим решава този проблем. Вместо да чакате за всеки отговор, Вашата програма стартира заявката и продължава изпълнението си. Вие извличате резултата по-късно, когато той стане наличен. Този подход Ви позволява да обработвате множество заявки паралелно и да използвате пълния капацитет на връзката си с API.
Инициализиране на AsyncClient
xAI SDK предоставя класа AsyncClient, предназначен специално за асинхронни извиквания. Инициализацията е подобна на тази при синхронния клиент, с параметър timeout, който винаги трябва да конфигурирате:
import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user
client = AsyncClient(
api_key=os.getenv("XAI_API_KEY"),
timeout=3600,
)
timeout=3600 е еквивалентно на един час. Тази стойност може да изглежда висока, но е необходима за моделите за разсъждения, които извършват продължителни логически операции, преди да отговорят. Твърде кратък таймаут води до грешки във връзката при сложни заявки.
Изпращане на асинхронна заявка
След като инициализирате клиента, изпращате заявки, използвайки синтаксиса await на Python:
import asyncio
async def ask_grok(question: str) -> str:
chat = client.chat.create(
model="grok-4.20-0309-reasoning",
max_tokens=500
)
chat.append(user(question))
response = await chat.sample()
return response.text
# Точка на вход
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)
Функцията ask_grok използва async def, което я превръща в корутина. Извикването await chat.sample() спира тази корутина, докато не пристигне отговорът, без да блокира други потенциални задачи.
Разлика спрямо синхронния клиент
Синхронният клиент блокира текущата нишка за цялата продължителност на заявката. Асинхронният клиент освобождава нишката, за да изпълнява други корутини. Това разграничение няма значение, ако изпращате само една заявка, но става критично, когато обработвате множество заявки паралелно.
# Синхронно: всяко извикване чака за отговора
for question in questions:
response = client.chat.completions.create(...) # блокиращо
process(response)
# Асинхронно: извикванията се изпълняват паралелно
async def main():
tasks = [ask_grok(q) for q in questions]
responses = await asyncio.gather(*tasks) # паралелно
for r in responses:
process(r)
В синхронния пример, ако всяка заявка отнема 10 секунди и имате 20 такива, общото време е 200 секунди. В асинхронен режим със семафор от 5 (което ще откриете в следващите уроци), времето спада до около 40 секунди.
Ключови изводи
AsyncClientна xAI SDK Ви позволява да изпращате заявки без блокиране на изпълнението- Параметърът
timeout=3600е от съществено значение за моделите за разсъждения xai-sdkизисква Python 3.10 или по-нова версия (версия 1.21.0 към 2 ноември 2026 г., според PyPI)- Реалната полза се проявява при обработката на множество заявки паралелно
asyncio.run()служи като точка на вход за изпълнение на корутина от синхронен код