Премини към основното съдържание
Български— Изберете език
Меню

xAI SDK AsyncClient

Урок 1 от 12 Обновен 2 ноември 2026 г. Напреднало
На тази страница
  1. Защо да преминете към асинхронен режим
  2. Инициализиране на AsyncClient
  3. Изпращане на асинхронна заявка
  4. Разлика спрямо синхронния клиент
  5. Ключови изводи

Защо да преминете към асинхронен режим

Когато заявявате xAI API синхронно, всяко извикване блокира изпълнението на програмата Ви, докато не пристигне отговорът. За модел за разсъждения като grok-4.5, една единствена заявка може да отнеме няколко десетки секунди. Ако трябва да обработите 100 заявки, общото време за изчакване става непоносимо.

Асинхронният режим решава този проблем. Вместо да чакате за всеки отговор, Вашата програма стартира заявката и продължава изпълнението си. Вие извличате резултата по-късно, когато той стане наличен. Този подход Ви позволява да обработвате множество заявки паралелно и да използвате пълния капацитет на връзката си с API.

3600s
Препоръчителен таймаут
5x
Паралелна пропускателна способност
-50%
Алтернатива на Batch API
RPM
Лимит на скоростта, който трябва да спазвате

Инициализиране на AsyncClient

xAI SDK предоставя класа AsyncClient, предназначен специално за асинхронни извиквания. Инициализацията е подобна на тази при синхронния клиент, с параметър timeout, който винаги трябва да конфигурирате:

import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user

client = AsyncClient(
    api_key=os.getenv("XAI_API_KEY"),
    timeout=3600,
)

timeout=3600 е еквивалентно на един час. Тази стойност може да изглежда висока, но е необходима за моделите за разсъждения, които извършват продължителни логически операции, преди да отговорят. Твърде кратък таймаут води до грешки във връзката при сложни заявки.

Изпращане на асинхронна заявка

След като инициализирате клиента, изпращате заявки, използвайки синтаксиса await на Python:

import asyncio

async def ask_grok(question: str) -> str:
    chat = client.chat.create(
        model="grok-4.20-0309-reasoning",
        max_tokens=500
    )
    chat.append(user(question))
    response = await chat.sample()
    return response.text

# Точка на вход
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)

Функцията ask_grok използва async def, което я превръща в корутина. Извикването await chat.sample() спира тази корутина, докато не пристигне отговорът, без да блокира други потенциални задачи.

Разлика спрямо синхронния клиент

Синхронният клиент блокира текущата нишка за цялата продължителност на заявката. Асинхронният клиент освобождава нишката, за да изпълнява други корутини. Това разграничение няма значение, ако изпращате само една заявка, но става критично, когато обработвате множество заявки паралелно.

# Синхронно: всяко извикване чака за отговора
for question in questions:
    response = client.chat.completions.create(...)  # блокиращо
    process(response)

# Асинхронно: извикванията се изпълняват паралелно
async def main():
    tasks = [ask_grok(q) for q in questions]
    responses = await asyncio.gather(*tasks)  # паралелно
    for r in responses:
        process(r)

В синхронния пример, ако всяка заявка отнема 10 секунди и имате 20 такива, общото време е 200 секунди. В асинхронен режим със семафор от 5 (което ще откриете в следващите уроци), времето спада до около 40 секунди.

Ключови изводи

  • AsyncClient на xAI SDK Ви позволява да изпращате заявки без блокиране на изпълнението
  • Параметърът timeout=3600 е от съществено значение за моделите за разсъждения
  • xai-sdk изисква Python 3.10 или по-нова версия (версия 1.21.0 към 2 ноември 2026 г., според PyPI)
  • Реалната полза се проявява при обработката на множество заявки паралелно
  • asyncio.run() служи като точка на вход за изпълнение на корутина от синхронен код