xAI SDK AsyncClient
En esta página
Por qué cambiar a asíncrono
Cuando consultas la API de xAI de forma síncrona, cada llamada bloquea la ejecución de tu programa hasta que llega la respuesta. Para un modelo de razonamiento como grok-4.5, una única solicitud puede tardar varias decenas de segundos. Si necesitas procesar 100 solicitudes, el tiempo total de espera se vuelve prohibitivo.
El modo asíncrono resuelve este problema. En lugar de esperar a cada respuesta, tu programa lanza la solicitud y continúa con la ejecución. Recuperas el resultado más tarde, cuando esté disponible. Este enfoque te permite procesar múltiples solicitudes en paralelo y aprovechar al máximo tu ancho de banda hacia la API.
Inicializar el AsyncClient
El SDK de xAI proporciona la clase AsyncClient, dedicada a llamadas asíncronas. La inicialización es similar a la del cliente síncrono, con un parámetro timeout que debes configurar siempre:
import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user
client = AsyncClient(
api_key=os.getenv("XAI_API_KEY"),
timeout=3600,
)
timeout=3600 equivale a una hora. Este valor puede parecer elevado, pero es necesario para los modelos de razonamiento que realizan procesos extensos antes de responder. Un tiempo de espera demasiado corto provoca errores de caída de conexión en solicitudes complejas.
Enviar una solicitud asíncrona
Una vez inicializado el cliente, envías solicitudes utilizando la sintaxis await de Python:
import asyncio
async def ask_grok(question: str) -> str:
chat = client.chat.create(
model="grok-4.20-0309-reasoning",
max_tokens=500
)
chat.append(user(question))
response = await chat.sample()
return response.text
# Punto de entrada
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)
La función ask_grok utiliza async def, lo que la convierte en una corrutina. La llamada await chat.sample() suspende esta corrutina hasta que llega la respuesta, sin bloquear otras tareas potenciales.
Diferencia con el cliente síncrono
El cliente síncrono bloquea el hilo actual durante toda la duración de la solicitud. El cliente asíncrono libera el hilo para ejecutar otras corrutinas. Esta distinción no importa si solo envías una solicitud, pero se vuelve crítica cuando procesas múltiples solicitudes en paralelo.
# Síncrono: cada llamada espera la respuesta
for question in questions:
response = client.chat.completions.create(...) # bloqueo
process(response)
# Asíncrono: las llamadas se ejecutan en paralelo
async def main():
tasks = [ask_grok(q) for q in questions]
responses = await asyncio.gather(*tasks) # paralelo
for r in responses:
process(r)
En el ejemplo síncrono, si cada solicitud tarda 10 segundos y tienes 20, el tiempo total es de 200 segundos. En modo asíncrono, con un semáforo de 5 (que descubrirás en lecciones posteriores), el tiempo se reduce a unos 40 segundos.
Puntos clave
- El
AsyncClientdel SDK de xAI te permite enviar solicitudes sin bloquear la ejecución - El parámetro
timeout=3600es esencial para los modelos de razonamiento xai-sdkrequiere Python 3.10 o superior (versión 1.21.0 a 2 de noviembre de 2026, según PyPI)- El beneficio real aparece al procesar múltiples solicitudes en paralelo
asyncio.run()sirve como punto de entrada para ejecutar una corrutina desde código síncrono