Ir al contenido principal
Español— Elegir un idioma
Menú

xAI SDK AsyncClient

Lección 1 de 12 Actualizado el 2 de noviembre de 2026 Avanzado
En esta página
  1. Por qué cambiar a asíncrono
  2. Inicializar el AsyncClient
  3. Enviar una solicitud asíncrona
  4. Diferencia con el cliente síncrono
  5. Puntos clave

Por qué cambiar a asíncrono

Cuando consultas la API de xAI de forma síncrona, cada llamada bloquea la ejecución de tu programa hasta que llega la respuesta. Para un modelo de razonamiento como grok-4.5, una única solicitud puede tardar varias decenas de segundos. Si necesitas procesar 100 solicitudes, el tiempo total de espera se vuelve prohibitivo.

El modo asíncrono resuelve este problema. En lugar de esperar a cada respuesta, tu programa lanza la solicitud y continúa con la ejecución. Recuperas el resultado más tarde, cuando esté disponible. Este enfoque te permite procesar múltiples solicitudes en paralelo y aprovechar al máximo tu ancho de banda hacia la API.

3600s
Tiempo de espera recomendado
5x
Rendimiento en paralelo
-50%
Alternativa a la API por lotes
RPM
Límite de tasa a respetar

Inicializar el AsyncClient

El SDK de xAI proporciona la clase AsyncClient, dedicada a llamadas asíncronas. La inicialización es similar a la del cliente síncrono, con un parámetro timeout que debes configurar siempre:

import os
from xai_sdk import AsyncClient
from xai_sdk.chat import user

client = AsyncClient(
    api_key=os.getenv("XAI_API_KEY"),
    timeout=3600,
)

timeout=3600 equivale a una hora. Este valor puede parecer elevado, pero es necesario para los modelos de razonamiento que realizan procesos extensos antes de responder. Un tiempo de espera demasiado corto provoca errores de caída de conexión en solicitudes complejas.

Enviar una solicitud asíncrona

Una vez inicializado el cliente, envías solicitudes utilizando la sintaxis await de Python:

import asyncio

async def ask_grok(question: str) -> str:
    chat = client.chat.create(
        model="grok-4.20-0309-reasoning",
        max_tokens=500
    )
    chat.append(user(question))
    response = await chat.sample()
    return response.text

# Punto de entrada
result = asyncio.run(ask_grok("Explain the algorithmic complexity of quicksort"))
print(result)

La función ask_grok utiliza async def, lo que la convierte en una corrutina. La llamada await chat.sample() suspende esta corrutina hasta que llega la respuesta, sin bloquear otras tareas potenciales.

Diferencia con el cliente síncrono

El cliente síncrono bloquea el hilo actual durante toda la duración de la solicitud. El cliente asíncrono libera el hilo para ejecutar otras corrutinas. Esta distinción no importa si solo envías una solicitud, pero se vuelve crítica cuando procesas múltiples solicitudes en paralelo.

# Síncrono: cada llamada espera la respuesta
for question in questions:
    response = client.chat.completions.create(...)  # bloqueo
    process(response)

# Asíncrono: las llamadas se ejecutan en paralelo
async def main():
    tasks = [ask_grok(q) for q in questions]
    responses = await asyncio.gather(*tasks)  # paralelo
    for r in responses:
        process(r)

En el ejemplo síncrono, si cada solicitud tarda 10 segundos y tienes 20, el tiempo total es de 200 segundos. En modo asíncrono, con un semáforo de 5 (que descubrirás en lecciones posteriores), el tiempo se reduce a unos 40 segundos.

Puntos clave

  • El AsyncClient del SDK de xAI te permite enviar solicitudes sin bloquear la ejecución
  • El parámetro timeout=3600 es esencial para los modelos de razonamiento
  • xai-sdk requiere Python 3.10 o superior (versión 1.21.0 a 2 de noviembre de 2026, según PyPI)
  • El beneficio real aparece al procesar múltiples solicitudes en paralelo
  • asyncio.run() sirve como punto de entrada para ejecutar una corrutina desde código síncrono