Concepto de la API por lotes
En esta página
Actualizado el 2 de noviembre de 2026, según la documentación de xAI: el descuento por lotes es del 20 % en los modelos de texto elegibles (no del 50 %), los ejemplos siguen la API REST y el
xai-sdkoficial (client.batch.*; la API por lotes de xAI no utiliza el formato de OpenAI, por lo que el SDK de OpenAI no es aplicable), y la API de Responses tiene prioridad sobre Chat Completions, un punto de acceso heredado en xAI. Fuentes: API por lotes · Referencia REST · Precios por lotes.
Procesamiento masivo asíncrono
La API por lotes de xAI te permite enviar miles de solicitudes en una única operación y recuperar los resultados una vez finalizado el procesamiento. A diferencia de las llamadas síncronas, donde debes esperar cada respuesta, el modo por lotes funciona de forma asíncrona: envías un lote, continúas trabajando y recuperas los resultados más tarde.
Este enfoque responde a una necesidad real. Cuando necesitas resumir 10.000 artículos, clasificar 50.000 tickets de soporte o redactar descripciones de catálogo, enviar solicitudes una a una sería lento, costoso y te haría chocar con los límites de tasa. Las solicitudes por lotes no cuentan para esos límites.
Un descuento del 20 % en modelos elegibles
La ventaja económica es real, pero más modesta de lo que sugieren algunas fuentes. xAI aplica un descuento del 20 % a las solicitudes por lotes para sus modelos de texto elegibles —a fecha de 2 de noviembre de 2026: grok-4.7, grok-4.6, grok-4.5, grok-4.3 y las tres variantes de grok-4.20-0309—, en todos los tipos de tokens: entrada, salida, caché y razonamiento. Los modelos que no figuran en esta lista no obtienen descuento, incluso si aceptan procesamiento por lotes.
La generación de imágenes y vídeo se ejecuta por lotes, pero con la tarifa estándar. No todos los modelos aceptan lotes: la página de cada modelo indica si lo hace, y una solicitud dirigida a un modelo no elegible será rechazada con el mensaje not supported for batch processing.
Flujo de trabajo en cuatro pasos
La API por lotes sigue un patrón sencillo y predecible:
- Crear un lote con nombre mediante
POST /v1/batches - Añadir solicitudes, ya sea mediante llamadas sucesivas o todas a la vez con un archivo JSONL
- Supervisar el progreso usando los contadores del lote
- Recuperar los resultados a medida que estén disponibles o al finalizar
Este flujo de trabajo desacopla el envío del procesamiento: no necesitas mantener una conexión abierta mientras Grok trabaja. La mayoría de los lotes se procesan en menos de 24 horas, pero xAI no lo garantiza: el tiempo de respuesta varía según la carga y el tamaño del lote.
Puntos de acceso compatibles
La API por lotes no se limita al texto. Un único lote puede mezclar solicitudes a:
/v1/responses— la API de Responses, con herramientas del lado del servidor (búsqueda web, búsqueda en X, ejecución de código, MCP)/v1/chat/completions— la API de Chat Completions, un punto de acceso heredado en xAI/v1/images/generationsy/v1/images/edits— generación y edición de imágenes/v1/videos/generations(o/v1/videos),/v1/videos/editsy/v1/videos/extensions— generación, edición y extensión de vídeo
Por ejemplo, puedes redactar descripciones de productos y generar sus elementos visuales en el mismo lote.
Cuándo usar la API por lotes
La API por lotes es adecuada siempre que el resultado pueda esperar:
- Procesamiento masivo de datos: clasificación, extracción y resumen de miles de documentos
- Evaluaciones: ejecutar miles de indicaciones de prueba a través de un modelo
- Canalizaciones de datos: enriquecimiento de bases de datos, moderación de una cola de contenidos e informes preparados durante la noche
Si tu caso de uso requiere una respuesta inmediata (chatbot, asistente en tiempo real), la API por lotes no es adecuada: está diseñada para cargas de trabajo donde un retraso de unas horas es aceptable.
Puntos clave
- La API por lotes procesa solicitudes de forma asíncrona, la mayoría en menos de 24 horas, sin garantía
- Descuento del 20 % en todos los tokens para modelos de texto elegibles; imágenes y vídeos a precio estándar
- El flujo de trabajo tiene cuatro pasos: crear, añadir, supervisar, recuperar
- Texto, imágenes y vídeos pueden coexistir en el mismo lote
- Las solicitudes por lotes no cuentan para los límites de tasa, pero no son aptas para tiempo real