Chat Completions y Responses en lotes
En esta página
Actualizado el 3 de noviembre de 2026. Según las mejores prácticas de xAI: se recomienda fijar
temperatureen 0,7 ytop_pen 0,95, en lugar de usar una temperatura baja. Fuente: Best practices.
Actualizado el 2 de noviembre de 2026. Según la documentación de xAI: el descuento por lotes es del 20 % en modelos de texto elegibles (no del 50 %); los ejemplos siguen la API REST y el
xai-sdkoficial (client.batch.*; la API de lotes de xAI no utiliza el formato de OpenAI, por lo que el SDK de OpenAI no aplica), y la API de Responses tiene prioridad sobre Chat Completions, que es un endpoint heredado en xAI. Fuentes: Batch API · REST Reference · Batch Pricing.
Los dos endpoints de texto en modo lote
Los endpoints /v1/responses y /v1/chat/completions gestionan la mayoría de los lotes de texto. En los modelos elegibles, ambos se benefician del descuento del 20 %. Sin embargo, xAI no los considera iguales: Responses es la API recomendada, mientras que Chat Completions es un endpoint heredado mantenido para código existente. Esta lección detalla sus particularidades en un contexto de procesamiento por lotes.
Responses en un lote
En modo lote, la API de Responses acepta los mismos parámetros que en modo síncrono; solo cambia la envoltura JSONL:
{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}
Proporciona acceso a las herramientas del servidor de Grok: búsqueda web, búsqueda en X, ejecución de código y MCP, las cuales se ejecutan durante el procesamiento por lotes:
{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}
Casos de uso típicos
- Clasificación de texto (sentimiento, categoría, urgencia)
- Extracción de información estructurada (entidades, fechas, importes)
- Resúmenes, reformulaciones y traducciones a gran escala
- Enriquecimiento de datos mediante búsqueda web
Chat Completions en un lote
Chat Completions sigue siendo aceptado, con su formato messages:
{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}
El límite de longitud se denomina max_completion_tokens; el antiguo max_tokens está obsoleto. Reserva este endpoint para solicitudes procedentes de código ya escrito para él: las nuevas funciones llegan primero a Responses.
Diferencias en modo lote
| Característica | Responses | Chat Completions |
|---|---|---|
| Estado en xAI | Recomendado | Heredado |
| Formato de entrada | input (texto o lista de mensajes), instructions | messages |
| Herramientas del servidor | Sí (web, X, código, MCP) | No documentado |
| Llamada a funciones | Sí | Sí |
| Salidas estructuradas | text.format | response_format |
| Límite de salida | max_output_tokens | max_completion_tokens |
| Descuento por lotes (modelos elegibles) | 20 % | 20 % |
Parámetros avanzados comunes
temperature oscila entre 0 y 2 en xAI, aunque los valores superiores a 1 se muestrean como 1. No obstante, las mejores prácticas de xAI recomiendan establecerlo en 0,7, con top_p en 0,95, y no desviarse mucho de esto: la consistencia en los lotes depende ante todo de instrucciones precisas y salidas estructuradas.
El límite de salida (max_output_tokens o max_completion_tokens) debe establecerse explícitamente: sin él, una solicitud puede generar una respuesta muy larga y consumir tokens innecesariamente. Se aplica solo al texto visible, no a los tokens de razonamiento.
Las salidas estructuradas imponen un esquema JSON a la respuesta, lo que hace que los resultados sean utilizables programáticamente sin necesidad de un análisis sintáctico frágil. Con Responses, el esquema va en text.format:
{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}
Con Chat Completions, el equivalente es response_format, de tipo json_schema (o json_object para obtener JSON válido sin un esquema impuesto).
Combinar los dos endpoints
Puedes combinar Responses y Chat Completions en el mismo lote, designando cada línea su endpoint en el campo url:
{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}
Esta flexibilidad permite que las solicitudes antiguas de Chat Completions y las nuevas de Responses coexistan durante una migración.
Puntos clave
- Responses es el endpoint recomendado; Chat Completions es un endpoint heredado; ambos se benefician del descuento del 20 % en modelos elegibles
- Responses es obligatorio para usar herramientas del servidor (web, X, código, MCP)
- Establece
temperatureen 0,7 ytop_pen 0,95, como recomienda xAI, junto con un límite de salida adecuado - Las salidas estructuradas se configuran mediante
text.format(Responses) oresponse_format(Chat Completions) - Ambos endpoints pueden coexistir en el mismo lote