Ir al contenido principal
Español— Elegir un idioma
Menú

Chat Completions y Responses en lotes

Lección 8 de 12 Actualizado el 3 de noviembre de 2026 Desarrollador
En esta página
  1. Los dos endpoints de texto en modo lote
  2. Responses en un lote
  3. Chat Completions en un lote
  4. Diferencias en modo lote
  5. Parámetros avanzados comunes
  6. Combinar los dos endpoints
  7. Puntos clave

Actualizado el 3 de noviembre de 2026. Según las mejores prácticas de xAI: se recomienda fijar temperature en 0,7 y top_p en 0,95, en lugar de usar una temperatura baja. Fuente: Best practices.

Actualizado el 2 de noviembre de 2026. Según la documentación de xAI: el descuento por lotes es del 20 % en modelos de texto elegibles (no del 50 %); los ejemplos siguen la API REST y el xai-sdk oficial (client.batch.*; la API de lotes de xAI no utiliza el formato de OpenAI, por lo que el SDK de OpenAI no aplica), y la API de Responses tiene prioridad sobre Chat Completions, que es un endpoint heredado en xAI. Fuentes: Batch API · REST Reference · Batch Pricing.

Los dos endpoints de texto en modo lote

Los endpoints /v1/responses y /v1/chat/completions gestionan la mayoría de los lotes de texto. En los modelos elegibles, ambos se benefician del descuento del 20 %. Sin embargo, xAI no los considera iguales: Responses es la API recomendada, mientras que Chat Completions es un endpoint heredado mantenido para código existente. Esta lección detalla sus particularidades en un contexto de procesamiento por lotes.

Responses en un lote

En modo lote, la API de Responses acepta los mismos parámetros que en modo síncrono; solo cambia la envoltura JSONL:

{"custom_id": "sum-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "instructions": "You are a summarization expert.", "input": "Summarize this financial report in five key points: ...", "temperature": 0.3, "max_output_tokens": 500}}

Proporciona acceso a las herramientas del servidor de Grok: búsqueda web, búsqueda en X, ejecución de código y MCP, las cuales se ejecutan durante el procesamiento por lotes:

{"custom_id": "research-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest trends in generative AI?"}], "tools": [{"type": "web_search"}]}}

Casos de uso típicos

  • Clasificación de texto (sentimiento, categoría, urgencia)
  • Extracción de información estructurada (entidades, fechas, importes)
  • Resúmenes, reformulaciones y traducciones a gran escala
  • Enriquecimiento de datos mediante búsqueda web

Chat Completions en un lote

Chat Completions sigue siendo aceptado, con su formato messages:

{"custom_id": "sum-2", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "system", "content": "You are a summarization expert."}, {"role": "user", "content": "Summarize this financial report in five key points: ..."}], "temperature": 0.3, "max_completion_tokens": 500}}

El límite de longitud se denomina max_completion_tokens; el antiguo max_tokens está obsoleto. Reserva este endpoint para solicitudes procedentes de código ya escrito para él: las nuevas funciones llegan primero a Responses.

Diferencias en modo lote

CaracterísticaResponsesChat Completions
Estado en xAIRecomendadoHeredado
Formato de entradainput (texto o lista de mensajes), instructionsmessages
Herramientas del servidorSí (web, X, código, MCP)No documentado
Llamada a funcionesSíSí
Salidas estructuradastext.formatresponse_format
Límite de salidamax_output_tokensmax_completion_tokens
Descuento por lotes (modelos elegibles)20 %20 %

Parámetros avanzados comunes

temperature oscila entre 0 y 2 en xAI, aunque los valores superiores a 1 se muestrean como 1. No obstante, las mejores prácticas de xAI recomiendan establecerlo en 0,7, con top_p en 0,95, y no desviarse mucho de esto: la consistencia en los lotes depende ante todo de instrucciones precisas y salidas estructuradas.

El límite de salida (max_output_tokens o max_completion_tokens) debe establecerse explícitamente: sin él, una solicitud puede generar una respuesta muy larga y consumir tokens innecesariamente. Se aplica solo al texto visible, no a los tokens de razonamiento.

Las salidas estructuradas imponen un esquema JSON a la respuesta, lo que hace que los resultados sean utilizables programáticamente sin necesidad de un análisis sintáctico frágil. Con Responses, el esquema va en text.format:

{"custom_id": "classify-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "Classify this comment: « Delivery fast, product as described. »", "text": {"format": {"type": "json_schema", "name": "classification", "schema": {"type": "object", "properties": {"sentiment": {"type": "string", "enum": ["positive", "neutral", "negative"]}}, "required": ["sentiment"], "additionalProperties": false}, "strict": true}}}}

Con Chat Completions, el equivalente es response_format, de tipo json_schema (o json_object para obtener JSON válido sin un esquema impuesto).

Combinar los dos endpoints

Puedes combinar Responses y Chat Completions en el mismo lote, designando cada línea su endpoint en el campo url:

{"custom_id": "simple-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "grok-4.3", "messages": [{"role": "user", "content": "Summarize in one sentence: ..."}]}}
{"custom_id": "search-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": "AI news this week", "tools": [{"type": "web_search"}]}}

Esta flexibilidad permite que las solicitudes antiguas de Chat Completions y las nuevas de Responses coexistan durante una migración.

Puntos clave

  • Responses es el endpoint recomendado; Chat Completions es un endpoint heredado; ambos se benefician del descuento del 20 % en modelos elegibles
  • Responses es obligatorio para usar herramientas del servidor (web, X, código, MCP)
  • Establece temperature en 0,7 y top_p en 0,95, como recomienda xAI, junto con un límite de salida adecuado
  • Las salidas estructuradas se configuran mediante text.format (Responses) o response_format (Chat Completions)
  • Ambos endpoints pueden coexistir en el mismo lote