Herramientas del servidor y llamada a funciones
En esta página
Curso actualizado el 2 de noviembre de 2026 según la documentación de xAI: el descuento por lotes es del 20 % en modelos de texto elegibles (no del 50 %), los ejemplos siguen la API REST y el
xai-sdkoficial (client.batch.*; la API de lotes de xAI no utiliza el formato de OpenAI, por lo que el SDK de OpenAI no es aplicable), y la API de Responses tiene prioridad sobre Chat Completions, un endpoint heredado en xAI. Fuentes: Batch API · REST Reference · Batch Pricing.
Enriquecimiento de lotes con herramientas
Las solicitudes por lotes no se limitan al texto plano. Las herramientas del servidor y la llamada a funciones también funcionan en modo asíncrono, con una distinción clave: las primeras se ejecutan durante el procesamiento por parte de xAI, mientras que las segundas devuelven el control a tu código.
Herramientas del lado del servidor
Las herramientas del servidor se ejecutan durante el procesamiento por lotes, exactamente igual que en tiempo real: Grok llama a la herramienta, recibe el resultado, lo integra en su razonamiento y el lote devuelve la respuesta final. Funcionan con la API de Responses.
Búsqueda web
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
En modo por lotes, la búsqueda web sirve para el enriquecimiento de datos: verificar información, recopilar hechos recientes o comparar perfiles con fuentes en línea.
Búsqueda en X
La herramienta x_search consulta publicaciones en X, lo cual es útil para rastrear el sentimiento sobre un tema o una marca:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Ejecución de código
Grok puede escribir y ejecutar código Python en un entorno aislado. En la API de Responses, la herramienta se llama code_interpreter (el SDK de xAI la denomina code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
La ejecución de código es relevante para cálculos exactos, estadísticas y transformaciones de datos que el modelo gestionaría con menos fiabilidad desde su memoria.
Servidores MCP remotos
La herramienta mcp conecta Grok a un servidor MCP remoto, descrito en la propia solicitud: no se requiere ninguna configuración previa de la cuenta. server_url y server_label son obligatorios; allowed_tools restringe las herramientas expuestas y authorization pasa un token al servidor. Solo se aceptan los transportes Streamable HTTP y SSE.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Sin allowed_tools, todas las definiciones de herramientas del servidor se inyectan en el contexto del modelo y se facturan como tokens de entrada en cada solicitud por lotes: en 50.000 solicitudes, restringir la lista compensa rápidamente.
Llamada a funciones del lado del cliente
La llamada a funciones es una herramienta del lado del cliente: Grok produce una llamada a función estructurada, pero tu código la ejecuta. En los lotes, el modelo devuelve estas llamadas en sus resultados para su procesamiento fuera de línea.
Definiciones de funciones
En la API de Responses, declara la función de forma plana, con name, description y parameters en el nivel superior. tool_choice: "required" obliga al modelo a llamar al menos a una herramienta, lo cual es adecuado para la extracción:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Procesamiento de resultados
Con el SDK, lee las llamadas a funciones en tool_calls de cada resultado exitoso:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
La llamada a funciones por lotes es ideal para la extracción estructurada: defines el esquema de datos, Grok lee los documentos y produce las llamadas, y tú las procesas en bloque.
Combinación de herramientas
Puedes combinar varias herramientas del servidor en una única solicitud:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok utiliza las herramientas en el orden que considera relevante: aquí, búsqueda web para obtener los datos y, a continuación, ejecución de código para el cálculo.
Limitaciones de las herramientas por lotes
- Las herramientas del servidor amplían el tiempo de procesamiento de cada solicitud y, por tanto, del lote.
- Las solicitudes con búsqueda dependen de lo que publiquen las fuentes en el momento del procesamiento, no en el momento del envío.
- La llamada a funciones realiza solo un viaje de ida y vuelta por solicitud: para continuar, debes enviar una nueva solicitud por lotes que contenga la conversación y los resultados de tu función.
- Las definiciones de herramientas MCP sin filtrar inflan cada solicitud.
Puntos clave
- Las herramientas del servidor (web, X, código, MCP) las ejecuta xAI durante el procesamiento a través de la API de Responses.
- Describe un servidor MCP en la solicitud (
server_url,server_label) sin necesidad de configuración previa. - La llamada a funciones devuelve llamadas estructuradas que tú ejecutas del lado del cliente.
- Un intercambio de varios turnos requiere una nueva solicitud por lotes por cada turno.
- Restringe las herramientas expuestas para evitar pagar por sus definiciones en cada solicitud.