Serververktyg och funktionsanrop
På denna sida
Kursen uppdaterad 2 november 2026 baserat på xAI:s dokumentation: rabatten för batch är 20 % på berättigade textmodeller (inte 50 %), exemplen följer REST API:t och den officiella
xai-sdk(client.batch.*; xAI:s Batch API använder inte OpenAI:s format, OpenAI SDK gäller inte), och Responses API har företräde framför Chat Completions, som är en föråldrad slutpunkt hos xAI. Källor: Batch API · REST-referens · Batch-prissättning.
Berika batchar med verktyg
Batchförfrågningar är inte begränsade till ren text. Serververktyg och funktionsanrop fungerar även i asynkront läge, med en viktig skillnad: de förra körs under bearbetningen av xAI, medan de senare lämnar tillbaka kontrollen till dig.
Serversidiga verktyg
Serversidiga verktyg körs under batchbearbetningen, exakt som i realtid: Grok anropar verktyget, tar emot resultatet, integrerar det i sin resonemangsförmåga och batchen returnerar det slutgiltiga svaret. De fungerar med Responses API.
Webbsökning
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
I batch-läge tjänar webbsökning som databerikning: verifiering av information, insamling av senaste fakta och jämförelse av profiler med onlinekällor.
X-sökning
Verktyget x_search frågar inlägg på X, vilket är användbart för att spåra sentiment kring ett ämne eller ett varumärke:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Kodexekvering
Grok kan skriva och exekvera Python-kod i en isolerad miljö. I Responses API kallas verktyget code_interpreter (xAI SDK namnger det code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Kodexekvering är relevant för exakta beräkningar, statistik och datatransformationer som modellen skulle hantera mindre tillförlitligt från minnet.
Fjärr-MCP-servrar
Verktyget mcp kopplar Grok till en fjärr-MCP-server som beskrivs direkt i förfrågan: ingen tidigare kontokonfiguration krävs. server_url och server_label är obligatoriska; allowed_tools begränsar vilka verktyg som exponeras och authorization skickar en token till servern. Endast transporterna Streamable HTTP och SSE accepteras.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Utan allowed_tools injiceras alla verktygsdefinitioner från servern i modellens kontext och debiteras som inmatningstokens vid varje batchförfrågan: vid 50 000 förfrågningar lönar det sig snabbt att begränsa listan.
Klientsidiga funktionsanrop
Funktionsanrop är ett klientsidigt verktyg: Grok producerar ett strukturerat funktionsanrop, men din kod exekverar det. I batch returnerar modellen dessa anrop i sina resultat för offline-bearbetning.
Funktionsdefinitioner
I Responses API deklarerar du funktionen plant, med name, description och parameters på toppnivå. tool_choice: "required" tvingar modellen att anropa minst ett verktyg, vilket passar extraktion:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Bearbeta resultat
Med SDK:t läser du funktionsanropen i tool_calls för varje lyckat resultat:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Batch-funktionsanrop är idealiska för strukturerad extraktion: du definierar dataschemat, Grok läser dokumenten och producerar anropen, sedan bearbetar du dem i bulk.
Kombinera verktyg
Du kan kombinera flera serversidiga verktyg i en enda förfrågan:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok använder verktygen i den ordning den anser relevant: här webbsökning för att hämta data, sedan kodexekvering för beräkningen.
Begränsningar för batchverktyg
- Serversidiga verktyg förlänger bearbetningstiden för varje förfrågan och därmed hela batchen
- Förfrågningar med sökning beror på vad källor publicerar vid bearbetningstillfället, inte vid inlämningstillfället
- Funktionsanrop gör endast en tur och retur per förfrågan: för att fortsätta måste du skicka en ny batchförfrågan som innehåller konversationen och dina funktionsresultat
- Ofiltrerade MCP-verktygsdefinitioner sväller varje förfrågan
Viktiga punkter
- Serversidiga verktyg (webb, X, kod, MCP) körs av xAI under bearbetningen via Responses API
- Beskriv en MCP-server i förfrågan (
server_url,server_label) utan tidigare konfiguration - Funktionsanrop returnerar strukturerade anrop som du exekverar klientsidigt
- Ett flerstegsutbyte kräver en ny batchförfrågan per steg
- Begränsa exponerade verktyg för att undvika att betala för deras definitioner vid varje förfrågan