Servertools en Function Calling
Op deze pagina
Cursus bijgewerkt op 2 november 2026 op basis van de xAI-documentatie: de batch-korting bedraagt 20% op in aanmerking komende tekstmodellen (niet 50%), de voorbeelden volgen de REST API en de officiële
xai-sdk(client.batch.*; de Batch API van xAI gebruikt niet het formaat van OpenAI, de OpenAI SDK is niet van toepassing), en de Responses API heeft voorrang boven Chat Completions, een verouderd eindpunt bij xAI. Bronnen: Batch API · REST Reference · Batch Pricing.
Batches verrijken met tools
Batch-verzoeken zijn niet beperkt tot ruwe tekst. Servertools en function calling werken ook in asynchrone modus, met een belangrijk onderscheid: de eerste worden uitgevoerd tijdens de verwerking door xAI, terwijl de tweede de controle aan u teruggeeft.
Servertools
Servertools worden uitgevoerd tijdens de batch-verwerking, precies zoals in real-time: Grok roept de tool aan, ontvangt het resultaat, integreert dit in zijn redenering en de batch retourneert het definitieve antwoord. Ze werken met de Responses API.
Web Search
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
In batch-modus dient web search voor data-verrijking: het verifiëren van informatie, het verzamelen van recente feiten en het vergelijken van profielen met online bronnen.
X Search
De x_search-tool doorzoekt berichten op X, wat nuttig is om de sentimenten rond een onderwerp of merk te volgen:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Code-uitvoering
Grok kan Python-code schrijven en uitvoeren in een geïsoleerde omgeving. In de Responses API heet de tool code_interpreter (de xAI SDK noemt deze code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Code-uitvoering is relevant voor exacte berekeningen, statistieken en datatransformaties die het model minder betrouwbaar vanuit het geheugen zou afhandelen.
Externe MCP-servers
De mcp-tool verbindt Grok met een externe MCP-server, beschreven in het verzoek zelf: er is geen voorafgaande accountconfiguratie vereist. server_url en server_label zijn verplicht; allowed_tools beperkt de beschikbare tools en authorization geeft een token door aan de server. Alleen Streamable HTTP en SSE-transports worden geaccepteerd.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Zonder allowed_tools worden alle tool-definities van de server in de context van het model geïnjecteerd en gefactureerd als input-tokens bij elk batch-verzoek: bij 50.000 verzoeken verdient het beperken van de lijst zich snel terug.
Client-side function calling
Function calling is een client-side tool: Grok produceert een gestructureerde functieaanroep, maar uw code voert deze uit. In een batch retourneert het model deze aanroepen in de resultaten, voor offline verwerking.
Functiedefinities
Declareer in de Responses API de functie plat, met name, description en parameters op het hoogste niveau. tool_choice: "required" dwingt het model om ten minste één tool aan te roepen, wat geschikt is voor extractie:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Resultaten verwerken
Lees met de SDK de functieaanroepen in tool_calls van elk succesvol resultaat:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Batch function calling is ideaal voor gestructureerde extractie: u definieert het dataschema, Grok leest de documenten en produceert de aanroepen, waarna u ze in bulk verwerkt.
Tools combineren
U kunt meerdere servertools combineren in één verzoek:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok gebruikt de tools in de volgorde die het relevant acht: hier eerst web search om de data op te halen, vervolgens code-uitvoering voor de berekening.
Beperkingen van batch-tools
- Servertools verlengen de verwerkingstijd van elk verzoek en dus van de hele batch
- Verzoeken met search zijn afhankelijk van wat bronnen publiceren op het moment van verwerking, niet op het moment van indienen
- Function calling maakt slechts één round-trip per verzoek: om door te gaan, dient u een nieuw batch-verzoek in dat het gesprek en uw functieresultaten bevat
- Ongefilterde MCP-tool-definities blazen elk verzoek op
Belangrijkste punten
- Servertools (web, X, code, MCP) worden door xAI uitgevoerd tijdens de verwerking, via de Responses API
- Beschrijf een MCP-server in het verzoek (
server_url,server_label), zonder voorafgaande configuratie - Function calling retourneert gestructureerde aanroepen die u client-side uitvoert
- Een uitwisseling met meerdere beurten vereist per beurt een nieuw batch-verzoek
- Beperk de beschikbare tools om te voorkomen dat u voor hun definities betaalt bij elk verzoek