Serverværktøjer og funktionskald
På denne side
Kurset opdateret 2. november 2026 baseret på xAI-dokumentation: batch-rabatten er 20 % på kvalificerede tekstmodeller (ikke 50 %), eksemplerne følger REST API’en og det officielle
xai-sdk(client.batch.*; xAI’s Batch API bruger ikke OpenAI-formatet, og OpenAI SDK’en gælder ikke), og Responses API’en har forrang frem for Chat Completions, som er et forældet endpoint hos xAI. Kilder: Batch API · REST Reference · Batch Pricing.
Berigelse af batches med værktøjer
Batch-forespørgsler er ikke begrænset til rå tekst. Serverværktøjer og funktionskald fungerer også i asynkron tilstand, men med en vigtig forskel: de førstnævnte køres under behandlingen af xAI, mens de sidstnævnte giver kontrollen tilbage til dig.
Server-side værktøjer
Serverværktøjer kører under batch-behandlingen, præcis som i realtid: Grok kalder værktøjet, modtager resultatet, integrerer det i sin ræsonnering, og batchet returnerer det endelige svar. De fungerer med Responses API’en.
Websøgning
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
I batch-tilstand tjener websøgning til databerigelse: verificering af information, indsamling af recente fakta og sammenligning af profiler med onlinekilder.
X-søgning
Værktøjet x_search spørger efter indlæg på X, hvilket er nyttigt til at spore stemningen omkring et emne eller et brand:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Kodeeksekvering
Grok kan skrive og eksekvere Python-kode i et isoleret miljø. I Responses API’en kaldes værktøjet code_interpreter (xAI SDK’en navngiver det code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Kodeeksekvering er relevant for præcise beregninger, statistik og datatransformationer, som modellen ville håndtere mindre pålideligt ud fra hukommelsen.
Fjern-MCP-servere
Værktøjet mcp forbinder Grok til en fjern-MCP-server, beskrevet direkte i forespørgslen: ingen forudgående kontokonfiguration er nødvendig. server_url og server_label er påkrævede; allowed_tools begrænser de eksponerede værktøjer, og authorization sender et token til serveren. Kun transportlagene Streamable HTTP og SSE accepteres.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Uden allowed_tools injiceres alle værktøjsdefinitioner fra serveren i modellens kontekst og faktureres som input-tokens ved hver batch-forespørgsel: ved 50.000 forespørgsler betaler begrænsningen af listen sig hurtigt.
Klient-side funktionskald
Funktionskald er et klient-side værktøj: Grok producerer et struktureret funktionskald, men din kode eksekverer det. I batch returnerer modellen disse kald i sine resultater til offline-behandling.
Funktionsdefinitioner
I Responses API’en erklærer du funktionen fladt med name, description og parameters på topniveau. tool_choice: "required" tvinger modellen til at kalde mindst ét værktøj, hvilket passer godt til ekstraktion:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Behandling af resultater
Med SDK’en læser du funktionskald i tool_calls for hvert succesfuldt resultat:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Batch-funktionskald er ideelt til struktureret ekstraktion: du definerer dataskemaet, Grok læser dokumenterne og producerer kaldene, hvorefter du behandler dem i bulk.
Kombination af værktøjer
Du kan kombinere flere serverværktøjer i en enkelt forespørgsel:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok bruger værktøjerne i den rækkefølge, den finder relevant: her websøgning for at hente dataene og derefter kodeeksekvering til beregningen.
Begrænsninger for batch-værktøjer
- Serverværktøjer forlænger behandlingstiden for hver forespørgsel og dermed for hele batchet.
- Forespørgsler med søgning afhænger af, hvad kilderne publicerer på behandlingstidspunktet, ikke indsendelsestidspunktet.
- Funktionskald laver kun én tur/retur per forespørgsel: for at fortsætte skal du indsende en ny batch-forespørgsel, der indeholder samtalen og dine funktionsresultater.
- Ufiltrerede MCP-værktøjsdefinitioner oppuster hver eneste forespørgsel.
Vigtige pointer
- Serverværktøjer (web, X, kode, MCP) køres af xAI under behandlingen via Responses API’en.
- Beskriv en MCP-server i forespørgslen (
server_url,server_label) uden forudgående konfiguration. - Funktionskald returnerer strukturerede kald, som du eksekverer på klientsiden.
- En udveksling over flere omgange kræver en ny batch-forespørgsel per omgang.
- Begræns de eksponerede værktøjer for at undgå at betale for deres definitioner ved hver forespørgsel.