Server-Tools und Funktionsaufrufe
Auf dieser Seite
Kurs aktualisiert am 2. November 2026 basierend auf der xAI-Dokumentation: Der Batch-Rabatt beträgt 20 % für berechtigte Textmodelle (nicht 50 %), die Beispiele folgen dem REST-API-Standard und dem offiziellen
xai-sdk(client.batch.*; die Batch-API von xAI verwendet kein OpenAI-Format, das OpenAI-SDK gilt nicht), und die Responses API hat Vorrang vor Chat Completions, einem veralteten Endpunkt bei xAI. Quellen: Batch API · REST Reference · Batch Pricing.
Anreicherung von Batches mit Tools
Batch-Anfragen beschränken sich nicht auf rohen Text. Server-Tools und Funktionsaufrufe funktionieren auch im asynchronen Modus, wobei ein wesentlicher Unterschied besteht: Die ersteren laufen während der Verarbeitung durch xAI ab, während Letztere die Kontrolle an Sie zurückgeben.
Serverseitige Tools
Server-Tools laufen während der Batch-Verarbeitung genau wie in Echtzeit: Grok ruft das Tool auf, empfängt das Ergebnis, integriert es in seine Überlegungen, und der Batch gibt die endgültige Antwort zurück. Sie funktionieren mit der Responses API.
Websuche
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Was sind die neuesten Entwicklungen im Bereich Quantencomputing?"}], "tools": [{"type": "web_search"}]}}
Im Batch-Modus dient die Websuche der Datenerweiterung: Überprüfung von Informationen, Sammeln aktueller Fakten, Vergleich von Profilen mit Online-Quellen.
X-Suche
Das x_search-Tool abfragt Beiträge auf X und ist nützlich zur Verfolgung der Stimmung zu einem Thema oder einer Marke:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Was ist die dominante Stimmung auf X bezüglich dieses Produktstarts?"}], "tools": [{"type": "x_search"}]}}
Codeausführung
Grok kann Python-Code in einer isolierten Umgebung schreiben und ausführen. In der Responses API wird das Tool als code_interpreter bezeichnet (das xAI-SDK nennt es code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Berechnen Sie den gleitenden Durchschnitt mit 3 Punkten für diese Daten: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Die Codeausführung ist relevant für exakte Berechnungen, Statistiken und DatenTransformationen, die das Modell aus dem Gedächtnis weniger zuverlässig handhaben würde.
Remote MCP-Server
Das mcp-Tool verbindet Grok mit einem Remote-MCP-Server, der in der Anfrage selbst beschrieben wird: Eine vorherige Kontokonfiguration ist nicht erforderlich. server_url und server_label sind erforderlich; allowed_tools beschränkt die exponierten Tools, und authorization überträgt ein Token an den Server. Nur Streamable HTTP und SSE-Transporte werden akzeptiert.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Was macht das xai-sdk-python-Repository?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Ohne allowed_tools werden alle Tool-Definitionen vom Server in den Kontext des Modells injiziert und auf jeder Batch-Anfrage als Eingabetokens berechnet: Bei 50.000 Anfragen zahlt sich das Einschränken der Liste schnell aus.
Clientseitige Funktionsaufrufe
Funktionsaufrufe sind ein clientseitiges Tool: Grok erzeugt einen strukturierten Funktionsaufruf, aber Ihr Code führt ihn aus. Im Batch gibt das Modell diese Aufrufe in seinen Ergebnissen zurück, um sie offline zu verarbeiten.
Funktionsdefinitionen
In der Responses API deklarieren Sie die Funktion flach, mit name, description und parameters auf der obersten Ebene. tool_choice: "required" zwingt das Modell, mindestens ein Tool aufzurufen, was der Extraktion entspricht:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extrahieren Sie den Kontakt: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Speichert einen aus Text extrahierten Kontakt", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Verarbeitung von Ergebnissen
Mit dem SDK lesen Sie Funktionsaufrufe in tool_calls jedes erfolgreichen Ergebnisses:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Batch-Funktionsaufrufe sind ideal für strukturierte Extraktionen: Sie definieren das Datenschema, Grok liest die Dokumente und erzeugt die Aufrufe, und Sie verarbeiten diese im Batch.
Kombination von Tools
Sie können mehrere Server-Tools in einer einzigen Anfrage kombinieren:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Finden Sie den Schlusskurs von Bitcoin für die letzten sieben Tage und berechnen Sie die Änderung"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok verwendet die Tools in der Reihenfolge, die es als relevant erachtet: hier Websuche, um die Daten zu erhalten, und dann Codeausführung für die Berechnung.
Einschränkungen von Batch-Tools
- Server-Tools verlängern die Verarbeitungszeit jeder Anfrage und damit des Batches.
- Anfragen mit Suche hängen von den Quellen ab, die zum Zeitpunkt der Verarbeitung, nicht zum Zeitpunkt der Einreichung, veröffentlichen.
- Funktionsaufrufe führen nur eine Hin- und Rückreise pro Anfrage durch: Um fortzufahren, müssen Sie eine neue Batch-Anfrage mit dem Gesprächsverlauf und Ihren Funktionsergebnissen einreichen.
- Ungefilterte MCP-Tool-Definitionen vergrößern jede Anfrage.
Kernaussagen
- Server-Tools (Web, X, Code, MCP) werden von xAI während der Verarbeitung über die Responses API ausgeführt.
- Beschreiben Sie einen MCP-Server in der Anfrage (
server_url,server_label), ohne vorherige Konfiguration. - Funktionsaufrufe geben strukturierte Aufrufe zurück, die Sie clientseitig ausführen.
- Ein mehrstufiger Austausch erfordert pro Stufe eine neue Batch-Anfrage.
- Beschränken Sie exponierte Tools, um nicht für deren Definitionen auf jeder Anfrage zu zahlen.