Nástroje servera a volanie funkcií
Na tejto strane
Kurz aktualizovaný 2. novembra 2026 na základe dokumentácie xAI: zľava pre batch je 20 % na kvalifikované textové modely (nie 50 %), príklady nasledujú REST API a oficiálny
xai-sdk(client.batch.*; Batch API od xAI nepoužíva formát OpenAI, SDK od OpenAI sa neuplatňuje) a API Responses má prednosť pred Chat Completions, čo je zastaraný koncový bod v xAI. Zdroje: Batch API · REST Reference · Batch Pricing.
Obohatenie batchov nástrojmi
Batchové požiadavky nie sú obmedzené len na surový text. Nástroje servera a volanie funkcií fungujú aj v asynchrónnom režime, pričom kľúčový rozdiel spočíva v tom, že prvé sa vykonávajú počas spracovania zo strany xAI, zatiaľ čo druhé vracajú kontrolu tebe.
Nástroje na strane servera
Nástroje servera sa spúšťajú počas batchového spracovania presne tak ako v reálnom čase: Grok zavolá nástroj, prijme výsledok, integruje ho do svojho uvažovania a batch vráti konečnú odpoveď. Fungujú s API Responses.
Webové vyhľadávanie
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
V batchovom režime slúži webové vyhľadávanie na obohatenie údajov: overovanie informácií, zhromažďovanie nedávnych faktov alebo porovnávanie profilov s online zdrojmi.
Vyhľadávanie na X
Nástroj x_search vyhľadáva príspevky na X, čo je užitočné na sledovanie sentimentu týkajúceho sa konkrétnej témy alebo značky:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Vykonávanie kódu
Grok dokáže písať a spúšťať kód Python v izolovanom prostredí. V API Responses sa tento nástroj nazýva code_interpreter (v SDK od xAI sa nazýva code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Vykonávanie kódu je relevantné pre presné výpočty, štatistiky a transformácie údajov, ktoré by model z pamäte spracovával menej spoľahlivo.
Vzdialené servery MCP
Nástroj mcp pripája Grok k vzdialenému serveru MCP, ktorý je opísaný priamo v požiadavke: nie je potrebná žiadna predchádzajúca konfigurácia účtu. Parametre server_url a server_label sú povinné; allowed_tools obmedzuje vystavené nástroje a authorization odovzdáva serveru token. Akceptujú sa iba transporty Streamable HTTP a SSE.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Bez parametra allowed_tools sa všetky definície nástrojov zo servera injektujú do kontextu modelu a sú fakturované ako vstupné tokeny pri každej batchovej požiadavke: pri 50 000 požiadavkách sa obmedzenie zoznamu rýchlo vyplatí.
Volanie funkcií na strane klienta
Volanie funkcií je nástroj na strane klienta: Grok vygeneruje štruktúrované volanie funkcie, ale tvoja kód ho vykoná. V batchovom režime model vráti tieto volania vo svojich výsledkoch na offline spracovanie.
Definície funkcií
V API Responses deklaruj funkciu plocho, s parametrami name, description a parameters na najvyššej úrovni. Nastavenie tool_choice: "required" prinúti model zavolať aspoň jeden nástroj, čo sa hodí pri extrakcii:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Spracovanie výsledkov
Pomocou SDK čítaj volania funkcií v poli tool_calls každého úspešného výsledku:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Batchové volanie funkcií je ideálne pre štruktúrovanú extrakciu: definuješ schému údajov, Grok prečíta dokumenty a vygeneruje volania, ktoré následne hromadne spracuješ.
Kombinovanie nástrojov
V jednej požiadavke môžeš kombinovať viacero nástrojov servera:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok použije nástroje v poradí, ktoré považuje za relevantné: tu najprv webové vyhľadávanie na získanie údajov a následne vykonanie kódu na výpočet.
Obmedzenia batchových nástrojov
- Nástroje servera predlžujú čas spracovania každej požiadavky, a tým aj celého batchu.
- Požiadavky s vyhľadávaním závisia od toho, čo zdroje zverejnia v čase spracovania, nie v čase odoslania.
- Volanie funkcií realizuje iba jednu cestu tam a späť na požiadavku: aby si pokračoval, musíš odoslať novú batchovú požiadavku obsahujúcu konverzáciu a tvoje výsledky funkcií.
- Nefiltrované definície nástrojov MCP zbytočne zväčšujú každú požiadavku.
Kľúčové poznatky
- Nástroje servera (web, X, kód, MCP) spúšťa xAI počas spracovania prostredníctvom API Responses.
- Server MCP opíš v požiadavke (
server_url,server_label) bez potreby predchádzajúcej konfigurácie. - Volanie funkcií vracia štruktúrované volania, ktoré vykonávaš na strane klienta.
- Výmena správ vo viacerých kolách si vyžaduje novú batchovú požiadavku pre každé kolo.
- Obmedz vystavené nástroje, aby si neplatil za ich definície pri každej požiadavke.