Orodja strežnika in klicanje funkcij
Na tej strani
Tečaj posodobljen 2. novembra 2026 na podlagi dokumentacije xAI: popust za paketne obdelave znaša 20 % za ustrezne besedilne modele (ne 50 %), primeri sledijo REST API-ju in uradnemu paketu
xai-sdk(client.batch.*; paketni API xAI ne uporablja formata OpenAI, paket SDK OpenAI torej ne velja), API Responses pa ima prednost pred Chat Completions, ki je pri xAI zastarela končna točka. Viri: Batch API · REST Reference · Batch Pricing.
Obogatitev paketnih zahtevkov z orodji
Paketni zahtevki niso omejeni na surovo besedilo. Orodja strežnika in klicanje funkcij delujejo tudi v asinhronem načinu, pri čemer je ključna razlika naslednja: prva se izvajajo med obdelavo pri xAI, druga pa vrnejo nadzor tebi.
Orodja na strani strežnika
Orodja strežnika se izvajajo med paketno obdelavo, popolnoma enako kot v realnem času: Grok pokliče orodje, prejme rezultat, ga vključi v svoje sklepanje in paket vrne končni odgovor. Delujejo z API-jem Responses.
Spletno iskanje
{"custom_id": "news-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What are the latest developments in quantum computing?"}], "tools": [{"type": "web_search"}]}}
V paketnem načinu spletno iskanje služi obogatitvi podatkov: preverjanju informacij, zbiranju nedavnih dejstev in primerjavi profilov z spletnimi viri.
Iskanje po X
Orodje x_search poizveduje po objavah na X, kar je koristno za spremljanje sentimenta glede določene teme ali blagovne znamke:
{"custom_id": "x-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What is the dominant sentiment on X regarding this product launch?"}], "tools": [{"type": "x_search"}]}}
Izvajanje kode
Grok lahko napiše in izvrši kodo Python v izoliranem okolju. V API-ju Responses se orodje imenuje code_interpreter (paket SDK xAI ga imenuje code_execution):
{"custom_id": "calc-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Calculate the 3-point moving average for this data: [12, 15, 18, 14, 22, 19, 25, 28, 30, 27]"}], "tools": [{"type": "code_interpreter"}]}}
Izvajanje kode je smiselno za natančne izračune, statistiko in transformacije podatkov, ki bi jih model iz pomnilnika obravnaval manj zanesljivo.
Oddaljeni strežniki MCP
Orodje mcp poveže Grok z oddaljenim strežnikom MCP, opisanim neposredno v zahtevku: predhodna konfiguracija računa ni potrebna. Parametra server_url in server_label sta obvezna; allowed_tools omeji izpostavljena orodja, authorization pa strežniku posreduje žeton. Sprejeta sta le prenosa Streamable HTTP in SSE.
{"custom_id": "mcp-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "What does the xai-sdk-python repository do?"}], "tools": [{"type": "mcp", "server_label": "deepwiki", "server_url": "https://mcp.deepwiki.com/mcp"}]}}
Brez parametra allowed_tools se vse definicije orodij s strežnika vbrizgajo v kontekst modela in zaračunajo kot vhodni žetoni pri vsakem paketnem zahtevku: pri 50.000 zahtevkih se omejitev seznama hitro izplača.
Klicanje funkcij na strani odjemalca
Klicanje funkcij je orodje na strani odjemalca: Grok ustvari strukturiran klic funkcije, vendar ga izvrši tvoja koda. V paketni obdelavi model te klice vrne v svojih rezultatih za naknadno obdelavo.
Definicije funkcij
V API-ju Responses funkcijo deklariraj plosko, z elementi name, description in parameters na najvišji ravni. Nastavitev tool_choice: "required" prisili model, da pokliče vsaj eno orodje, kar je primerno za ekstrakcijo:
{"custom_id": "extract-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Extract the contact: Jean Dupont, 01 23 45 67 89, [email protected]"}], "tools": [{"type": "function", "name": "save_contact", "description": "Saves a contact extracted from text", "parameters": {"type": "object", "properties": {"name": {"type": "string"}, "phone": {"type": "string"}, "email": {"type": "string"}}, "required": ["name"]}}], "tool_choice": "required"}}
Obdelava rezultatov
S paketom SDK preberi klice funkcij v polju tool_calls vsakega uspešnega rezultata:
import json
for r in page.succeeded:
for call in r.response.tool_calls:
if call.function.name == "save_contact":
contact = json.loads(call.function.arguments)
save_to_database(r.batch_request_id, contact)
Paketno klicanje funkcij je idealno za strukturirano ekstrakcijo: ti definiraš shemo podatkov, Grok prebere dokumente in ustvari klice, ti pa jih obdelaš naenkrat.
Kombiniranje orodij
V enem zahtevku lahko kombiniraš več orodij strežnika:
{"custom_id": "multi-1", "method": "POST", "url": "/v1/responses", "body": {"model": "grok-4.3", "input": [{"role": "user", "content": "Find the Bitcoin closing price for the last seven days and calculate its change"}], "tools": [{"type": "web_search"}, {"type": "code_interpreter"}]}}
Grok uporabi orodja v vrstnem redu, ki se mu zdi relevanten: tukaj najprej spletno iskanje za pridobitev podatkov, nato izvrševanje kode za izračun.
Omejitve orodij v paketni obdelavi
- Orodja strežnika podaljšajo čas obdelave vsakega zahtevka in s tem celotnega paketa
- Zahtevki z iskanjem so odvisni od virov, ki so objavljeni v času obdelave, ne v času predložitve
- Klicanje funkcij opravi le en krog komunikacije na zahtevek: za nadaljevanje moraš predložiti nov paketni zahtevek, ki vsebuje pogovor in tvoje rezultate funkcij
- Nefiltrirane definicije orodij MCP napihnejo vsak zahtevek
Ključne ugotovitve
- Orodja strežnika (spletno iskanje, X, koda, MCP) med obdelavo izvaja xAI prek API-ja Responses
- Strežnik MCP opiši v zahtevku (
server_url,server_label) brez predhodne konfiguracije - Klicanje funkcij vrne strukturirane klice, ki jih izvršiš na strani odjemalca
- Izmenjava z več krogi zahteva nov paketni zahtevek za vsak krog
- Omeji izpostavljena orodja, da se izogneš plačevanju njihovih definicij pri vsakem zahtevku