Serverio ir kliento įrankių derinimas
Šiame puslapyje
Dvi įrankių kategorijos toje pačioje platformoje
Grok API išskiria du iš esmės skirtingus įrankių tipus pagal jų vykdymo būdą. Suprasti šį skirtumą yra būtina kuriant patikimas architektūras.
Integruoti įrankiai (serverio pusėje)
xAI šiuos įrankius vykdo automatiškai savo serveriuose. Tau nieko nereikia valdyti – joks vietinis vykdymas, jokių rezultatų persiuntimų. Modelis juos iškviečia ir tiesiogiai gauna rezultatus.
| Įrankis | Identifikatorius | Aprašymas |
|---|---|---|
| Web Search | web_search | Paieška realiuoju laiku internete |
| X Search | x_search | Paieška X/Twitter platformoje |
| Code Interpreter | code_interpreter | Izoliuotas Python kodų vykdymas |
| Collections Search | collections_search | Paieška tavo įkeltuose dokumentuose |
| Remote MCP | mcp | Prisijungimas prie išorinių MCP serverių |
Tinkintos funkcijos (kliento pusėje)
Tai tavo pačių sukurtos funkcijos, apibrėžtos naudojant funkcijų kvietimą (function calling). Modelis grąžina tool_call, tavo kodas įvykdo funkciją, o tu siunči rezultatą atgal. Tai mechanizmas, kurį išmokai ankstesnėse pamokose.
Abiejų tipų derinimas viename užklausime
Grok API galia slypi gebėjime derinti serverio ir kliento įrankius viename užklausime:
tools = [
# Serverio įrankis – automatiškai vykdo xAI
{"type": "web_search"},
# Kliento įrankis – vykdo tavo kodas
{
"type": "function",
"function": {
"name": "save_to_database",
"description": "Save information to the database",
"parameters": {
"type": "object",
"properties": {
"key": {"type": "string"},
"value": {"type": "string"}
},
"required": ["key", "value"]
}
}
}
]
Kai modelis gauna šią užklausą, jis gali:
- Naudoti
web_searchinformacijai rasti (automatinis vykdymas serverio pusėje) - Iškviesti
save_to_databaserezultatui išsaugoti (grąžinama klientui)
Hibridinis srautas
Elgsena skiriasi priklausomai nuo įrankio tipo:
- Serverio įrankis: modelis iškviečia įrankį, xAI jį įvykdo, rezultatas automatiškai integruojamas, modelis tęsia darbą.
- Kliento įrankis: modelis grąžina
tool_callklientui, vykdymas sustabdomas ir tęsiamas tik tada, kai siunti rezultatą atgal.
Kai modelis viename užklausime naudoja abu tipus, serverio įrankiai įvykdomi pirmiausia (be tavo įsikišimo). Tada, jei modeliui reikia ir kliento įrankio, jis grąžina tau tool_call jau integruotais serverio įrankių rezultatais savo kontekste.
Realūs pavyzdžiai
Interneto paieška + verslo logika
# Vartotojas klausia: „Rask Bitcoin kainą ir ją išsaugok“
# Modelis:
# 1. Iškviečia web_search kainai rasti (serverio pusė, automatiškai)
# 2. Iškviečia save_price(symbol="BTC", price=68432) (kliento pusė)
X paieška + pranešimas
# „Pranešk man apie tviterius apie mūsų produktą nuo vakar“
# Modelis:
# 1. Iškviečia x_search tviteriams rasti (serverio pusė)
# 2. Iškviečia send_notification(count=12, summary="...") (kliento pusė)
Kodų interpretatorius + saugykla
# „Apskaičiuok šių duomenų vidurkį ir išsaugok rezultatą“
# Modelis:
# 1. Iškviečia code_interpreter skaičiavimui atlikti (serverio pusė)
# 2. Iškviečia save_result(key="avg", value="42.5") (kliento pusė)
Serverio įrankių kainodara
Integruoti įrankiai apmokestinami dviem būdais:
- Tokenai: standartinis vartojimas (įvestis + išvestis)
- Kvietimai: fiksuota kaina už kiekvieną įrankio iškvietimą
Modelis vienam užklausimui gali iškviesti kelis serverio įrankius – išlaidos sumuojasi. Atmink tai, kai įjungiate web_search: modelis gali atlikti kelias paieškas, kad patikslintų rezultatus.
Svarbiausi punktai
- Du įrankių tipai: serverio (automatiniai) ir kliento (funkcijų kvietimas)
- Serverio įrankiai (
web_search,x_search,code_interpreter) vykdomi be tavo įsikišimo - Abu tipus gali derinti viename užklausime
- Serverio įrankiai vykdomi pirmiausia, tada modelis gali kviesti tavo funkcijas
- Kiekvienas serverio įrankio kvietimas yra apmokestinamas (tokenai + kaina už kvietimą)
- Citatos automatiškai generuojami duomenims iš serverio įrankių