Palvelin- ja asiakastyökalujen yhdistäminen
Tällä sivulla
Kaksi työkaluluokkaa samalla alustalla
Grok API erottaa toisistaan kaksi pohjimmiltaan erilaista työkalutyyppiä niiden suoritusmekanismin perusteella. Tämän eron ymmärtäminen on välttämätöntä kestävien arkkitehtuurien suunnittelussa.
Sisäänrakennetut työkalut (palvelinpuoli)
xAI suorittaa nämä työkalut automaattisesti omilla palvelimillaan. Sinun ei tarvitse hallita mitään – ei paikallista suoritusta eikä tulosten välittämistä. Malli kutsuu niitä ja vastaanottaa tulokset suoraan.
| Työkalu | Tunniste | Kuvaus |
|---|---|---|
| Web Search | web_search | Reaaliaikainen verkkohaku |
| X Search | x_search | Haku X:stä/Twitteristä |
| Code Interpreter | code_interpreter | Hiekkalaatikoitu Python-suoritus |
| Collections Search | collections_search | Haku ladatuista dokumenteistasi |
| Remote MCP | mcp | Yhteys ulkoisiin MCP-palvelimiin |
Mukautetut funktiot (asiakaspuoli)
Nämä ovat omia funktioitasi, jotka määritellään function calling -mekanismilla. Malli palauttaa tool_call-kutsun, koodisi suorittaa funktion ja lähetät tuloksen takaisin. Tämä on mekanismi, jonka opit aiemmissa oppitunneissa.
Molempien yhdistäminen samaan pyyntöön
Grok API:n vahvuus piilee mahdollisuudessa yhdistää palvelin- ja asiakastyökaluja samassa pyynnössä:
tools = [
# Palvelintyökalu — xAI suorittaa automaattisesti
{"type": "web_search"},
# Asiakastyökalu — koodisi suorittaa
{
"type": "function",
"function": {
"name": "save_to_database",
"description": "Save information to the database",
"parameters": {
"type": "object",
"properties": {
"key": {"type": "string"},
"value": {"type": "string"}
},
"required": ["key", "value"]
}
}
}
]
Kun malli vastaanottaa tämän pyynnön, se voi:
- Käyttää
web_search-työkalua tiedon hakemiseen (automaattinen palvelinsuoritus) - Kutsua
save_to_database-funktiota tuloksen tallentamiseksi (palautuu asiakkaalle)
Hybridi-virtaus
Käyttäytyminen vaihtelee työkalutyypin mukaan:
- Palvelintyökalu: malli kutsuu työkalua, xAI suorittaa sen, tulos integroidaan automaattisesti ja malli jatkaa toimintaansa.
- Asiakastyökalu: malli palauttaa
tool_call-kutsun asiakkaalle, suoritus pysähtyy ja jatkuu vasta, kun lähetät tuloksen takaisin.
Kun malli käyttää molempia tyyppejä samassa pyynnössä, palvelintyökalut suoritetaan ensin (ilman väliintuloasi). Sen jälkeen, jos malli tarvitsee myös asiakastyökalua, se palauttaa sinulle tool_call-kutsun siten, että palvelintyökalujen tulokset on jo integroitu sen kontekstiin.
Käytännön esimerkkejä
Verkkohaku + liiketoimintalogiikka
# Käyttäjä kysyy: "Etsi Bitcoinin hinta ja tallenna se"
# Malli:
# 1. Kutsuu web_search löytääkseen hinnan (palvelinpuoli, automaattinen)
# 2. Kutsuu save_price(symbol="BTC", price=68432) (asiakaspuoli)
X-haku + ilmoitus
# "Ilmoita minulle tuotteestamme eilisestä lähtien tehdyistä twiiteistä"
# Malli:
# 1. Kutsuu x_search löytääkseen twiitit (palvelinpuoli)
# 2. Kutsuu send_notification(count=12, summary="...") (asiakaspuoli)
Kooditulkki + tallennus
# "Laske tämän datan keskiarvo ja tallenna tulos"
# Malli:
# 1. Kutsuu code_interpreter laskentaa varten (palvelinpuoli)
# 2. Kutsuu save_result(key="avg", value="42.5") (asiakaspuoli)
Palvelintyökalujen hinnoittelu
Sisäänrakennetuista työkaluista veloitetaan kahdella tavalla:
- Tokenit: vakio kulutus (syöte + tuloste)
- Kutsut: kiinteä kustannus per työkalukutsu
Malli voi kutsua useita palvelintyökaluja yhden pyynnön aikana – kustannukset kertyvät. Pidä tämä mielessä, kun otat web_search-työkalun käyttöön: malli voi suorittaa useita hakuja tulostensa tarkentamiseksi.
Keskeiset asiat
- Kaksi työkalutyyppiä: palvelin (automaattinen) ja asiakas (function calling)
- Palvelintyökalut (
web_search,x_search,code_interpreter) suoritetaan ilman väliintuloasi - Voit yhdistää molemmat tyypit samaan pyyntöön
- Palvelintyökalut suoritetaan ensin, minkä jälkeen malli voi kutsua funktioitasi
- Jokaisesta palvelintyökalun kutsusta veloitetaan (tokenit + kutsukohtainen kustannus)
- Palvelintyökaluista peräisin oleville tiedoille generoidaan automaattisesti lähdeviitteet