tool_choice ja tööriistade juhtimine
Sellel lehel
Suuna mudel õigete tööriistade kasutamisele
Vaikimisi otsustab mudel ise, milliseid tööriistu kasutada (või kas üldse mõnda kasutada). Parameeter tool_choice annab sulle selle käitumise üle täpsema kontrolli.
tool_choice režiimid
auto (vaikimisi)
Mudel otsustab vabalt. See võib kasutada üht tööriista, mitut või mitte ühtegi:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Selle lihtsa faktilise küsimuse puhul vastab mudel tõenäoliselt ilma veebiotsinguta. Aktuaalseid sündmusi puudutava küsimuse korral käivitab see otsingu.
required
Sunnib mudelit kasutama vähemalt üht tööriista:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Kasulik olukordades, kus tead, et vastus nõuab värskeid andmeid ja mudel ei tohiks vastata mälust.
none
Keelab tööriistade kasutamise isegi siis, kui need on deklareeritud:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Praktiline meetod puhtalt tekstilise vastuse sundimiseks kontekstis, kus tööriistad on tavaliselt saadaval.
Konkreetne funktsioon
Sunnib kasutama konkreetset funktsiooni:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Mudel on sunnitud kutsuma get_weather koos sobivate argumentidega.
parallel_tool_calls
Vaikimisi on parallel_tool_calls väärtuseks true. Mudel saab ühe pöörde raames käivitada mitu tööriista paralleelselt:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Mudel võib samaaegselt kutsuda get_weather("Paris") ja get_weather("Londres"), mis kiirendab töötlemist.
Selle käitumise keelamiseks:
{
"parallel_tool_calls": false
}
Keela paralleelsed väljakutsed, kui sinu funktsioonidel on kõrvalmõjud või sõltuvused üksteisest (näiteks kui teine funktsioon sõltub esimese tulemusest).
max_turns
Parameeter max_turns piirab mudeli ja tööriistade vaheliste suhtluspöörete arvu serveri poolel:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
“Pööre” tähendab täielikku tsüklit: mudel kutsub tööriista, saab tulemuse ja otsustab seejärel, kas tal on vaja uut väljakutset. Seades max_turns: 5, saab mudel enne lõpliku vastuse genereerimist sooritada kuni 5 serveripoolset tööriista väljakutse tsüklit.
Käitumine kliendi tööriistadega
max_turns kehtib ainult serveritööriistadele. Kui mudel kutsub kliendi funktsiooni, läheb loendur järgmisel päringul nulli. See tähendab, et iga kliendi ja serveri vaheline ringkäik loob uue pöörete eraldise.
Juhtimisstrateegiad
| Stsenaarium | tool_choice | parallel | max_turns |
|---|---|---|---|
| Uudiste otsing | required | true | 3 |
| Täpne arvutus | {"type": "function", "name": "calc"} | false | 1 |
| Vaba vestlus | auto | true | 5 |
| Vastus ilma tööriistata | none | - | - |
Peamised punktid
tool_choicekontrollib, kas ja milliseid tööriistu mudel kasutab:auto,required,nonevõi konkreetne funktsioonparallel_tool_calls(vaikimisitrue) võimaldab samaaegseid tööriistade väljakutseidmax_turnspiirab serveritööriistade tsükleid – kliendi väljakutsed lähtestavad loenduri- Kasuta
required, kui värsked andmed on hädavajalikud - Keela paralleelsus, kui sinu funktsioonid sõltuvad üksteisest