tool_choice un rīku vadība
Šajā lapā
Virzi modeli uz pareizajiem rīkiem
Pēc noklusējuma models pats brīvi izlemj, kurus rīkus lietot (vai vispār tos nelietot). Parametrs tool_choice ļauj tev precīzāk kontrolēt šo uzvedību.
tool_choice režīmi
auto (noklusējums)
Models lemj brīvi. Tas var izmantot vienu rīku, vairākus vai nevienu:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Šim vienkāršajam faktoloģiskajam jautājumam models, visticamāk, atbildēs bez meklēšanas tīmeklī. Ja jautājums būs par aktuāliem notikumiem, tas uzsāks meklēšanu.
required
Piespiež modeli izmantot vismaz vienu rīku:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Noderīgi, ja zini, ka atbildei nepieciešami svaigi dati un modelim nevajadzētu atbildēt no atmiņas.
none
Aizliedz rīku lietošanu, pat ja tie ir deklarēti:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Praktiski, lai piespiestu tīri tekstuālu atbildi kontekstā, kur rīki parasti ir pieejami.
Konkrēta funkcija
Piespiež izmantot konkrētu funkciju:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Models ir ierobežots, lai izsauktu get_weather ar atbilstošiem argumentiem.
parallel_tool_calls
Pēc noklusējuma parallel_tool_calls ir iestatīts uz true. Models vienā solī var palaist vairākus rīkus paralēli:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Models var vienlaicīgi izsaukt get_weather("Paris") un get_weather("Londres"), kas paātrina apstrādi.
Lai atspējotu šo uzvedību:
{
"parallel_tool_calls": false
}
Atspējo paralēlos izsaukumus, ja tavām funkcijām ir blakusparādības vai tās ir atkarīgas cita no citas (piemēram, ja otrā funkcija ir atkarīga no pirmās rezultāta).
max_turns
Parametrs max_turns ierobežo mijiedarbības soļu skaitu starp modeli un rīkiem servera pusē:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
„Solis” atbilst pilnam ciklam: models izsauc rīku, saņem rezultātu un tad lemj, vai nepieciešams vēl viens izsaukums. Ar max_turns: 5 models var veikt līdz 5 servera rīku izsaukumu cikliem, pirms ģenerē galīgo atbildi.
Uzvedība ar klienta rīkiem
max_turns attiecas tikai uz servera rīkiem. Kad models izsauc klienta funkciju, skaitītājs nākamajā pieprasījumā tiek atiestatīts. Tas nozīmē, ka katrs klienta-servera aprites cikls rada jaunu soļu sadalījumu.
Vadības stratēģijas
| Scenārijs | tool_choice | parallel | max_turns |
|---|---|---|---|
| Ziņu meklēšana | required | true | 3 |
| Precīzs aprēķins | {"type": "function", "name": "calc"} | false | 1 |
| Brīva saruna | auto | true | 5 |
| Atbilde bez rīka | none | - | - |
Galvenās atziņas
tool_choicekontrolē, vai un kurus rīkus models izmanto:auto,required,nonevai konkrētu funkcijuparallel_tool_calls(pēc noklusējumatrue) ļauj vienlaicīgi izsaukt rīkusmax_turnsierobežo servera rīku ciklus – klienta izsaukumi atiestata skaitītāju- Izmanto
required, ja ir būtiski svaigi dati - Atspējo paralēlismu, ja tavas funkcijas ir savstarpēji atkarīgas