tool_choice in nadzor orodij
Na tej strani
Usmeri model k pravim orodjem
Privzeto se model sam odloči, katera orodja bo uporabil (ali ali jih bo sploh uporabil). Parameter tool_choice ti omogoča natančnejši nadzor nad tem vedenjem.
Načini tool_choice
auto (privzeto)
Model se odloča svobodno. Lahko uporabi eno orodje, več njih ali nobenega:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Za to preprosto dejansko vprašanje bo model verjetno odgovoril brez spletnega iskanja. Za vprašanje o trenutnih dogodkih pa bo sprožil iskanje.
required
Prisili model, da uporabi vsaj eno orodje:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Uporabno, ko veš, da odgovor zahteva sveže podatke in model ne sme odgovoriti iz pomnilnika.
none
Prepove uporabo orodij, tudi če so ta deklarirana:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Praktično za prisiljevanje zgolj besedilnega odgovora v kontekstu, kjer so orodja običajno na voljo.
Določena funkcija
Prisili uporabo določene funkcije:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Model je omejen na klic get_weather z ustreznimi argumenti.
parallel_tool_calls
Privzeto je parallel_tool_calls nastavljen na true. Model lahko v enem koraku sproži več orodij vzporedno:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Model lahko hkrati pokliče get_weather("Paris") in get_weather("Londres"), kar pospeši obdelavo.
Če želiš to vedenje onemogočiti:
{
"parallel_tool_calls": false
}
Onemogoči vzporedne klice, če imajo tvoje funkcije stranske učinke ali so medsebojno odvisne (na primer, če druga funkcija temelji na rezultatu prve).
max_turns
Parameter max_turns omejuje število interakcijskih korakov med modelom in orodji na strani strežnika:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
„Korak” ustreza popolnemu ciklu: model pokliče orodje, prejme rezultat in nato odloči, ali potrebuje še en klic. Pri max_turns: 5 lahko model izvede do 5 ciklov klicev orodij na strežniku, preden ustvari končni odgovor.
Vedenje s klienškimi orodji
max_turns velja samo za strežniška orodja. Ko model pokliče klienško funkcijo, se števec ob naslednji zahtevi ponastavi. To pomeni, da vsak krog komunikacije med klientom in strežnikom ustvari novo dodelitev korakov.
Strategije nadzora
| Scenarij | tool_choice | parallel | max_turns |
|---|---|---|---|
| Iskanje novic | required | true | 3 |
| Natančen izračun | {"type": "function", "name": "calc"} | false | 1 |
| Svoboden pogovor | auto | true | 5 |
| Odgovor brez orodja | none | - | - |
Ključne ugotovitve
tool_choicenadzira, ali in katera orodja model uporabi:auto,required,noneali določena funkcijaparallel_tool_calls(privzetotrue) omogoča sočasne klice orodijmax_turnsomejuje cikle strežniških orodij – klienški klici ponastavijo števec- Uporabi
required, ko so sveži podatki nujni - Onemogoči vzporednost, če so tvoje funkcije medsebojno odvisne