tool_choice ir įrankių valdymas
Šiame puslapyje
Nukreipk modelį link tinkamų įrankių
Pagal nutylėjimą modelis laisvai sprendžia, kuriuos įrankius naudoti (arba ar jų iš viso nenaudoti). Parametras tool_choice suteikia tau tikslesnę šio elgesio kontrolę.
tool_choice režimai
auto (pagal nutylėjimą)
Modelis sprendžia laisvai. Jis gali naudoti vieną įrankį, kelis arba nė vieno:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Į šį paprastą faktinį klausimą modelis greičiausiai atsakys neatlikęs internetinės paieškos. Tačiau klausiant apie naujausius įvykius, jis inicijuos paiešką.
required
Priverčia modelį naudoti bent vieną įrankį:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Tai naudinga, kai žinai, kad atsakymui reikia naujausių duomenų ir modelis neturėtų atsakyti remdamasis savo atmintimi.
none
Draudžia naudoti įrankius, net jei jie yra deklaruoti:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Praktiška norint priversti gauti gryną tekstinį atsakymą kontekste, kuriame įrankiai paprastai yra prieinami.
Konkreti funkcija
Priverčia naudoti konkrečią funkciją:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Modelis yra apribotas ir turi iškviesti get_weather su atitinkamais argumentais.
parallel_tool_calls
Pagal nutylėjimą parallel_tool_calls nustatytas kaip true. Modelis gali vieno ciklo metu lygiagrečiai paleisti kelis įrankius:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Modelis gali vienu metu iškviesti get_weather("Paris") ir get_weather("Londres"), kas pagreitina apdorojimą.
Norėdami išjungti šį elgesį:
{
"parallel_tool_calls": false
}
Išjunk lygiagrečius kvietimus, jei tavo funkcijos turi šalutinį poveikį arba priklauso viena nuo kitos (pavyzdžiui, jei antroji funkcija priklauso nuo pirmosios rezultato).
max_turns
Parametras max_turns riboja sąveikos ciklų skaičių tarp modelio ir įrankių serverio pusėje:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
„Ciklas“ (turn) atitinka pilną ratą: modelis iškviečia įrankį, gauna rezultatą, tada sprendžia, ar reikia kito kvietimo. Nustačius max_turns: 5, modelis gali atlikti iki 5 serverio pusės įrankių kvietimų ciklų prieš pateikdamas galutinį atsakymą.
Elgesys su kliento įrankiais
max_turns taikomas tik serverio įrankiams. Kai modelis iškviečia kliento funkciją, skaitiklis kitame prašyme nustatomas iš naujo. Tai reiškia, kad kiekviena kliento ir serverio apykaita sukuria naują ciklų paskirstymą.
Valdymo strategijos
| Scenarijus | tool_choice | parallel | max_turns |
|---|---|---|---|
| Naujienų paieška | required | true | 3 |
| Tikslus skaičiavimas | {"type": "function", "name": "calc"} | false | 1 |
| Laisvas pokalbis | auto | true | 5 |
| Atsakymas be įrankio | none | - | - |
Svarbiausi punktai
tool_choicevaldo, ar ir kuriuos įrankius modelis naudoja:auto,required,nonearba konkrečią funkcijąparallel_tool_calls(pagal nutylėjimątrue) leidžia vienu metu kviesti įrankiusmax_turnsriboja serverio įrankių ciklus – kliento kvietimai nustato skaitiklį iš naujo- Naudok
required, kai būtini naujausi duomenys - Išjunk lygiagretumą, jei tavo funkcijos priklauso viena nuo kitos