tool_choice и контрол на инструментите
На тази страница
Насочване на модела към правилните инструменти
По подразбиране моделът решава свободно кои инструменти да използва (или дали изобщо да използва някой). Параметърът tool_choice Ви осигурява по-фин контрол над това поведение.
Режими на tool_choice
auto (по подразбиране)
Моделът решава свободно. Той може да използва един инструмент, няколко или никой:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
За този прост фактически въпрос моделът най-вероятно ще отговори без търсене в уеб. За въпрос относно текущи събития той ще стартира търсене.
required
Принуждава модела да използва поне един инструмент:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Полезно е, когато знаете, че отговорът изисква актуални данни и моделът не трябва да отговаря от паметта си.
none
Забранява използването на инструменти, дори ако такива са декларирани:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Практично за принудително генериране на чисто текстов отговор в контекст, където инструментите обикновено са налични.
Конкретна функция
Принуждава използването на конкретна функция:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Моделът е ограничен да извика get_weather със съответните аргументи.
parallel_tool_calls
По подразбиране parallel_tool_calls е зададено на true. Моделът може да стартира няколко инструмента паралелно в рамките на един ход:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Моделът може да извика едновременно get_weather("Paris") и get_weather("Londres"), което ускорява обработката.
За да деактивирате това поведение:
{
"parallel_tool_calls": false
}
Деактивирайте паралелните извиквания, ако Вашите функции имат странични ефекти или зависят една от друга (например, ако втората функция зависи от резултата от първата).
max_turns
Параметърът max_turns ограничава броя на циклите на взаимодействие между модела и инструментите от страна на сървъра:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
Един „ход“ съответства на пълен цикъл: моделът извиква инструмент, получава резултата и след това решава дали има нужда от друго извикване. При max_turns: 5 моделът може да изпълни до 5 цикъла на извикване на инструменти от страна на сървъра, преди да генерира крайния си отговор.
Поведение с клиентски инструменти
max_turns се прилага само за сървърни инструменти. Когато моделът извика клиентска функция, броячът се нулира при следващата заявка. Това означава, че всяко пътуване клиент-сървър създава нова квота от ходове.
Стратегии за контрол
| Сценарий | tool_choice | parallel | max_turns |
|---|---|---|---|
| Търсене на новини | required | true | 3 |
| Прецизно изчисление | {"type": "function", "name": "calc"} | false | 1 |
| Свободен разговор | auto | true | 5 |
| Отговор без инструмент | none | - | - |
Ключови изводи
tool_choiceконтролира дали и кои инструменти използва моделът:auto,required,noneили конкретна функцияparallel_tool_calls(по подразбиранеtrue) позволява едновременни извиквания на инструментиmax_turnsограничава циклите на сървърните инструменти – клиентските извиквания нулират брояча- Използвайте
required, когато актуалните данни са от съществено значение - Деактивирайте паралелизма, ако Вашите функции имат зависимости една от друга