tool_choice и контрол
На тази страница
Контрол на поведението на модела
По подразбиране моделът решава сам дали да извика инструмент или да отговори директно. Това е режимът auto. В някои случаи обаче се нуждаете от по-фин контрол. Параметърът tool_choice Ви дава тази възможност.
Четирите режима на tool_choice
Режим auto (по подразбиране)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Моделът оценява заявката и решава:
- Ако заявката изисква външни данни → той извиква инструмент
- Ако може да отговори директно → той отговаря без инструмент
Това е най-честият и естествен режим. Използвайте го, когато се доверявате на преценката на модела.
Режим required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Моделът трябва да извика поне един инструмент. Той не може да отговори директно, дори вече да знае отговора. Случаи на употреба:
- Структурирано извличане: Искате да принудите модела да извлече данни в конкретен формат чрез специализиран инструмент
- Задължителна валидация: Всяка заявка трябва да премине през инструмент за проверка
- Системно регистриране: Всичко трябва да бъде проследено чрез инструмент за логове
Режим none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Напълно деактивира извикването на функции за тази заявка. Моделът вижда дефинициите на инструментите (те остават в контекста), но не може да ги извика. Случаи на употреба:
- Фаза на изясняване: Искате моделът да зададе въпроси, преди да действа
- Режим на преглед: Покажете какво би направил моделът, без да изпълнява действията
- Резервен вариант: Ако инструментите временно не са налични
Специфичен режим (принудително извикване на конкретен инструмент)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Моделът е принуден да извика точно този инструмент. Той не може да избере друг, нито да отговори директно. Това е най-ограничителният режим. Случаи на употреба:
- Последователен работен поток: На тази стъпка трябва да бъде извикан този конкретен инструмент
- Тестове: Искате да проверите дали моделът генерира правилните аргументи за даден инструмент
- Целево извличане: Знаете кой инструмент да използвате и просто искате моделът да извлече параметрите
Сравнение на режимите
| Режим | Поведение | Кога да се използва |
|---|---|---|
| auto | Моделът решава свободно | Общ случай, чатботове |
| required | Трябва да извика поне един инструмент | Извличане, валидация |
| none | Няма разрешени инструменти | Изясняване, резервен вариант |
| {"function":...} | Принуждава конкретен инструмент | Работен поток, тестове |
Разширени стратегии
Редуване на режимите в работен поток
Един интелигентен работен поток може да променя tool_choice в зависимост от стъпката:
# Стъпка 1: принудително търсене
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Стъпка 2: оставете модела да реши (анализ или въпрос)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Комбиниране със системния промпт
Системният промпт може да насочи модела при избора на инструменти дори в режим auto:
messages = [
{
"role": "system",
"content": "You are a travel assistant. Always use "
"get_weather before recommending outdoor activities."
},
{"role": "user", "content": "What should I do in Marseille this weekend?"}
]
Ключови изводи
auto: Моделът решава (по подразбиране, препоръчително за повечето случаи)required: Принуждава извикването на поне един инструментnone: Временно деактивира извикването на функции- Специфичен режим: Принуждава извикването на конкретен инструмент по име
- Редувайте режимите в работния поток за фин контрол
- Комбинирайте
tool_choiceсъс системния промпт, за да насочите модела