Премини към основното съдържание
Български— Изберете език
Меню

tool_choice и контрол

Урок 5 от 14 Обновен 29 юли 2026 г. Програмист
На тази страница
  1. Контрол на поведението на модела
  2. Четирите режима на tool_choice
  3. Сравнение на режимите
  4. Разширени стратегии
  5. Ключови изводи

Контрол на поведението на модела

По подразбиране моделът решава сам дали да извика инструмент или да отговори директно. Това е режимът auto. В някои случаи обаче се нуждаете от по-фин контрол. Параметърът tool_choice Ви дава тази възможност.

Четирите режима на tool_choice

Режим auto (по подразбиране)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="auto"
)

Моделът оценява заявката и решава:

  • Ако заявката изисква външни данни → той извиква инструмент
  • Ако може да отговори директно → той отговаря без инструмент

Това е най-честият и естествен режим. Използвайте го, когато се доверявате на преценката на модела.

Режим required

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="required"
)

Моделът трябва да извика поне един инструмент. Той не може да отговори директно, дори вече да знае отговора. Случаи на употреба:

  • Структурирано извличане: Искате да принудите модела да извлече данни в конкретен формат чрез специализиран инструмент
  • Задължителна валидация: Всяка заявка трябва да премине през инструмент за проверка
  • Системно регистриране: Всичко трябва да бъде проследено чрез инструмент за логове

Режим none

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="none"
)

Напълно деактивира извикването на функции за тази заявка. Моделът вижда дефинициите на инструментите (те остават в контекста), но не може да ги извика. Случаи на употреба:

  • Фаза на изясняване: Искате моделът да зададе въпроси, преди да действа
  • Режим на преглед: Покажете какво би направил моделът, без да изпълнява действията
  • Резервен вариант: Ако инструментите временно не са налични

Специфичен режим (принудително извикване на конкретен инструмент)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={
        "type": "function",
        "function": {"name": "get_weather"}
    }
)

Моделът е принуден да извика точно този инструмент. Той не може да избере друг, нито да отговори директно. Това е най-ограничителният режим. Случаи на употреба:

  • Последователен работен поток: На тази стъпка трябва да бъде извикан този конкретен инструмент
  • Тестове: Искате да проверите дали моделът генерира правилните аргументи за даден инструмент
  • Целево извличане: Знаете кой инструмент да използвате и просто искате моделът да извлече параметрите

Сравнение на режимите

Режим Поведение Кога да се използва
auto Моделът решава свободно Общ случай, чатботове
required Трябва да извика поне един инструмент Извличане, валидация
none Няма разрешени инструменти Изясняване, резервен вариант
{"function":...} Принуждава конкретен инструмент Работен поток, тестове

Разширени стратегии

Редуване на режимите в работен поток

Един интелигентен работен поток може да променя tool_choice в зависимост от стъпката:

# Стъпка 1: принудително търсене
response1 = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={"type": "function", "function": {"name": "search_products"}}
)

# Стъпка 2: оставете модела да реши (анализ или въпрос)
response2 = client.chat.completions.create(
    model="grok-4.5",
    messages=updated_messages,
    tools=tools,
    tool_choice="auto"
)

Комбиниране със системния промпт

Системният промпт може да насочи модела при избора на инструменти дори в режим auto:

messages = [
    {
        "role": "system",
        "content": "You are a travel assistant. Always use "
                   "get_weather before recommending outdoor activities."
    },
    {"role": "user", "content": "What should I do in Marseille this weekend?"}
]

Ключови изводи

  • auto: Моделът решава (по подразбиране, препоръчително за повечето случаи)
  • required: Принуждава извикването на поне един инструмент
  • none: Временно деактивира извикването на функции
  • Специфичен режим: Принуждава извикването на конкретен инструмент по име
  • Редувайте режимите в работния поток за фин контрол
  • Комбинирайте tool_choice със системния промпт, за да насочите модела