tool_choice i sterowanie
Na tej stronie
Sterowanie zachowaniem modelu
Domyślnie model samodzielnie decyduje, czy wywołać narzędzie, czy odpowiedzieć bezpośrednio. Jest to tryb auto. W niektórych przypadkach potrzebujesz jednak precyzyjniejszej kontroli. Parametr tool_choice daje Ci taką władzę.
Cztery tryby tool_choice
Tryb auto (domyślny)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Model ocenia żądanie i podejmuje decyzję:
- Jeśli żądanie wymaga danych zewnętrznych → wywołuje narzędzie
- Jeśli może odpowiedzieć bezpośrednio → odpowiada bez użycia narzędzia
Jest to najczęstszy i najbardziej naturalny tryb. Używaj go, gdy ufasz osądowi modelu.
Tryb required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Model musi wywołać co najmniej jedno narzędzie. Nie może odpowiedzieć bezpośrednio, nawet jeśli już zna odpowiedź. Przypadki użycia:
- Strukturalna ekstrakcja: Chcesz wymusić na modelu ekstrakcję danych do określonego formatu za pomocą dedykowanego narzędzia
- Obowiązkowa walidacja: Każde żądanie musi przejść przez narzędzie weryfikujące
- Systematyczne logowanie: Wszystko musi być śledzone za pomocą narzędzia logującego
Tryb none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Całkowicie wyłącza wywoływanie funkcji dla tego żądania. Model widzi definicje narzędzi (pozostają one w kontekście), ale nie może ich wywołać. Przypadki użycia:
- Faza wyjaśnień: Chcesz, aby model zadał pytania przed podjęciem działania
- Tryb podglądu: Pokaż, co model by zrobił, bez rzeczywistego wykonania
- Awaryjne rozwiązanie (fallback): Gdy narzędzia są tymczasowo niedostępne
Tryb specyficzny (wymuszenie konkretnego narzędzia)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Model jest zmuszony do wywołania dokładnie tego narzędzia. Nie może wybrać innego ani odpowiedzieć bezpośrednio. Jest to tryb najbardziej restrykcyjny. Przypadki użycia:
- Sekwencyjny przepływ pracy: Na tym etapie musi zostać wywołane to konkretne narzędzie
- Testy: Chcesz zweryfikować, czy model generuje poprawne argumenty dla danego narzędzia
- Ukierunkowana ekstrakcja: Wiesz, którego narzędzia użyć, i chcesz tylko, aby model wydobył parametry
Porównanie trybów
| Tryb | Zachowanie | Kiedy używać |
|---|---|---|
| auto | Model decyduje swobodnie | Przypadek ogólny, chatboty |
| required | Musi wywołać co najmniej jedno narzędzie | Ekstrakcja, walidacja |
| none | Narzędzia niedozwolone | Wyjaśnienia, rozwiązanie awaryjne |
| {"function":...} | Wymusza konkretne narzędzie | Przepływ pracy, testy |
Zaawansowane strategie
Alternatywne tryby w przepływie pracy
Inteligentny przepływ pracy może zmieniać tool_choice w zależności od etapu:
# Krok 1: wymuś wyszukiwanie
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Krok 2: pozwól modelowi zadecydować (analiza lub pytanie)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Połączenie z monitem systemowym
Monit systemowy może kierować modelem w wyborze narzędzi nawet w trybie auto:
messages = [
{
"role": "system",
"content": "Jesteś asystentem podróżnym. Zawsze używaj "
"get_weather przed rekomendowaniem aktywności na świeżym powietrzu."
},
{"role": "user", "content": "Co powinienem robić w Marsylii w ten weekend?"}
]
Kluczowe wnioski
auto: Model decyduje (domyślny, zalecany w większości przypadków)required: Wymusza wywołanie co najmniej jednego narzędzianone: Tymczasowo wyłącza wywoływanie funkcji- Tryb specyficzny: Wymusza wywołanie konkretnego narzędzia po nazwie
- Zmieniaj tryby w przepływie pracy, aby uzyskać precyzyjną kontrolę
- Łącz
tool_choicez monitem systemowym, aby kierować modelem