tool_choice a řízení
Na této stránce
Řízení chování modelu
Ve výchozím nastavení se model sám rozhoduje, zda zavolat nástroj, nebo odpovědět přímo. Tomu se říká režim auto. V některých případech však potřebuješ jemnější kontrolu. Parametr tool_choice ti tuto pravomoc dává.
Čtyři režimy tool_choice
Režim auto (výchozí)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Model vyhodnotí požadavek a rozhodne se:
- Pokud požadavek vyžaduje externí data → zavolá nástroj
- Pokud může odpovědět přímo → odpoví bez použití nástroje
Toto je nejběžnější a nejpřirozenější režim. Použij jej, když věříš úsudku modelu.
Režim required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Model musí zavolat alespoň jeden nástroj. Nemůže odpovědět přímo, ani když už zná odpověď. Příklady použití:
- Strukturovaná extrakce: Chceš vynutit, aby model extrahoval data do konkrétního formátu prostřednictvím vyhrazeného nástroje
- Povinná validace: Každý požadavek musí projít ověřovacím nástrojem
- Systematické logování: Všechno musí být zaznamenáno prostřednictvím nástroje pro logování
Režim none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Pro tento požadavek zcela zakáže volání funkcí. Model vidí definice nástrojů (zůstávají v kontextu), ale nemůže je zavolat. Příklady použití:
- Fáze upřesňování: Chceš, aby se model nejprve zeptal na doplňující informace, než začne jednat
- Režim náhledu: Ukážka toho, co by model udělal, aniž by se akce skutečně provedly
- Záložní řešení: Pokud jsou nástroje dočasně nedostupné
Specifický režim (vynucení konkrétního nástroje)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Model je nucen zavolat přesně tento nástroj. Nemůže si vybrat jiný ani odpovědět přímo. Toto je nejpřísnější režim. Příklady použití:
- Sekvenční pracovní postup: V tomto kroku musí být zavolán tento konkrétní nástroj
- Testy: Chceš ověřit, zda model generuje správné argumenty pro daný nástroj
- Cílená extrakce: Víš, který nástroj použít, a chceš pouze, aby model extrahoval parametry
Porovnání režimů
| Režim | Chování | Kdy jej použít |
|---|---|---|
| auto | Model se rozhoduje svobodně | Obecný případ, chatboti |
| required | Musí zavolat alespoň jeden nástroj | Extrakce, validace |
| none | Žádné nástroje nejsou povoleny | Upřesnění, záložní řešení |
| {"function":...} | Vynutí konkrétní nástroj | Pracovní postup, testy |
Pokročilé strategie
Střídání režimů v pracovním postupu
Chytrý pracovní postup může měnit tool_choice v závislosti na kroku:
# Krok 1: vynutit vyhledávání
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Krok 2: nechat rozhodnout model (analýza nebo otázka)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinace se systémovým promptem
Systémový prompt může model navést k výběru nástrojů i v režimu auto:
messages = [
{
"role": "system",
"content": "Jsi cestovní asistent. Před doporučením venkovních aktivit vždy použij "
"get_weather."
},
{"role": "user", "content": "Co mám dělat tento víkend v Marseille?"}
]
Klíčové poznatky
auto: Model se rozhoduje sám (výchozí, doporučeno pro většinu případů)required: Vynutí volání alespoň jednoho nástrojenone: Dočasně zakáže volání funkcí- Specifický režim: Vynutí volání konkrétního nástroje podle jména
- Střídej režimy v pracovním postupu pro jemnou kontrolu
- Kombinuj
tool_choicese systémovým promptem pro navedení modelu