tool_choice a ovládanie
Na tejto strane
Ovládanie správania modelu
Model sa štandardne sám rozhoduje, či zavolá nástroj, alebo odpovie priamo. Toto je režim auto. V niektorých prípadoch však potrebuješ jemnejšiu kontrolu. Parameter tool_choice ti dáva túto moc.
Štyri režimy tool_choice
Režim auto (predvolený)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Model vyhodnotí požiadavku a rozhodne sa:
- Ak požiadavka vyžaduje externé údaje → zavolá nástroj
- Ak môže odpovedať priamo → odpovie bez použitia nástroja
Toto je najbežnejší a najprirodzenejší režim. Použi ho, keď dôveruješ úsudku modelu.
Režim required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Model musí zavolať aspoň jeden nástroj. Nemôže odpovedať priamo, ani ak už pozná odpoveď. Prípady použitia:
- Štruktúrovaná extrakcia: Chceš prinútiť model extrahovať údaje do konkrétneho formátu pomocou vyhradeného nástroja
- Povinná validácia: Každá požiadavka musí prejsť overovacím nástrojom
- Systematické logovanie: Všetko musí byť zaznamenané prostredníctvom nástroja na logovanie
Režim none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Úplne vypne volanie funkcií pre túto požiadavku. Model vidí definície nástrojov (ostávajú v kontexte), ale nemôže ich zavolať. Prípady použitia:
- Fáza objasňovania: Chceš, aby model kládol otázky pred konaním
- Režim náhľadu: Ukáž, čo by model urobil, bez executes
- Záložné riešenie: Ak sú nástroje dočasne nedostupné
Špecifický režim (vynútenie konkrétneho nástroja)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Model je nutený zavolať presne tento nástroj. Nemôže si vybrať iný ani odpovedať priamo. Toto je najreštriktívnejší režim. Prípady použitia:
- Sekvenčný pracovný postup: V tomto kroku sa musí zavolať tento konkrétny nástroj
- Testy: Chceš overiť, či model generuje správne argumenty pre daný nástroj
- Cielená extrakcia: Vieš, ktorý nástroj použiť, a chceš len, aby model extrahoval parametre
Porovnanie režimov
| Režim | Správanie | Kedy použiť |
|---|---|---|
| auto | Model sa rozhoduje voľne | Všeobecný prípad, chatboty |
| required | Musí zavolať aspoň jeden nástroj | Extrakcia, validácia |
| none | Žiadne nástroje nie sú povolené | Objasňovanie, záložné riešenie |
| {"function":...} | Vynúti konkrétny nástroj | Pracovný postup, testy |
Pokročilé stratégie
Striedanie režimov v pracovnom postupe
Inteligentný pracovný postup môže meniť tool_choice v závislosti od kroku:
# Krok 1: vynútiť vyhľadávanie
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Krok 2: nechať rozhodnutie na modeli (analýza alebo otázka)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinácia so systémovým promptom
Systémový prompt môže viesť model pri výbere nástrojov aj v režime auto:
messages = [
{
"role": "system",
"content": "You are a travel assistant. Always use "
"get_weather before recommending outdoor activities."
},
{"role": "user", "content": "What should I do in Marseille this weekend?"}
]
Kľúčové poznatky
auto: Model sa rozhoduje sám (predvolené, odporúčané pre väčšinu prípadov)required: Vynúti volanie aspoň jedného nástrojanone: Dočasne vypne volanie funkcií- Špecifický režim: Vynúti volanie konkrétneho nástroja podľa názvu
- Striedaj režimy v pracovnom postupe pre jemnú kontrolu
- Kombinuj
tool_choiceso systémovým promptom na vedenie modelu