tool_choice in nadzor
Na tej strani
Nadzor obnašanja modela
Privzeto model sam odloči, ali bo poklical orodje ali neposredno odgovoril. To je način auto. V nekaterih primerih pa potrebuješ natančnejši nadzor. Parameter tool_choice ti daje to moč.
Štirje načini tool_choice
Način auto (privzeto)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Model oceni zahtevo in se odloči:
- Če zahteva potrebuje zunanje podatke → pokliče orodje
- Če lahko odgovori neposredno → odgovori brez orodja
To je najpogostejši in najbolj naraven način. Uporabi ga, ko zaupaš presoji modela.
Način required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Model mora poklicati vsaj eno orodje. Ne more odgovoriti neposredno, tudi če že pozna odgovor. Primeri uporabe:
- Strukturirana ekstrakcija: Želiš prisiliti model, da izvleče podatke v določeno obliko prek namenskega orodja
- Obvezno preverjanje: Vsaka zahteva mora iti skozi orodje za validacijo
- Sistematično beleženje: Vse mora biti sledljivo prek orodja za beleženje
Način none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Popolnoma onemogoči klicanje funkcij za to zahtevo. Model vidi definicije orodij (ostanejo v kontekstu), vendar jih ne more poklicati. Primeri uporabe:
- Faza razjasnitve: Želiš, da model postavi vprašanja, preden ukrepa
- Način predogleda: Prikaži, kaj bi model storil, ne da bi to izvršil
- Rezervna možnost: Če orodja začasno niso na voljo
Specifični način (prisilitev določenega orodja)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Model je prisiljen poklicati natanko to orodje. Ne more izbrati drugega niti odgovoriti neposredno. To je najbolj omejevalni način. Primeri uporabe:
- Zaporedno delovno okolje: Na tem koraku je treba poklicati to specifično orodje
- Testi: Želiš preveriti, ali model generira pravilne argumente za dano orodje
- Ciljana ekstrakcija: Veš, katero orodje uporabiti, in želiš le, da model izvleče parametre
Primerjava načinov
| Način | Obnašanje | Kdaj ga uporabiti |
|---|---|---|
| auto | Model se odloči svobodno | Splošni primer, klepetalni roboti |
| required | Poklicati mora vsaj eno orodje | Ekstrakcija, validacija |
| none | Orodja niso dovoljena | Razjasnitev, rezervna možnost |
| {"function":...} | Prisili določeno orodje | Delovno okolje, testi |
Napredne strategije
Izmenjava načinov v delovnem toku
Pameten delovni tok lahko spreminja tool_choice glede na korak:
# 1. korak: prisili iskanje
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# 2. korak: pusti modelu, da se odloči (analiza ali vprašanje)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinacija s sistemskim pozivom
Sistemski poziv lahko vodi model pri izbiri orodij tudi v načinu auto:
messages = [
{
"role": "system",
"content": "You are a travel assistant. Always use "
"get_weather before recommending outdoor activities."
},
{"role": "user", "content": "What should I do in Marseille this weekend?"}
]
Ključne ugotovitve
auto: Model se odloči (privzeto, priporočljivo za večino primerov)required: Prisili klic vsaj enega orodjanone: Začasno onemogoči klicanje funkcij- Specifični način: Prisili klic določenega orodja po imenu
- Izmenjuj načine v delovnem toku za natančen nadzor
- Kombiniraj
tool_choices sistemskim pozivom za vodenje modela