tool_choice ja juhtimine
Sellel lehel
Mudeli käitumise juhtimine
Vaikimisi otsustab mudel ise, kas kutsuda tööriista või vastata otse. See on auto režiim. Mõnel juhul vajad aga täpsemat kontrolli. Parameeter tool_choice annab sulle selle võimu.
Neli tool_choice režiimi
auto režiim (vaikimisi)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Mudel hindab päringut ja otsustab:
- Kui päring nõuab väliseid andmeid → kutsub tööriista
- Kui saab vastata otse → vastab ilma tööriista kasutamata
See on kõige levinum ja loomulikum režiim. Kasuta seda, kui usaldad mudeli otsustusvõimet.
required režiim
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Mudel peab kutsuma vähemalt üht tööriista. Ta ei saa vastata otse, isegi kui teab vastust juba ette. Kasutusjuhud:
- Struktureeritud ekstraheerimine: Soovid sundida mudelit ekstraheerima andmed kindlasse vormingusse spetsiaalse tööriista kaudu
- Kohustuslik valideerimine: Iga päring peab läbima kontrolltööriista
- Süstemaatiline logimine: Kõik tuleb jälgida logimistööriista abil
none režiim
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Keelab selle päringu jaoks funktsioonide kutsumise täielikult. Mudel näeb tööriistade definitsioone (need jäävad konteksti), kuid ei saa neid kutsuda. Kasutusjuhud:
- Selgitamise faas: Soovid, et mudel esitaks küsimusi enne tegutsemist
- Eelvaate režiim: Näita, mida mudel teeks, ilma seda tegelikult käivitamata
- Varuvariant: Kui tööriistad on ajutiselt kättesaamatud
Spetsiifiline režiim (sunni kindlat tööriista)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Mudel on sunnitud kutsuma täpselt seda tööriista. Ta ei saa valida teist ega vastata otse. See on kõige piiravam režiim. Kasutusjuhud:
- Järjestikune töövoog: Selles etapis tuleb kutsuda just see konkreetne tööriist
- Testid: Soovid kontrollida, kas mudel genereerib antud tööriista jaoks õiged argumendid
- Sihipärane ekstraheerimine: Tead, millist tööriista kasutada, ja soovid lihtsalt, et mudel ekstraheeriks parameetrid
Režiimide võrdlus
| Režiim | Käitumine | Millal kasutada |
|---|---|---|
| auto | Mudel otsustab vabalt | Üldine juhtum, vestlusrobotid |
| required | Peab kutsuma vähemalt üht tööriista | Ekstraheerimine, valideerimine |
| none | Tööriistad pole lubatud | Selgitamine, varuvariant |
| {"function":...} | Sunni kindlat tööriista | Töövoog, testid |
Täiustatud strateegiad
Režiimide vahetamine töövoos
Tark töövoog võib muuta tool_choice väärtust sõltuvalt etapist:
# 1. etapp: sunni otsingut
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# 2. etapp: lase mudelil otsustada (analüüs või küsimus)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombineerimine süsteemse vihjega
Süsteemne vihje (system prompt) saab juhtida mudelit tööriistade valikul isegi auto režiimis:
messages = [
{
"role": "system",
"content": "Oled reisijuhendaja. Kasuta alati "
"get_weather enne väliaktiviteetide soovitamine."
},
{"role": "user", "content": "Mida teha sel nädalavahetusel Marseilles?"}
]
Peamised punktid
auto: Mudel otsustab (vaikimisi, soovitatav enamiku juhtude jaoks)required: Sunnib kutsuma vähemalt üht tööriistanone: Keelab ajutiselt funktsioonide kutsumise- Spetsiifiline režiim: Sunnib kutsuma kindlat tööriista nime järgi
- Vaheta režiime töövoos täpseks kontrolliks
- Kombineeri
tool_choicesüsteemse vihjega, et mudelit suunata