tool_choice ja ohjaus
Tällä sivulla
Mallin käyttäytymisen ohjaus
Oletusarvoisesti malli päättää itse, kutsuuko se työkalua vai vastataanko suoraan. Tämä on auto-tila. Joissakin tilanteissa tarvitset kuitenkin hienosäätöisempää kontrollia. tool_choice-parametri antaa sinulle tämän vallan.
Neljä tool_choice-tilaa
auto-tila (oletus)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Malli arvioi pyynnön ja päättää:
- Jos pyyntö vaatii ulkoista dataa → se kutsuu työkalua
- Jos se pystyy vastaamaan suoraan → se vastaa ilman työkalua
Tämä on yleisin ja luontevin tila. Käytä sitä, kun luotat mallin harkintakykyyn.
required-tila
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Mallin täytyy kutsua vähintään yhtä työkalua. Se ei voi vastata suoraan, vaikka se tietäisi vastauksen ennestään. Käyttökohteet:
- Rakenteinen ekstraktio: Haluat pakottaa mallin poimimaan dataa tiettyyn muotoon omistetun työkalun kautta
- Pakollinen validointi: Jokaisen pyynnön täytyy kulkea varmistustyökalun läpi
- Systemaattinen lokitus: Kaikki täytyy jäljittää lokitustyökalun avulla
none-tila
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Poistaa funktiokutsut kokonaan käytöstä tälle pyynnölle. Malli näkee työkalumääritykset (ne pysyvät kontekstissa), mutta ei voi kutsua niitä. Käyttökohteet:
- Selvennysvaihe: Haluat mallin kysyvän kysymyksiä ennen toimintaa
- Esikatselutila: Näytä, mitä malli tekisi ilman suorittamista
- Varasuunnitelma: Jos työkalut ovat väliaikaisesti saatavilla
Tarkka tila (pakota tietty työkalu)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Malli pakotetaan kutsumaan juuri tätä työkalua. Se ei voi valita toista eikä vastata suoraan. Tämä on rajoittavin tila. Käyttökohteet:
- Sekventiaalinen työnkulku: Tässä vaiheessa tämä tietty työkalu täytyy kutsua
- Testaus: Haluat varmistaa, että malli generoi oikeat argumentit tietylle työkalulle
- Kohdennettu ekstraktio: Tiedät, mitä työkalua käyttää, ja haluat vain mallin poimivan parametrit
Tilavertailu
| Tila | Käyttäytyminen | Milloin käyttää |
|---|---|---|
| auto | Malli päättää vapaasti | Yleinen tapaus, chatbotit |
| required | Vähintään yksi työkalu pakollinen | Ekstraktio, validointi |
| none | Ei työkaluja sallittu | Selvennys, varasuunnitelma |
| {"function":...} | Pakottaa tietyn työkalun | Työnkulku, testaus |
Edistyneet strategiat
Vaihda tiloja työnkulun aikana
Älykäs työnkulku voi muuttaa tool_choice-asetusta vaiheen mukaan:
# Vaihe 1: pakota haku
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Vaihe 2: anna mallin päättää (analyysi tai kysymys)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Yhdistä system-promptiin
System-prompt voi ohjata mallia työkaluvalinnoissa jopa auto-tilassa:
messages = [
{
"role": "system",
"content": "Olet matka-assistentti. Käytä aina "
"get_weather-toimintoa ennen ulkoilmaaktiviteettien suosittelemista."
},
{"role": "user", "content": "Mitä minun pitäisi tehdä Marseillessa tänä viikonloppuna?"}
]
Keskeiset asiat
auto: Malli päättää (oletus, suositeltu useimpiin tapauksiin)required: Pakottaa vähintään yhden työkalun kutsumisennone: Poistaa funktiokutsut väliaikaisesti käytöstä- Tarkka tila: Pakottaa kutsumaan tietyn työkalun nimellä
- Vaihda tiloja työnkulun aikana hienosäätöä varten
- Yhdistä
tool_choicesystem-promptiin mallin ohjaamiseksi