tool_choice en besturing
Op deze pagina
Het gedrag van het model sturen
Standaard beslist het model zelf of het een tool aanroept of direct reageert. Dit is de auto-modus. In sommige gevallen heeft u echter fijnere controle nodig. De parameter tool_choice geeft u die macht.
De vier tool_choice-modi
auto-modus (standaard)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Het model evalueert het verzoek en beslist:
- Als het verzoek externe gegevens vereist → roept het een tool aan
- Als het direct kan antwoorden → antwoordt het zonder tool
Dit is de meest gebruikelijke en natuurlijke modus. Gebruik deze wanneer u het oordeel van het model vertrouwt.
required-modus
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Het model moet minstens één tool aanroepen. Het kan niet direct antwoorden, zelfs niet als het het antwoord al weet. Toepassingsgevallen:
- Gestructureerde extractie: U wilt het model dwingen gegevens in een specifiek formaat te extraheren via een toegewijde tool
- Verplichte validatie: Elk verzoek moet langs een verificatietool
- Systematische logging: Alles moet via een loggingtool worden vastgelegd
none-modus
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Schakelt het aanroepen van functies voor dit verzoek volledig uit. Het model ziet de tool-definities (deze blijven in de context), maar kan ze niet aanroepen. Toepassingsgevallen:
- Verduidelijkingsfase: U wilt dat het model vragen stelt voordat het actie onderneemt
- Preview-modus: Laat zien wat het model zou doen zonder uitvoering
- Fallback: Als tools tijdelijk niet beschikbaar zijn
Specifieke modus (forceer een specifieke tool)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Het model wordt gedwongen om exact deze tool aan te roepen. Het kan geen andere kiezen, noch direct antwoorden. Dit is de meest restrictieve modus. Toepassingsgevallen:
- Sequentiële workflow: In deze stap moet deze specifieke tool worden aangeroepen
- Tests: U wilt verifiëren dat het model de juiste argumenten voor een bepaalde tool genereert
- Gerichte extractie: U weet welke tool u moet gebruiken en wilt alleen dat het model de parameters extraheert
Modusvergelijking
| Modus | Gedrag | Wanneer te gebruiken |
|---|---|---|
| auto | Het model beslist vrij | Algemeen geval, chatbots |
| required | Moet minstens één tool aanroepen | Extractie, validatie |
| none | Geen tools toegestaan | Verduidelijking, fallback |
| {"function":...} | Forceert een specifieke tool | Workflow, tests |
Geavanceerde strategieën
Modi afwisselen in een workflow
Een slimme workflow kan tool_choice wijzigen afhankelijk van de stap:
# Stap 1: zoekopdracht forceren
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Stap 2: laat het model beslissen (analyse of vraag)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Combineer met de systeemprompt
De systeemprompt kan het model begeleiden bij zijn toolkeuzes, zelfs in auto-modus:
messages = [
{
"role": "system",
"content": "You are a travel assistant. Always use "
"get_weather before recommending outdoor activities."
},
{"role": "user", "content": "What should I do in Marseille this weekend?"}
]
Belangrijkste punten
auto: Het model beslist (standaard, aanbevolen voor de meeste gevallen)required: Forceert het aanroepen van minstens één toolnone: Schakelt het aanroepen van functies tijdelijk uit- Specifieke modus: Forceert het aanroepen van een specifieke tool op naam
- Wissel modi af in een workflow voor fijne controle
- Combineer
tool_choicemet de systeemprompt om het model te sturen