tool_choice og styring
På denne side
Styr modellens adfærd
Som standard beslutter modellen selv, om den skal kalde et værktøj eller svare direkte. Dette er auto-tilstanden. Men i nogle tilfælde har du brug for finere kontrol. Parameteren tool_choice giver dig denne magt.
De fire tool_choice-tilstande
auto-tilstand (standard)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Modellen evaluerer anmodningen og beslutter:
- Hvis anmodningen kræver eksterne data → kalder den et værktøj
- Hvis den kan svare direkte → svarer den uden et værktøj
Dette er den mest almindelige og naturlige tilstand. Brug den, når du stoler på modellens dømmekraft.
required-tilstand
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Modellen skal kalde mindst ét værktøj. Den kan ikke svare direkte, selvom den allerede kender svaret. Brugstilfælde:
- Struktureret udtrækning: Du vil tvinge modellen til at udtrække data til et specifikt format via et dedikeret værktøj
- Obligatorisk validering: Hver anmodning skal gennemgå et valideringsværktøj
- Systematisk logning: Alt skal spores via et logningsværktøj
none-tilstand
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Deaktiverer fuldstændigt funktionskald for denne anmodning. Modellen ser værktøjsdefinitionerne (de forbliver i konteksten), men kan ikke kalde dem. Brugstilfælde:
- Afklaringsfase: Du vil have modellen til at stille spørgsmål, før den handler
- Forhåndsvisningstilstand: Vis, hvad modellen ville gøre uden at udføre det
- Nødløsning: Hvis værktøjer midlertidigt ikke er tilgængelige
Specifik tilstand (tving et bestemt værktøj)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Modellen tvinges til at kalde præcis dette værktøj. Den kan ikke vælge et andet eller svare direkte. Dette er den mest restriktive tilstand. Brugstilfælde:
- Sekventielt workflow: På dette trin skal dette specifikke værktøj kaldes
- Tests: Du vil verificere, at modellen genererer de korrekte argumenter for et givent værktøj
- Målrettet udtrækning: Du ved, hvilket værktøj du skal bruge, og vil blot have modellen til at udtrække parametrene
Sammenligning af tilstande
| Tilstand | Adfærd | Hvornår skal du bruge det |
|---|---|---|
| auto | Modellen beslutter frit | Generelt tilfælde, chatbots |
| required | Skal kalde mindst ét værktøj | Udtrækning, validering |
| none | Ingen værktøjer tilladt | Afklaring, nødløsning |
| {"function":...} | Tvinger et specifikt værktøj | Workflow, tests |
Avancerede strategier
Skift tilstande i et workflow
Et smart workflow kan ændre tool_choice afhængigt af trinnet:
# Trin 1: tving søgning
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Trin 2: lad modellen beslutte (analyse eller spørgsmål)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinér med system-prompten
System-prompten kan vejlede modellen i dens værktøjsvalg, selv i auto-tilstand:
messages = [
{
"role": "system",
"content": "Du er en rejseassistent. Brug altid "
"get_weather før du anbefaler udendørs aktiviteter."
},
{"role": "user", "content": "Hvad bør jeg lave i Marseille i denne weekend?"}
]
Vigtige pointer
auto: Modellen beslutter (standard, anbefales til de fleste tilfælde)required: Tvinger kald af mindst ét værktøjnone: Deaktiverer midlertidigt funktionskald- Specifik tilstand: Tvinger kald af et specifikt værktøj efter navn
- Skift tilstande i et workflow for fin kontrol
- Kombinér
tool_choicemed system-prompten for at vejlede modellen