tool_choice och kontroll
På denna sida
Styr modellens beteende
Som standard bestämmer modellen själv om den ska anropa ett verktyg eller svara direkt. Detta är auto-läget. Men i vissa fall behöver du finare kontroll. Parametern tool_choice ger dig den möjligheten.
De fyra tool_choice-lägena
auto-läge (standard)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Modellen utvärderar förfrågan och avgör:
- Om förfrågan kräver extern data → anropar den ett verktyg
- Om den kan svara direkt → svarar den utan att använda ett verktyg
Detta är det vanligaste och mest naturliga läget. Använd det när du litar på modellens omdöme.
required-läge
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Modellen måste anropa minst ett verktyg. Den kan inte svara direkt, även om den redan känner till svaret. Användningsfall:
- Strukturerad extraktion: Du vill tvinga modellen att extrahera data till ett specifikt format via ett dedikerat verktyg
- Obligatorisk validering: Varje förfrågan måste passera genom ett verifieringsverktyg
- Systematisk loggning: Allt måste spåras via ett loggningsverktyg
none-läge
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Inaktiverar funktionsanrop helt för denna förfrågan. Modellen ser verktygsdefinitionerna (de finns kvar i kontexten) men kan inte anropa dem. Användningsfall:
- Förtydligandefas: Du vill att modellen ska ställa frågor innan den agerar
- Förhandsgranskningsläge: Visa vad modellen skulle göra utan att exekvera
- Reservlösning: Om verktyg tillfälligt inte är tillgängliga
Specifikt läge (tvinga fram ett specifikt verktyg)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Modellen tvingas att anropa exakt detta verktyg. Den kan inte välja ett annat, ej heller svara direkt. Detta är det mest restriktiva läget. Användningsfall:
- Sekventiellt arbetsflöde: Vid detta steg måste detta specifika verktyg anropas
- Tester: Du vill verifiera att modellen genererar korrekta argument för ett givet verktyg
- Målinriktad extraktion: Du vet vilket verktyg som ska användas och vill bara att modellen ska extrahera parametrarna
Jämförelse av lägen
| Läge | Beteende | När det ska användas |
|---|---|---|
| auto | Modellen bestämmer fritt | Generellt fall, chattbotar |
| required | Måste anropa minst ett verktyg | Extraktion, validering |
| none | Inga verktyg tillåtna | Förtydligande, reservlösning |
| {"function":...} | Tvingar fram ett specifikt verktyg | Arbetsflöde, tester |
Avancerade strategier
Växla lägen i ett arbetsflöde
Ett smart arbetsflöde kan ändra tool_choice beroende på steget:
# Steg 1: tvinga fram sökning
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Steg 2: låt modellen bestämma (analys eller fråga)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinera med systemprompten
Systemprompten kan vägleda modellen i dess verktygsval även i auto-läge:
messages = [
{
"role": "system",
"content": "Du är en reseassistent. Använd alltid "
"get_weather innan du rekommenderar utomhusaktiviteter."
},
{"role": "user", "content": "Vad bör jag göra i Marseille denna helg?"}
]
Viktiga punkter
auto: Modellen bestämmer (standard, rekommenderas för de flesta fall)required: Tvingar fram anrop av minst ett verktygnone: Inaktiverar tillfälligt funktionsanrop- Specifikt läge: Tvingar fram anrop av ett specifikt verktyg efter namn
- Växla lägen i ett arbetsflöde för finjusterad kontroll
- Kombinera
tool_choicemed systemprompten för att vägleda modellen