tool_choice e controllo
In questa pagina
Controlla il comportamento del modello
Per impostazione predefinita, il modello decide da solo se chiamare uno strumento o rispondere direttamente. Questa è la modalità auto. Tuttavia, in alcuni casi, hai bisogno di un controllo più fine. Il parametro tool_choice ti offre questo potere.
Le quattro modalità di tool_choice
Modalità auto (predefinita)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Il modello valuta la richiesta e decide:
- Se la richiesta richiede dati esterni → chiama uno strumento
- Se può rispondere direttamente → risponde senza usare strumenti
Questa è la modalità più comune e naturale. Usala quando ti fidi del giudizio del modello.
Modalità required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Il modello deve chiamare almeno uno strumento. Non può rispondere direttamente, anche se conosce già la risposta. Casi d’uso:
- Estrazione strutturata: Vuoi forzare il modello a estrarre dati in un formato specifico tramite uno strumento dedicato
- Validazione obbligatoria: Ogni richiesta deve passare attraverso uno strumento di verifica
- Registrazione sistematica: Tutto deve essere tracciato tramite uno strumento di logging
Modalità none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Disabilita completamente la chiamata di funzioni per questa richiesta. Il modello vede le definizioni degli strumenti (che rimangono nel contesto) ma non può chiamarli. Casi d’uso:
- Fase di chiarimento: Vuoi che il modello faccia domande prima di agire
- Modalità anteprima: Mostra cosa farebbe il modello senza eseguire l’azione
- Ripiego: Se gli strumenti sono temporaneamente non disponibili
Modalità specifica (forza uno strumento specifico)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Il modello è forzato a chiamare esattamente questo strumento. Non può sceglierne un altro, né rispondere direttamente. Questa è la modalità più restrittiva. Casi d’uso:
- Flusso di lavoro sequenziale: In questo passaggio, deve essere chiamato questo specifico strumento
- Test: Vuoi verificare che il modello generi gli argomenti corretti per un dato strumento
- Estrazione mirata: Sai quale strumento usare e vuoi solo che il modello estragga i parametri
Confronto tra le modalità
| Modalità | Comportamento | Quando usarla |
|---|---|---|
| auto | Il modello decide liberamente | Caso generale, chatbot |
| required | Deve chiamare almeno uno strumento | Estrazione, validazione |
| none | Nessuno strumento consentito | Chiarimento, ripiego |
| {"function":...} | Forza uno strumento specifico | Flusso di lavoro, test |
Strategie avanzate
Alternare le modalità in un flusso di lavoro
Un flusso di lavoro intelligente può cambiare tool_choice a seconda del passaggio:
# Passaggio 1: forza la ricerca
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Passaggio 2: lascia decidere al modello (analisi o domanda)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Combinare con il prompt di sistema
Il prompt di sistema può guidare il modello nelle sue scelte di strumenti anche in modalità auto:
messages = [
{
"role": "system",
"content": "Sei un assistente di viaggio. Usa sempre "
"get_weather prima di raccomandare attività all'aperto."
},
{"role": "user", "content": "Cosa dovrei fare a Marsiglia questo weekend?"}
]
Punti chiave
auto: Il modello decide (predefinito, consigliato per la maggior parte dei casi)required: Forza la chiamata di almeno uno strumentonone: Disabilita temporaneamente la chiamata di funzioni- Modalità specifica: Forza la chiamata di uno strumento specifico per nome
- Alterna le modalità in un flusso di lavoro per un controllo fine
- Combina
tool_choicecon il prompt di sistema per guidare il modello