tool_choice și controlul comportamentului
Pe această pagină
Controlul comportamentului modelului
În mod implicit, modelul decide singur dacă să apeleze un instrument sau să răspundă direct. Aceasta este modul auto. Totuși, în anumite situații, aveți nevoie de un control mai fin. Parametrul tool_choice vă oferă această putere.
Cele patru moduri tool_choice
Modul auto (implicit)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Modelul evaluează cererea și decide:
- Dacă cererea necesită date externe → apelează un instrument
- Dacă poate răspunde direct → răspunde fără a folosi un instrument
Acesta este cel mai comun și natural mod. Utilizați-l atunci când aveți încredere în judecata modelului.
Modul required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Modelul trebuie să apeleze cel puțin un instrument. Nu poate răspunde direct, chiar dacă deține deja răspunsul. Cazuri de utilizare:
- Extragere structurată: Doriți să forțați modelul să extragă date într-un format specific printr-un instrument dedicat
- Validare obligatorie: Fiecare cerere trebuie să treacă printr-un instrument de verificare
- Jurnalizare sistematică: Totul trebuie urmărit printr-un instrument de logging
Modul none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Dezactivează complet apelarea funcțiilor pentru această cerere. Modelul vede definițiile instrumentelor (acestea rămân în context), dar nu le poate apela. Cazuri de utilizare:
- Faza de clarificare: Doriți ca modelul să pună întrebări înainte de a acționa
- Mod de previzualizare: Afișați ce ar face modelul fără a executa efectiv
- Solucie de rezervă (fallback): Dacă instrumentele sunt temporar indisponibile
Mod specific (forțarea unui instrument anume)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Modelul este forțat să apeleze exact acest instrument. Nu poate alege altul și nici nu poate răspunde direct. Acesta este cel mai restrictiv mod. Cazuri de utilizare:
- Flux de lucru secvențial: La acest pas, trebuie apelat acest instrument specific
- Teste: Doriți să verificați dacă modelul generează argumentele corecte pentru un instrument dat
- Extragere țintită: Știți ce instrument să utilizați și doriți doar ca modelul să extragă parametrii
Compararea modurilor
| Mod | Comportament | Când să îl utilizați |
|---|---|---|
| auto | Modelul decide liber | Caz general, chatboți |
| required | Trebuie să apeleze cel puțin un instrument | Extragere, validare |
| none | Niciun instrument permis | Clarificare, soluție de rezervă |
| {"function":...} | Forțează un instrument specific | Flux de lucru, teste |
Strategii avansate
Alternarea modurilor într-un flux de lucru
Un flux de lucru inteligent poate schimba tool_choice în funcție de etapă:
# Etapa 1: forțează căutarea
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Etapa 2: lasă modelul să decidă (analiză sau întrebare)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Combinarea cu promptul de sistem
Promptul de sistem poate ghida modelul în alegerile sale de instrumente, chiar și în modul auto:
messages = [
{
"role": "system",
"content": "Ești un asistent de călătorie. Utilizează întotdeauna "
"get_weather înainte de a recomanda activități în aer liber."
},
{"role": "user", "content": "Ce ar trebui să fac în Marsilia în acest weekend?"}
]
Puncte cheie
auto: Modelul decide (implicit, recomandat pentru majoritatea cazurilor)required: Forțează apelarea a cel puțin un instrumentnone: Dezactivează temporar apelarea funcțiilor- Mod specific: Forțează apelarea unui instrument anume, după nume
- Alternați modurile într-un flux de lucru pentru un control fin
- Combinați
tool_choicecu promptul de sistem pentru a ghida modelul