tool_choice és vezérlés
Ezen az oldalon
A modell viselkedésének vezérlése
Alapértelmezés szerint a modell saját maga dönti el, hogy hívjon-e egy eszközt, vagy közvetlenül válaszoljon. Ez az auto mód. Bizonyos esetekben azonban finomabb kontrollra van szükséged. A tool_choice paraméter adja meg neked ezt a hatalmat.
A négy tool_choice mód
auto mód (alapértelmezett)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
A modell kiértékeli a kérést, és dönt:
- Ha a kérés külső adatot igényel → meghív egy eszközt
- Ha közvetlenül tud válaszolni → válaszol eszköz nélkül
Ez a leggyakoribb és legtermészetesebb mód. Akkor használd, amikor bízol a modell ítéletében.
required mód
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
A modellnek kötelező legalább egy eszközt meghívnia. Nem válaszolhat közvetlenül, még akkor sem, ha már ismeri a választ. Alkalmazási esetek:
- Strukturált kinyerés: Arra kényszeríted a modellt, hogy egy dedikált eszközön keresztül egy adott formátumba nyerje ki az adatokat
- Kötelező validálás: Minden kérésnek át kell futnia egy ellenőrző eszközön
- Rendszeres naplózás: Mindent rögzíteni kell egy naplózó eszközön keresztül
none mód
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Teljesen letiltja a függvényhívást erre a kérésre. A modell látja az eszközdefiníciókat (továbbra is a kontextusban maradnak), de nem hívhatja meg őket. Alkalmazási esetek:
- Tisztázási fázis: Azt szeretnéd, ha a modell kérdéseket tenne fel cselekvés előtt
- Előnézeti mód: Mutasd meg, mit tenne a modell végrehajtás nélkül
- Tartalék megoldás: Ha az eszközök ideiglenesen nem elérhetők
Specifikus mód (egy konkrét eszköz kényszerítése)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
A modell kényszerítve van arra, hogy pontosan ezt az eszközt hívja meg. Nem választhat mást, és nem is válaszolhat közvetlenül. Ez a legkorlátozóbb mód. Alkalmazási esetek:
- Szekvenciális munkafolyamat: Ebben a lépésben ezt a konkrét eszközt kell meghívni
- Tesztek: Ellenőrizni szeretnéd, hogy a modell helyes argumentumokat generál-e egy adott eszközhöz
- Célzott kinyerés: Tudod, melyik eszközt kell használni, és csak azt szeretnéd, ha a modell kinyerné a paramétereket
Módok összehasonlítása
| Mód | Viselkedés | Mikor használd |
|---|---|---|
| auto | A modell szabadon dönt | Általános eset, chatbotok |
| required | Legalább egy eszközt kötelező meghívni | Kinyerés, validálás |
| none | Eszközök használata tiltott | Tisztázás, tartalék megoldás |
| {"function":...} | Egy konkrét eszközt kényszerít | Munkafolyamat, tesztek |
Haladó stratégiák
Módok váltogatása egy munkafolyamatban
Egy okos munkafolyamat a lépéstől függően változtathatja a tool_choice értékét:
# 1. lépés: keresés kényszerítése
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# 2. lépés: hagyd dönteni a modellt (elemzés vagy kérdés)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinálás a rendszerprompttal
A rendszerprompt útmutatást adhat a modellnek az eszközválasztáshoz még auto módban is:
messages = [
{
"role": "system",
"content": "Te egy utazási asszisztens vagy. Mindig használd a "
"get_weather eszközt, mielőtt szabadtéri tevékenységet ajánlanál."
},
{"role": "user", "content": "Mit csináljak Marseille-ben ezen a hétvégén?"}
]
Főbb megállapítások
auto: A modell dönt (alapértelmezett, a legtöbb esetben ajánlott)required: Kényszeríti legalább egy eszköz meghívásátnone: Ideiglenesen letiltja a függvényhívást- Specifikus mód: Név szerint kényszerít egy konkrét eszköz meghívását
- Váltogasd a módokat egy munkafolyamatban a finomhangolt vezérlés érdekében
- Kombináld a
tool_choiceparamétert a rendszerprompttal a modell irányításához