tool_choice és az eszközök vezérlése
Ezen az oldalon
Irányítsd a modellt a megfelelő eszközök felé
Alapértelmezés szerint a modell szabadon dönti el, mely eszközöket használja (vagy hogy egyáltalán használ-e valamelyiket is). A tool_choice paraméter finomabb kontrollt biztosít e viselkedés felett.
A tool_choice módjai
auto (alapértelmezett)
A modell szabadon dönt. Használhat egy eszközt, többet, vagy egyiket sem:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Ennél az egyszerű ténykereső kérdésnél a modell valószínűleg webes keresés nélkül válaszol. Aktuális eseményekre vonatkozó kérdés esetén azonban elindít egy keresést.
required
Kényszeríti a modellt, hogy legalább egy eszközt használjon:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Akkor hasznos, ha tudod, hogy a válaszhoz friss adatokra van szükség, és a modellnek nem szabad a memóriájából válaszolnia.
none
Megtiltja az eszközhasználatot, még akkor is, ha deklarálva vannak eszközök:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Gyakorlati megoldás arra, hogy tisztán szöveges választ kényszeríts ki olyan kontextusban, ahol az eszközök általában elérhetők.
Specifikus függvény
Kényszeríti a modellt egy adott függvény használatára:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
A modell kénytelen meghívni a get_weather függvényt a megfelelő argumentumokkal.
parallel_tool_calls
Alapértelmezés szerint a parallel_tool_calls értéke true. A modell több eszközt is elindíthat párhuzamosan egyetlen meneten belül:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
A modell egyszerre hívhatja meg a get_weather("Paris") és a get_weather("Londres") függvényeket, ami felgyorsítja a feldolgozást.
E viselkedés letiltásához:
{
"parallel_tool_calls": false
}
Akkor tiltsd le a párhuzamos hívásokat, ha a függvényeidnek mellékhatásai vannak, vagy függnek egymástól (például ha a második függvény az első eredményétől függ).
max_turns
A max_turns paraméter korlátozza a modell és az eszközök közötti interakciós menetek számát szerveroldalon:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
Egy „menet“ egy teljes ciklusnak felel meg: a modell meghív egy eszközt, megkapja az eredményt, majd eldönti, szükség van-e újabb hívásra. A max_turns: 5 beállítással a modell legfeljebb 5 szerveroldali eszközhívási ciklust végezhet el, mielőtt előállna a végső válasszal.
Viselkedés kliens eszközökkel
A max_turns csak a szerveres eszközökre vonatkozik. Amikor a modell egy kliens függvényt hív meg, a számláló a következő kérésnél visszaáll nullára. Ez azt jelenti, hogy minden kliens-szerver oda-vissza kommunikáció új menetallokációt hoz létre.
Vezérlési stratégiák
| Forgatókönyv | tool_choice | parallel | max_turns |
|---|---|---|---|
| Hírek keresése | required | true | 3 |
| Precíz számítás | {"type": "function", "name": "calc"} | false | 1 |
| Szabad beszélgetés | auto | true | 5 |
| Válasz eszköz nélkül | none | - | - |
Főbb megállapítások
- A
tool_choiceszabályozza, hogy a modell használ-e eszközöket, és ha igen, melyeket:auto,required,nonevagy egy specifikus függvény - A
parallel_tool_calls(alapértelmezett:true) lehetővé teszi az egyidejű eszközhívásokat - A
max_turnskorlátozza a szerveres eszközciklusokat – a klienshívások visszaállítják a számlálót - Használd a
requiredértéket, amikor elengedhetetlenek a friss adatok - Tiltsd le a párhuzamosítást, ha a függvényeid függnek egymástól