tool_choice un kontrole
Šajā lapā
Kontrolē modeļa uzvedību
Pēc noklusējuma models pats izlemj, vai izsaukt rīku vai atbildēt tieši. Tas ir auto režīms. Taču dažos gadījumos tev ir nepieciešama precīzāka kontrole. Parametrs tool_choice dod tev šo iespēju.
Četri tool_choice režīmi
auto režīms (noklusējums)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Models novērtē pieprasījumu un izlemj:
- Ja pieprasījumam vajadzīgi ārēji dati → tas izsauc rīku
- Ja tas var atbildēt tieši → tas atbild bez rīka
Šis ir visizplatītākais un dabiskākais režīms. Izmanto to, kad uzticies modeļa spriedumam.
required režīms
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Modelim jāizsauc vismaz viens rīks. Tas nevar atbildēt tieši, pat ja jau zina atbildi. Lietošanas gadījumi:
- Strukturēta ekstrakcija: Vēlies piespiest modeli izvilkt datus konkrētā formātā, izmantojot specializētu rīku
- Obligāta validācija: Katram pieprasījumam jāiziet cauri verifikācijas rīkam
- Sistemātiska žurnālēšana: Viss ir jāreģistrē, izmantojot žurnālēšanas rīku
none režīms
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Pilnībā atspējo funkciju izsaukumus šim pieprasījumam. Models redz rīku definīcijas (tās paliek kontekstā), bet nevar tās izsaukt. Lietošanas gadījumi:
- Precizēšanas fāze: Vēlies, lai models uzdod jautājumus pirms darbības uzsākšanas
- Priekšskatījuma režīms: Parādi, ko models darītu, neizpildot darbību
- Rezerves variants: Ja rīki uz laiku nav pieejami
Konkrēts režīms (piespiedu konkrēta rīka izsaukums)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Models tiek piespiests izsaukt tieši šo rīku. Tas nevar izvēlēties citu, nedz arī atbildēt tieši. Šis ir visierobežojošākais režīms. Lietošanas gadījumi:
- Secīga darbplūsma: Šajā solī ir jāizsauc tieši šis konkrētais rīks
- Testi: Vēlies pārbaudīt, vai models ģenerē pareizos argumentus dotajam rīkam
- Mērķtiecīga ekstrakcija: Tu zini, kurš rīks jāizmanto, un vēlies tikai, lai models izvilktu parametrus
Režīmu salīdzinājums
| Režīms | Uzvedība | Kad izmantot |
|---|---|---|
| auto | Models lemj brīvi | Vispārīgs gadījums, čatboti |
| required | Jāizsauc vismaz viens rīks | Ekstrakcija, validācija |
| none | Rīki nav atļauti | Precizēšana, rezerves variants |
| {"function":...} | Piespiež konkrētu rīku | Darbplūsma, testi |
Uzlabotas stratēģijas
Režīmu maiņa darbplūsmas laikā
Vieda darbplūsma var mainīt tool_choice atkarībā no soļa:
# 1. solis: piespiedu meklēšana
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# 2. solis: ļauj modelim lemt (analīze vai jautājums)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombinēšana ar sistēmas uzvedni
Sistēmas uzvedne var vadīt modeli rīku izvēlē pat auto režīmā:
messages = [
{
"role": "system",
"content": "Tu esi ceļojumu asistents. Vienmēr izmanto "
"get_weather pirms ieteikt āra aktivitātes."
},
{"role": "user", "content": "Ko man darīt Marseļā šajā nedēļas nogalē?"}
]
Galvenās atziņas
auto: Models lemj pats (noklusējums, ieteicams vairumam gadījumu)required: Piespiež izsaukt vismaz vienu rīkunone: Uz laiku atspējo funkciju izsaukumus- Konkrēts režīms: Piespiež izsaukt konkrētu rīku pēc nosaukuma
- Maini režīmus darbplūsmas laikā, lai iegūtu smalku kontroli
- Kombinē
tool_choicear sistēmas uzvedni, lai vadītu modeli