tool_choice i upravljanje
Na ovoj stranici
Upravljanje ponašanjem modela
Zadano, model samostalno odlučuje hoće li pozvati alat ili izravno odgovoriti. To je način auto. No, u nekim slučajevima treba ti preciznija kontrola. Parametar tool_choice daje ti tu moć.
Četiri načina rada za tool_choice
Način auto (zadano)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="auto"
)
Model procjenjuje zahtjev i odlučuje:
- Ako zahtjev traži vanjske podatke → poziva alat
- Ako može izravno odgovoriti → odgovara bez alata
Ovo je najčešći i najprirodniji način. Koristi ga kada vjeruješ prosudbi modela.
Način required
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="required"
)
Model mora pozvati barem jedan alat. Ne smije izravno odgovoriti, čak ni ako već zna odgovor. Slučajevi uporabe:
- Strukturirano izvlačenje: Želiš prisiliti model da izvuče podatke u određeni format putem namjenskog alata
- Obavezna validacija: Svaki zahtjev mora proći kroz alat za provjeru
- Sistemsko bilježenje: Sve se mora pratiti putem alata za zapisivanje
Način none
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice="none"
)
Potpuno onemogućuje pozivanje funkcija za ovaj zahtjev. Model vidi definicije alata (one ostaju u kontekstu), ali ih ne može pozvati. Slučajevi uporabe:
- Faza razjašnjavanja: Želiš da model postavi pitanja prije djelovanja
- Način pregleda: Prikaži što bi model učinio bez izvršavanja
- Sigurnosna kopija: Ako alati privremeno nisu dostupni
Specifični način (prisiljavanje određenog alata)
response = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={
"type": "function",
"function": {"name": "get_weather"}
}
)
Model je prisiljen pozvati točno ovaj alat. Ne može odabrati drugi niti izravno odgovoriti. Ovo je najrestriktivniji način. Slučajevi uporabe:
- Sekvencijalni tijek rada: U ovom koraku mora se pozvati ovaj specifični alat
- Testovi: Želiš provjeriti generira li model ispravne argumente za dani alat
- Ciljano izvlačenje: Znaš koji alat koristiti i želiš samo da model izvuče parametre
Usporedba načina rada
| Način | Ponašanje | Kada ga koristiti |
|---|---|---|
| auto | Model slobodno odlučuje | Opći slučaj, chatbotovi |
| required | Mora pozvati barem jedan alat | Izvlačenje, validacija |
| none | Alati nisu dopušteni | Razjašnjavanje, sigurnosna kopija |
| {"function":...} | Prisiljava specifični alat | Tijek rada, testovi |
Napredne strategije
Izmjena načina u tijeku rada
Pametan tijek rada može mijenjati tool_choice ovisno o koraku:
# Korak 1: prisili pretraživanje
response1 = client.chat.completions.create(
model="grok-4.5",
messages=messages,
tools=tools,
tool_choice={"type": "function", "function": {"name": "search_products"}}
)
# Korak 2: pusti model da odluči (analiza ili pitanje)
response2 = client.chat.completions.create(
model="grok-4.5",
messages=updated_messages,
tools=tools,
tool_choice="auto"
)
Kombiniranje sa sistemskim promptom
Sistemski prompt može usmjeravati model u izboru alata čak i u načinu auto:
messages = [
{
"role": "system",
"content": "Ti si asistent za putovanja. Uvijek koristi "
"get_weather prije preporuke aktivnosti na otvorenom."
},
{"role": "user", "content": "Što trebam raditi u Marseilleu ovaj vikend?"}
]
Ključne točke
auto: Model odlučuje (zadano, preporučeno za većinu slučajeva)required: Prisiljava poziv barem jednog alatanone: Privremeno onemogućuje pozivanje funkcija- Specifični način: Prisiljava poziv određenog alata po imenu
- Izmjenjuj načine u tijeku rada za finu kontrolu
- Kombiniraj
tool_choicesa sistemskim promptom kako bi usmjerio model