tool_choice i upravljanje alatima
Na ovoj stranici
Usmjeri model prema ispravnim alatima
Zadano, model samostalno odlučuje koje će alate koristiti (ili hoće li ih uopće koristiti). Parametar tool_choice daje ti precizniju kontrolu nad tim ponašanjem.
Načini rada za tool_choice
auto (zadano)
Model slobodno odlučuje. Može koristiti jedan alat, nekoliko njih ili nijedan:
{
"model": "grok-4.20-0309-reasoning",
"input": "What is the capital of France?",
"tools": [{"type": "web_search"}],
"tool_choice": "auto"
}
Za ovo jednostavno činjenično pitanje model će vjerojatno odgovoriti bez web pretrage. Za pitanje o trenutnim događajima pokrenut će pretragu.
required
Prisiljava model da koristi najmanje jedan alat:
{
"model": "grok-4.20-0309-reasoning",
"input": "Give me today's stock market prices.",
"tools": [{"type": "web_search"}],
"tool_choice": "required"
}
Korisno kada znaš da odgovor zahtijeva svježe podatke i model ne smije odgovarati iz memorije.
none
Zabranjuje korištenje alata, čak i ako su deklarirani:
{
"model": "grok-4.20-0309-reasoning",
"input": "Explain the concept of recursion.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"tool_choice": "none"
}
Praktično za prisiljavanje isključivo tekstualnog odgovora u kontekstu gdje su alati inače dostupni.
Određena funkcija
Prisiljava korištenje specifične funkcije:
{
"model": "grok-4.20-0309-reasoning",
"input": "Paris",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"tool_choice": {"type": "function", "name": "get_weather"}
}
Model je ograničen na pozivanje funkcije get_weather s odgovarajućim argumentima.
parallel_tool_calls
Zadano, parallel_tool_calls postavljen je na true. Model može pokrenuti više alata paralelno unutar jednog ciklusa:
{
"model": "grok-4.20-0309-reasoning",
"input": "Compare the weather in Paris and London.",
"tools": [{
"type": "function",
"name": "get_weather",
"description": "Retrieves the weather for a city",
"parameters": {
"type": "object",
"properties": {
"city": {"type": "string"}
},
"required": ["city"]
}
}],
"parallel_tool_calls": true
}
Model može istovremeno pozvati get_weather("Paris") i get_weather("Londres"), što ubrzava obradu.
Za onemogućavanje ovog ponašanja:
{
"parallel_tool_calls": false
}
Onemogući paralelne pozive ako tvoje funkcije imaju nuspojave ili međusobne ovisnosti (na primjer, ako druga funkcija ovisi o rezultatu prve).
max_turns
Parametar max_turns ograničava broj ciklusa interakcije između modela i alata na strani poslužitelja:
{
"model": "grok-4.20-0309-reasoning",
"input": "Perform an in-depth analysis of the AI market in 2026.",
"tools": [{"type": "web_search"}, {"type": "code_interpreter"}],
"max_turns": 5
}
„Ciklus“ (turn) odgovara potpunom krugu: model poziva alat, prima rezultat, zatim odlučuje treba li još jedan poziv. S max_turns: 5, model može izvršiti do 5 ciklusa poziva alata na strani poslužitelja prije nego što proizvede konačni odgovor.
Ponašanje s klijentskim alatima
max_turns primjenjuje se samo na alate poslužitelja. Kada model pozove klijentsku funkciju, brojač se resetira pri sljedećem zahtjevu. To znači da svako putovanje klijent-poslužitelj stvara novu dodjelu ciklusa.
Strategije kontrole
| Scenarij | tool_choice | parallel | max_turns |
|---|---|---|---|
| Pretraga vijesti | required | true | 3 |
| Precizan izračun | {"type": "function", "name": "calc"} | false | 1 |
| Slobodan razgovor | auto | true | 5 |
| Odgovor bez alata | none | - | - |
Ključne točke
tool_choicekontrolira hoće li i koje alate model koristiti:auto,required,noneili specifična funkcijaparallel_tool_calls(zadanotrue) omogućuje istovremene pozive alatamax_turnsograničava cikluse alata na poslužitelju – klijentski pozivi resetiraju brojač- Koristi
requiredkada su svježi podaci ključni - Onemogući paralelizam ako tvoje funkcije imaju međusobne ovisnosti