Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

tool_choice in nadzor

Lekcija 5 od 14 Posodobljeno 29. julij 2026 Razvijalec
Na tej strani
  1. Nadzor obnašanja modela
  2. Štirje načini tool_choice
  3. Primerjava načinov
  4. Napredne strategije
  5. Ključne ugotovitve

Nadzor obnašanja modela

Privzeto model sam odloči, ali bo poklical orodje ali neposredno odgovoril. To je način auto. V nekaterih primerih pa potrebuješ natančnejši nadzor. Parameter tool_choice ti daje to moč.

Štirje načini tool_choice

Način auto (privzeto)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="auto"
)

Model oceni zahtevo in se odloči:

  • Če zahteva potrebuje zunanje podatke → pokliče orodje
  • Če lahko odgovori neposredno → odgovori brez orodja

To je najpogostejši in najbolj naraven način. Uporabi ga, ko zaupaš presoji modela.

Način required

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="required"
)

Model mora poklicati vsaj eno orodje. Ne more odgovoriti neposredno, tudi če že pozna odgovor. Primeri uporabe:

  • Strukturirana ekstrakcija: Želiš prisiliti model, da izvleče podatke v določeno obliko prek namenskega orodja
  • Obvezno preverjanje: Vsaka zahteva mora iti skozi orodje za validacijo
  • Sistematično beleženje: Vse mora biti sledljivo prek orodja za beleženje

Način none

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="none"
)

Popolnoma onemogoči klicanje funkcij za to zahtevo. Model vidi definicije orodij (ostanejo v kontekstu), vendar jih ne more poklicati. Primeri uporabe:

  • Faza razjasnitve: Želiš, da model postavi vprašanja, preden ukrepa
  • Način predogleda: Prikaži, kaj bi model storil, ne da bi to izvršil
  • Rezervna možnost: Če orodja začasno niso na voljo

Specifični način (prisilitev določenega orodja)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={
        "type": "function",
        "function": {"name": "get_weather"}
    }
)

Model je prisiljen poklicati natanko to orodje. Ne more izbrati drugega niti odgovoriti neposredno. To je najbolj omejevalni način. Primeri uporabe:

  • Zaporedno delovno okolje: Na tem koraku je treba poklicati to specifično orodje
  • Testi: Želiš preveriti, ali model generira pravilne argumente za dano orodje
  • Ciljana ekstrakcija: Veš, katero orodje uporabiti, in želiš le, da model izvleče parametre

Primerjava načinov

Način Obnašanje Kdaj ga uporabiti
auto Model se odloči svobodno Splošni primer, klepetalni roboti
required Poklicati mora vsaj eno orodje Ekstrakcija, validacija
none Orodja niso dovoljena Razjasnitev, rezervna možnost
{"function":...} Prisili določeno orodje Delovno okolje, testi

Napredne strategije

Izmenjava načinov v delovnem toku

Pameten delovni tok lahko spreminja tool_choice glede na korak:

# 1. korak: prisili iskanje
response1 = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={"type": "function", "function": {"name": "search_products"}}
)

# 2. korak: pusti modelu, da se odloči (analiza ali vprašanje)
response2 = client.chat.completions.create(
    model="grok-4.5",
    messages=updated_messages,
    tools=tools,
    tool_choice="auto"
)

Kombinacija s sistemskim pozivom

Sistemski poziv lahko vodi model pri izbiri orodij tudi v načinu auto:

messages = [
    {
        "role": "system",
        "content": "You are a travel assistant. Always use "
                   "get_weather before recommending outdoor activities."
    },
    {"role": "user", "content": "What should I do in Marseille this weekend?"}
]

Ključne ugotovitve

  • auto: Model se odloči (privzeto, priporočljivo za večino primerov)
  • required: Prisili klic vsaj enega orodja
  • none: Začasno onemogoči klicanje funkcij
  • Specifični način: Prisili klic določenega orodja po imenu
  • Izmenjuj načine v delovnem toku za natančen nadzor
  • Kombiniraj tool_choice s sistemskim pozivom za vodenje modela