Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

tool_choice ir valdymas

Paskaita 5 iš 14 Atnaujinta 2026 m. liepos 29 d. Kūrėjas
Šiame puslapyje
  1. Modelio elgsenos valdymas
  2. Keturi tool_choice režimai
  3. Režimų palyginimas
  4. Pažangios strategijos
  5. Svarbiausi punktai

Modelio elgsenos valdymas

Pagal nutylėjimą modelis pats nusprendžia, ar iškvieti įrankį, ar atsakyti tiesiogiai. Tai yra auto režimas. Tačiau kai kuriais atvejais tau reikia tikslesnės kontrolės. Parametras tool_choice suteikia tau tą galią.

Keturi tool_choice režimai

auto režimas (pagal nutylėjimą)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="auto"
)

Modelis įvertina užklausą ir nusprendžia:

  • Jei užklausai reikia išorinių duomenų → jis iškviečia įrankį
  • Jei gali atsakyti tiesiogiai → jis atsako be įrankio

Tai pats dažniausias ir natūraliausias režimas. Naudok jį, kai pasitiki modelio sprendimu.

required režimas

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="required"
)

Modelis privalo iškvieti bent vieną įrankį. Jis negali atsakyti tiesiogiai, net jei jau žino atsakymą. Naudojimo atvejai:

  • Struktūruotas duomenų išgavimas: Nori priversti modelį išgauti duomenis į specifinį formatą naudojant specialų įrankį
  • Privalomas patvirtinimas: Kiekviena užklausa turi praeiti per patikros įrankį
  • Sistemingas registravimas: Viskas turi būti fiksuojama per registravimo įrankį

none režimas

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice="none"
)

Visiškai išjungia funkcijų kvietimą šiai užklausai. Modelis mato įrankių apibrėžimus (jie lieka kontekste), bet negali jų iškviesti. Naudojimo atvejai:

  • Patikslinimo fazė: Nori, kad modelis užduotų klausimus prieš imdamasis veiksmų
  • Peržiūros režimas: Parodyk, ką modelis darytų, nevykdydamas veiksmų
  • Atsarginis variantas: Jei įrankiai laikinai nepasiekiami

Specifinis režimas (priverstinis konkretaus įrankio naudojimas)

response = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={
        "type": "function",
        "function": {"name": "get_weather"}
    }
)

Modelis yra priverstas iškviesti būtent šį įrankį. Jis negali pasirinkti kito, nei atsakyti tiesiogiai. Tai pats griežčiausias režimas. Naudojimo atvejai:

  • Nuosekli darbo eiga: Šiame žingsnyje turi būti iškviestas būtent šis įrankis
  • Testavimas: Nori patikrinti, ar modelis sugeneruoja teisingus argumentus tam tikram įrankiui
  • Tikslinis duomenų išgavimas: Žinai, kurį įrankį naudoti, ir nori, kad modelis tiesiog išgautų parametrus

Režimų palyginimas

Režimas Elgsena Kada naudoti
auto Modelis sprendžia laisvai Bendras atvejis, pokalbių robotai
required Privalo iškviesti bent vieną įrankį Duomenų išgavimas, patvirtinimas
none Įrankiai neleidžiami Patikslinimas, atsarginis variantas
{"function":...} Priverčia naudoti konkretų įrankį Darbo eiga, testai

Pažangios strategijos

Kaitaliok režimus darbo eigoje

Protinga darbo eiga gali keisti tool_choice priklausomai nuo žingsnio:

# 1 žingsnis: priverstinė paieška
response1 = client.chat.completions.create(
    model="grok-4.5",
    messages=messages,
    tools=tools,
    tool_choice={"type": "function", "function": {"name": "search_products"}}
)

# 2 žingsnis: leisk modeliui spręsti (analizė arba klausimas)
response2 = client.chat.completions.create(
    model="grok-4.5",
    messages=updated_messages,
    tools=tools,
    tool_choice="auto"
)

Derinimas su sistemos promptu

Sistemos promptas gali nukreipti modelį renkantis įrankius net ir auto režimu:

messages = [
    {
        "role": "system",
        "content": "You are a travel assistant. Always use "
                   "get_weather before recommending outdoor activities."
    },
    {"role": "user", "content": "What should I do in Marseille this weekend?"}
]

Svarbiausi punktai

  • auto: Modelis sprendžia pats (pagal nutylėjimą, rekomenduojama daugeliu atvejų)
  • required: Priverčia iškviesti bent vieną įrankį
  • none: Laikinai išjungia funkcijų kvietimą
  • Specifinis režimas: Priverčia iškviesti konkretų įrankį pagal pavadinimą
  • Kaitaliok režimus darbo eigoje tiksliam valdymui
  • Derink tool_choice su sistemos promptu, kad nukreiptum modelį