Salt la conținutul principal
Română— Alege o limbă
Meniu

Opțiuni tool_choice

Lecția 9 din 14 Actualizată 29 iulie 2026 Dezvoltator
Pe această pagină
  1. Cine decide?
  2. auto — Lăsați modelul să judece
  3. any — Impuneți un output structurat
  4. none — Dezactivați instrumentele fără a le elimina
  5. Ajustați setarea pe parcursul conversației
  6. Puncte cheie

Cine decide?

Transmiterea parametrului tools către API nu înseamnă că modelul este obligat să le utilizeze, nici măcar că are permisiunea de a o face. Între aceste două extreme, parametrul tool_choice acționează ca un arbitru. În funcție de valoarea atribuită, puteți lăsa modelul să judece liber, îl puteți forța să genereze un apel structurat sau îi puteți revoca complet accesul la instrumentele pe care tocmai le-ați declarat. Este o configurare subtilă, dar care schimbă radical comportamentul aceluiași cod atunci când se confruntă cu aceeași întrebare.

ValoareComportamentCaz de utilizare
autoModelul decide liber dacă să utilizeze un instrument sau să răspundă în text. Acesta este modul implicit.Asistenți conversaționali, chatbot-uri de uz general
anyModelul este forțat să apeleze cel puțin un instrument. Nu poate răspunde doar cu text.Fluxuri automate, extragere de date structurate
noneModelul nu poate utiliza instrumente, chiar dacă sunt definite. Răspunde doar în text.Rezumarea rezultatelor fără apeluri noi, reformularea unui răspuns
requiredSinonim pentru any. Modelul trebuie să utilizeze cel puțin un instrument.Echivalent cu any, pentru compatibilitate

auto — Lăsați modelul să judece

Aceasta este valoarea implicită, cea pe care o utilizați fără să vă dați seama ori de câte ori omiteți parametrul.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="auto"  # Opțional, aceasta este valoarea implicită
)

Cu auto, modelul evaluează cererea înainte de a acționa. Dacă întrebarea necesită date externe pe care nu le deține, acesta apelează o funcție; dacă interogarea este generală sau relațională, răspunde direct în text. Acest comutator este ceea ce face ca un asistent să pară natural: utilizatorul nu trebuie să știe că există instrumente în spatele ecranului.

# Modelul va apela o funcție
messages = [{"role": "user", "content": "Statusul plății T1001?"}]
# → tool_call: retrieve_payment_status(transaction_id="T1001")

# Modelul va răspunde direct
messages = [{"role": "user", "content": "Salut, ce mai faci?"}]
# → content: "Salut! Sunt un asistent pentru plăți. Cum vă pot ajuta?"

Al doilea exemplu merită atenție: forțarea unui apel de funcție pentru un simplu salut ar produce un retrieve_payment_status cu un ID inventat. Exact acest lucru previne modul auto, motiv pentru care acest mod rămâne cel mai frecvent utilizat în producție.

any — Impuneți un output structurat

Dimpotrivă, există contexte în care textul liber nu are nicio valoare pentru dumneavoastră. Un flux de ingestie care procesează zece mii de documente se așteaptă la JSON utilizabil, nu la o frază politicoasă. Cu any, modelul trebuie să apeleze cel puțin o funcție, chiar dacă întrebarea nu pare să o necesite.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="any"
)

Interesant este că cel mai frecvent caz de utilizare repurposează apelarea funcțiilor față de intenția sa originală: nu declarați o funcție pentru a o executa, ci pentru a garanta o schemă de output. Aici, extract_entities nu va fi niciodată apelată pe partea serverului; ne interesează contractul JSON.

# Extragere structurată: forțați modelul să extragă date
tools = [{
    "type": "function",
    "function": {
        "name": "extract_entities",
        "description": "Extrage entitățile numite din text",
        "parameters": {
            "type": "object",
            "properties": {
                "persons": {"type": "array", "items": {"type": "string"}},
                "organizations": {"type": "array", "items": {"type": "string"}},
                "dates": {"type": "array", "items": {"type": "string"}}
            },
            "required": ["persons", "organizations", "dates"]
        }
    }
}]

messages = [{"role": "user", "content": "Sophia Yang de la Mistral a prezentat "
            "apelarea funcțiilor pe 15 martie 2026."}]

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="any"  # Forțează extragerea
)

# → extract_entities(persons=["Sophia Yang"],
#                     organizations=["Mistral"],
#                     dates=["15 martie 2026"])

Rețineți în treacăt required: este un sinonim pentru any, inclus pentru compatibilitatea cu codul scris pentru alte API-uri. Ambele valori produc același comportament; alegeți-o pe cea care face codul dumneavoastră mai lizibil și rămâneți consecvent.

none — Dezactivați instrumentele fără a le elimina

A treia valoare răspunde unei nevoi mai puțin evidente. Ați recuperat deja datele prin mai multe tool_calls, iar acum doriți ca modelul să le sintetizeze. Dacă continuați conversația în modul auto, nimic nu împiedică modelul să apeleze din nou o funcție „doar pentru a verifica“, ceea ce mărește latența și poate declanșa o buclă infinită. none interzice orice apel nou, menținând totodată definițiile instrumentelor în context, ajutând modelul să vorbească precis despre datele pe care le deține deja.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="none"
)

Trei cazuri de utilizare apar constant: solicitarea unui rezumat după o serie de apeluri de funcții, reformularea unui răspuns fără a declanșa apeluri noi și testarea în dezvoltare a modului în care se comportă modelul atunci când este privat de instrumentele sale, ceea ce relevă rapid întrebările pe care crede că le poate răspunde din memorie.

# După recuperarea datelor prin tool_calls...
# Solicitați un rezumat fără apeluri noi
messages.append({
    "role": "user",
    "content": "Rezumă informațiile din toate plățile pe care le-ai găsit."
})

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="none"  # Modelul rezumă cu ceea ce are deja
)

Ajustați setarea pe parcursul conversației

Nu trebuie să setați tool_choice o singură dată la pornire. În producție, este obișnuit să îl calculați la fiecare tură în funcție de context: primul mesaj al conversației, intenția detectată în cerere sau numărul de apeluri deja consumate. Funcția de mai jos ilustrează această logică în forma sa cea mai simplă — modelul rămâne liber în mod implicit, cu excepția cazului în care utilizatorul solicită explicit un rezumat.

def get_tool_choice(user_input: str, turn_count: int) -> str:
    """Determină tool_choice în funcție de context."""

    # Prima tură: lăsați modelul să decidă
    if turn_count == 0:
        return "auto"

    # Dacă utilizatorul solicită explicit un rezumat
    if any(word in user_input.lower() for word in ["summarize", "recap", "synthesis"]):
        return "none"

    # Implicit
    return "auto"

În practică, păstrați auto ca setare de bază: este cea mai naturală și flexibilă. Rezervați any pentru fluxurile de extragere a datelor structurate și none pentru momentele în care trebuie să preveniți buclele infinite de tool_call. O constrângere este absolută: nu modificați niciodată tool_choice în mijlocul procesării unui tool_call. Completați mai întâi ciclul returnând toate mesajele tool așteptate, apoi ajustați parametrul la tura următoare; în caz contrar, istoricul devine inconsistent, iar API-ul respinge cererea.

Puncte cheie

  • tool_choice controlează când modelul utilizează funcțiile
  • auto = modelul decide liber (implicit, recomandat pentru chatbot-uri)
  • any = modelul este forțat să apeleze un instrument (fluxuri, extragere structurată)
  • none = instrumentele sunt dezactivate (rezumate, reformulare)
  • Adaptați tool_choice dinamic în funcție de contextul conversației