Przejdź do głównej treści
Polski— Wybierz język
Menu

Opcje tool_choice

Lekcja 9 z 14 Zaktualizowano 29 lipca 2026 Programista
Na tej stronie
  1. Kto decyduje?
  2. auto — Pozwól modelowi zadecydować
  3. any — Wymuś strukturalne wyjście
  4. none — Wyłącz narzędzia bez ich usuwania
  5. Dostosuj ustawienie w trakcie rozmowy
  6. Kluczowe wnioski

Kto decyduje?

Przekazanie parametru tools do API nie oznacza, że model musi z nich skorzystać, ani nawet że ma do nich dostęp. Pomiędzy tymi dwoma skrajnościami parametr tool_choice pełni rolę arbitra. W zależności od przypisanej wartości możesz pozostawić modelowi swobodę decyzji, wymusić na nim wygenerowanie strukturalnego wywołania lub całkowicie odebrać mu dostęp do narzędzi, które właśnie zadeklarowałeś. To subtelne ustawienie, które radykalnie zmienia zachowanie tego samego kodu w obliczu tego samego pytania.

WartośćZachowaniePrzypadek użycia
autoModel samodzielnie decyduje, czy użyć narzędzia, czy odpowiedzieć tekstem. Jest to tryb domyślny.Asystenci konwersacyjni, chatboty ogólnego przeznaczenia
anyModel jest zmuszony do wywołania co najmniej jednego narzędzia. Nie może odpowiedzieć samym tekstem.Zautomatyzowane potoki danych, strukturalne ekstrakcje danych
noneModel nie może używać narzędzi, nawet jeśli są zdefiniowane. Odpowiada wyłącznie tekstem.Podsumowywanie wyników bez nowych wywołań, przeformułowywanie odpowiedzi
requiredSynonim any. Model musi użyć co najmniej jednego narzędzia.Odpowiednik any, dla zachowania kompatybilności

auto — Pozwól modelowi zadecydować

Jest to wartość domyślna, której używasz nieświadomie za każdym razem, gdy pomijasz ten parametr.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="auto"  # Opcjonalne, to jest wartość domyślna
)

Przy ustawieniu auto model najpierw analizuje żądanie, zanim podejmie działanie. Jeśli pytanie wymaga danych zewnętrznych, których model nie posiada, wywołuje funkcję; jeśli zapytanie ma charakter ogólny lub relacyjny, odpowiada bezpośrednio tekstem. To przełączenie sprawia, że asystent wydaje się naturalny: użytkownik nie musi wiedzieć, że za kulisami działają narzędzia.

# Model wywoła funkcję
messages = [{"role": "user", "content": "Status płatności T1001?"}]
# → tool_call: retrieve_payment_status(transaction_id="T1001")

# Model odpowie bezpośrednio
messages = [{"role": "user", "content": "Cześć, jak się masz?"}]
# → content: "Cześć! Jestem asystentem ds. płatności. Jak mogę Ci pomóc?"

Drugi przykład zasługuje na uwagę: wymuszenie wywołania funkcji przy prostym powitaniu skutkowałoby wygenerowaniem retrieve_payment_status ze zmyślonym identyfikatorem. Właśnie temu zapobiega tryb auto, dlatego pozostaje on najczęściej stosowanym trybem w środowisku produkcyjnym.

any — Wymuś strukturalne wyjście

Z drugiej strony, istnieją konteksty, w których tekst swobodny nie ma dla Ciebie żadnej wartości. Potok ingestii przetwarzający dziesięć tysięcy dokumentów oczekuje użytecznego JSON-a, a nie uprzejmego zdania. Przy ustawieniu any model musi wywołać co najmniej jedną funkcję, nawet jeśli pytanie nie wydaje się tego wymagać.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="any"
)

Co ciekawe, najczęstszy przypadek użycia wykorzystuje wywoływanie funkcji w sposób odmienny od pierwotnego założenia: nie deklarujesz funkcji po to, by ją wykonać, lecz by zagwarantować schemat wyjścia. W tym przypadku extract_entities nigdy nie zostanie wywołana po stronie serwera; zależy nam wyłącznie na kontrakcie JSON.

# Strukturalna ekstrakcja: wymuś na modelu ekstrakcję danych
tools = [{
    "type": "function",
    "function": {
        "name": "extract_entities",
        "description": "Extracts named entities from text",
        "parameters": {
            "type": "object",
            "properties": {
                "persons": {"type": "array", "items": {"type": "string"}},
                "organizations": {"type": "array", "items": {"type": "string"}},
                "dates": {"type": "array", "items": {"type": "string"}}
            },
            "required": ["persons", "organizations", "dates"]
        }
    }
}]

messages = [{"role": "user", "content": "Sophia Yang from Mistral presented "
            "function calling on March 15, 2026."}]

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="any"  # Wymuś ekstrakcję
)

# → extract_entities(persons=["Sophia Yang"],
#                     organizations=["Mistral"],
#                     dates=["March 15, 2026"])

Warto przy okazji wspomnieć o required: jest to synonim any, dodany dla kompatybilności z kodem napisanym pod inne API. Obie wartości generują takie samo zachowanie; wybierz tę, która sprawia, że Twój kod jest czytelniejszy, i trzymaj się jej konsekwentnie.

none — Wyłącz narzędzia bez ich usuwania

Trzecia wartość odpowiada na mniej oczywistą potrzebę. Już pobrałeś dane za pomocą kilku wywołań tool_calls i teraz chcesz, aby model je zsyntezował. Jeśli kontynuujesz rozmowę w trybie auto, nic nie powstrzyma modelu przed ponownym wywołaniem funkcji „dla pewności“, co zwiększa opóźnienia i może uruchomić pętlę nieskończoną. none zabrania wszelkich nowych wywołań, jednocześnie utrzymując definicje narzędzi w kontekście, co pomaga modelowi precyzyjnie mówić o danych, które już posiada.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="none"
)

Trzy przypadki użycia pojawiają się stale: żądanie podsumowania po serii wywołań funkcji, przeformułowanie odpowiedzi bez uruchamiania nowych wywołań oraz testowanie w środowisku deweloperskim zachowania modelu pozbawionego narzędzi, co szybko ujawnia pytania, które – zdaniem modelu – potrafi odpowiedzieć z pamięci.

# Po pobraniu danych poprzez tool_calls...
# Żądanie podsumowania bez nowych wywołań
messages.append({
    "role": "user",
    "content": "Podsumuj informacje ze wszystkich znalezionych płatności."
})

response = client.chat.complete(
    model="mistral-large-latest",
    messages=messages,
    tools=tools,
    tool_choice="none"  # Model podsumowuje, korzystając z tego, co już ma
)

Dostosuj ustawienie w trakcie rozmowy

Nie musisz ustawiać tool_choice tylko raz podczas uruchamiania. W środowisku produkcyjnym powszechne jest obliczanie tej wartości przy każdej turze w oparciu o kontekst: pierwszą wiadomość rozmowy, wykrytą intencję w żądaniu lub liczbę już wykonanych wywołań. Poniższa funkcja ilustruje tę logikę w najprostszej formie – model domyślnie zachowuje swobodę, z wyjątkiem sytuacji, gdy użytkownik wyraźnie poprosi o podsumowanie.

def get_tool_choice(user_input: str, turn_count: int) -> str:
    """Określa tool_choice na podstawie kontekstu."""

    # Pierwsza tura: pozwól modelowi zadecydować
    if turn_count == 0:
        return "auto"

    # Jeśli użytkownik wyraźnie żąda podsumowania
    if any(word in user_input.lower() for word in ["summarize", "recap", "synthesis"]):
        return "none"

    # Domyślnie
    return "auto"

W praktyce traktuj auto jako swoje ustawienie bazowe: jest najbardziej naturalne i elastyczne. Rezerwuj any dla potoków ekstrakcji danych strukturalnych, a none na momenty, gdy musisz zapobiec nieskończonym pętlom tool_call. Jedno ograniczenie jest absolutne: nigdy nie zmieniaj tool_choice w trakcie przetwarzania wywołania tool_call. Najpierw zakończ cykl, zwracając wszystkie oczekiwane wiadomości tool, a następnie dostosuj parametr w następnej turze – w przeciwnym razie historia stanie się niespójna, a API odrzuci żądanie.

Kluczowe wnioski

  • tool_choice kontroluje kiedy model używa funkcji
  • auto = model decyduje swobodnie (domyślnie, zalecane dla chatbotów)
  • any = model jest zmuszony do wywołania narzędzia (potoki danych, ekstrakcja strukturalna)
  • none = narzędzia są wyłączone (podsumowania, przeformułowania)
  • Dostosowuj tool_choice dynamicznie w zależności od kontekstu rozmowy