Podstawowe parametry
Na tej stronie
Konfiguruj swoje wywołania API
Poza wymaganymi polami model i messages, API Chat Completions przyjmuje kilka parametrów sterujących zachowaniem generowania. To właśnie te ustawienia odróżniają ekstraktor danych, który dla tej samej faktury zwraca identyczne wyniki, od generatora haseł reklamowych, który nigdy się nie powtarza. Kod wywołujący pozostaje niezmieniony niezależnie od przypadku użycia; zmieniają się tylko ustawienia, dlatego musisz dokładnie rozumieć działanie każdego z nich.
Oto parametry, z którymi będziesz pracować na co dzień, wraz z ich typami i wartościami domyślnymi.
| Parametr | Typ | Domyślnie | Opis |
|---|---|---|---|
model | string | — | Identyfikator modelu (wymagany) |
messages | array | — | Tablica wiadomości (wymagana) |
max_tokens | integer | zmienna | Maksymalna liczba tokenów wyjściowych |
temperature | float | 0.7 | Steruje kreatywnością (od 0.0 do 1.5) |
top_p | float | 1.0 | Próbkowanie jądra (od 0.0 do 1.0) |
stream | boolean | false | Włącza strumieniowanie SSE |
safe_prompt | boolean | false | Włącza zabezpieczenia bezpieczeństwa |
Parametr model
Twój wybór modelu natychmiast determinuje możliwości, szybkość i koszt każdego wywołania – to trzy kompromisy, których nie odzyskasz w inny sposób. Od kwietnia 2026 r. główne modele to:
# Model flagowy — złożone rozumowanie, wielojęzyczność
model = "mistral-large-latest"
# Model kompaktowy — szybki, ekonomiczny, idealny do produkcji
model = "mistral-small-latest"
# Model miniaturowy — ultraszybki, obliczenia brzegowe
model = "ministral-3b-latest"
# Model kodujący — wyspecjalizowany w programowaniu
model = "codestral-latest"
Przyrostek -latest jest wygodny podczas rozwoju: zawsze wskazuje na najnowszą wersję bez konieczności zmian w kodzie. W środowisku produkcyjnym ta wygoda staje się jednak ryzykiem, ponieważ aktualizacja po stronie Mistral może subtelnie zmienić zachowanie Twojej aplikacji. Preferuj identyfikatory z wersjami, takie jak mistral-large-2512, aby zagwarantować powtarzalność testów.
Parametr max_tokens
Parametr ten ustala górny limit liczby tokenów, które model może wygenerować w odpowiedzi. Nie zmusza on modelu do wyprodukowania dokładnie tej liczby; definiuje jedynie sufit, nic więcej.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Streszcz ten tekst w jednym zdaniu."}],
max_tokens=100 # Odpowiedź nie przekroczy 100 tokenów
)
Jeśli model osiągnie ten limit, odpowiedź zostanie gwałtownie urwana, a pole finish_reason zwróci "length" zamiast "stop". To najczęstsza przyczyna odpowiedzi urywających się w połowie zdania, czego nikt nie zauważa, dopóki nie zacznie monitorować tego pola. Właściwym odruchem jest dopasowanie limitu do zadania: klasyfikacja mieści się w 10–50 tokenach, ponieważ oczekujesz tylko etykiety, streszczenie wymaga 200–500 tokenów, pisanie swobodne zajmuje 1000–4000, a generowanie kodu łatwo osiąga 2000 lub 8000 tokenów, ponieważ pełny plik jest długi.
Parametr temperature
Temperatura kontroluje stopień losowości przy wyborze tokenów. Im niższa wartość, tym bardziej deterministyczny i przewidywalny staje się model; im wyższa, tym częściej próbuje on mało prawdopodobnych kontynuacji. Do pytań faktograficznych chcesz stosować pierwsze podejście; do ćwiczeń z nazewnictwem – drugie.
# Niska temperatura — ekstrakcja, klasyfikacja, fakty
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Jaka jest stolica Francji?"}],
temperature=0.1
)
# Wysoka temperatura — kreatywność, burza mózgów
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Wymyśl nazwę dla startupu AI."}],
temperature=1.2
)
Zakres wynosi od 0.0 do 1.5. Nie polegaj na temperature=0 dla idealnego determinizmu: niewielkie wahania nadal występują z powodu zaokrągleń liczb zmiennoprzecinkowych na poziomie sprzętowym.
Parametr top_p
Próbkowanie jądra, czyli Top P, działa na tym samym mechanizmie, ale inną ścieżką: ogranicza kandydujące tokeny poprzez próg skumulowanego prawdopodobieństwa. Przy top_p=0.5 w grze pozostają tylko najbardziej prawdopodobne tokeny, których sumaryczne prawdopodobieństwo osiąga 50%; reszta jest odrzucana.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Dokończ: Kot jest na..."}],
temperature=0.7,
top_p=0.9 # Bierze pod uwagę tokeny obejmujące 90% prawdopodobieństwa
)
Mistral zaleca dostosowywanie tylko jednego parametru naraz, either temperature or top_p, nigdy obu jednocześnie. Powód jest praktyczny: jeśli wynik stanie się dziwny po przesunięciu obu suwaków, nic nie wskaże Ci, który z nich był przyczyną, tracąc zarówno możliwość debugowania, jak i powtarzalność.
Pełny przykład ze wszystkimi parametrami
Połączone w jednym wywołaniu, te ustawienia tworzą generator haseł reklamowych, który jest celowo zwięzły i nieco odważny, jednocześnie śledząc zużycie tokenów:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Jesteś zwięzłym i dynamicznym copywriterem marketingowym."
},
{
"role": "user",
"content": "Napisz hasło reklamowe dla aplikacji do medytacji."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Uruchom ten skrypt trzy razy z rzędu, a następnie zamień temperature=0.9 na 0.1 i uruchom go jeszcze trzy razy. Różnica między tymi dwiema seriami nauczy Cię więcej o tym parametrze niż jakakolwiek definicja.
Kluczowe wnioski
modelimessagesto jedyne wymagane parametrymax_tokensto sufit, a nie cel – sprawdzajfinish_reason, aby wykryć ucięcie- Używaj niskiej
temperaturedo zadań faktograficznych, wysokiej do kreatywnych top_pdopracowuje rozkład tokenów – nie dostosowuj go jednocześnie ztemperature- W środowisku produkcyjnym używaj identyfikatorów modeli z wersjami dla zapewnienia powtarzalności