Základní parametry
Na této stránce
Konfigurace volání API
Kromě povinných polí model a messages přijímá API Chat Completions několik parametrů, které řídí chování generování. Právě tato nastavení dělají rozdíl mezi extraktorem dat, který vrací pro stejnou fakturu totožné výsledky, a generátorem sloganů, který se nikdy neopakuje. Volací kód zůstává od jednoho případu použití k druhému nezměněn; mění se pouze nastavení, a přesně proto musíš vědět, co každý z nich dělá.
Zde jsou parametry, se kterými budeš pracovat denně, včetně jejich typů a výchozích hodnot.
| Parametr | Typ | Výchozí hodnota | Popis |
|---|---|---|---|
model | string | — | Identifikátor modelu (povinné) |
messages | array | — | Pole zpráv (povinné) |
max_tokens | integer | proměnná | Maximální počet výstupních tokenů |
temperature | float | 0.7 | Řídí kreativitu (0.0 až 1.5) |
top_p | float | 1.0 | Vzorkování jádra (0.0 až 1.0) |
stream | boolean | false | Povolí streamování SSE |
safe_prompt | boolean | false | Povolí bezpečnostní zábrany |
Parametr model
Tvá volba modelu okamžitě určuje schopnosti, rychlost a náklady každého volání – tři kompromisy, které jinde nenahradíš. K dubnu 2026 jsou hlavními modely:
# Vlajková loď — složité uvažování, vícejazyčnost
model = "mistral-large-latest"
# Kompaktní model — rychlý, úsporný, ideální pro produkci
model = "mistral-small-latest"
# Miniaturní model — ultra-rychlý, edge computing
model = "ministral-3b-latest"
# Kódovací model — specializovaný na programování
model = "codestral-latest"
Přípona -latest je během vývoje pohodlná: vždy ukazuje na nejnovější verzi bez nutnosti měnit kód. V produkci se však tato výhoda mění v riziko, protože aktualizace na straně Mistralu může nenápadně změnit chování tvé aplikace. Pro zaručení reprodukovatelnosti testů upřednostňuj verze s číslem, jako je mistral-large-2512.
Parametr max_tokens
Tento parametr stanoví horní limit počtu tokenů, které může model ve své odpovědi vygenerovat. Nenutí model vytvořit přesně tento počet; definuje pouze strop, nic víc.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Shrň tento text do jedné věty."}],
max_tokens=100 # Odpověď nepřekročí 100 tokenů
)
Pokud model dosáhne tohoto limitu, odpověď se abruptně přeruší a finish_reason vrátí "length" místo "stop". To je nejčastější příčina odpovědí, které se zastaví uprostřed věty, a nikdo si toho nevšimne, dokud toto pole nesleduješ. Správným reflexem je nastavit strop podle úkolu: klasifikace se vejde do 10 až 50 tokenů, protože očekáváš pouze štítek, shrnutí potřebuje 200 až 500 tokenů, volná tvorba textu zabere 1 000 až 4 000 a generování kódu snadno dosáhne 2 000 nebo 8 000 tokenů, protože celý soubor je dlouhý.
Parametr temperature
Teplota řídí míru náhodnosti při výběru tokenů. Čím nižší hodnota, tím determinističtější a předvídatelnější model je; čím vyšší, tím více se snaží o nepravděpodobná pokračování. Pro faktické otázky chceš první přístup; pro cvičení na vymýšlení názvů ten druhý.
# Nízká teplota — extrakce, klasifikace, fakta
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Jaké je hlavní město Francie?"}],
temperature=0.1
)
# Vysoká teplota — kreativita, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Vymysli název pro startup zaměřený na AI."}],
temperature=1.2
)
Rozsah sahá od 0.0 do 1.5. Nespoléhej na temperature=0 pro dokonalý determinismus: drobné variace přetrvávají kvůli zaokrouhlování čísel s plovoucí řádovou čárkou na úrovni hardwaru.
Parametr top_p
Vzorkování jádra, neboli Top P, působí na stejnou páku, ale jinou cestou: omezuje kandidátské tokeny prahem kumulativní pravděpodobnosti. Při top_p=0.5 zůstávají ve hře pouze nejpravděpodobnější tokeny, jejichž součet pravděpodobností dosáhne 50 %; zbytek je okamžitě vyřazen.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Doplň: Kočka je na..."}],
temperature=0.7,
top_p=0.9 # Zvažuje tokeny pokrývající 90 % pravděpodobnosti
)
Mistral doporučuje upravovat vždy pouze jeden parametr najednou, buď teplotu, nebo top_p, nikdy oba současně. Důvod je praktický: pokud se výstup po posunutí obou jezdců stane podivným, nic ti neřekne, který z nich to způsobil, a přijdeš jak o možnost ladění, tak o reprodukovatelnost.
Kompletní příklad se všemi parametry
Kombinací těchto nastavení do jediného volání vytvoříš generátor sloganů, který je záměrně stručný a mírně drzý, a zároveň sleduješ spotřebu tokenů:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Jsi stručný a úderný marketingový copywriter."
},
{
"role": "user",
"content": "Napiš slogan pro aplikaci na meditaci."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Použité tokeny: {response.usage.total_tokens}")
Spusť tento skript třikrát za sebou, poté nahraď temperature=0.9 hodnotou 0.1 a spusť jej znovu třikrát. Rozdíl mezi těmito dvěma sériemi tě naučí o tomto parametru více než jakákoli definice.
Klíčové poznatky
modelamessagesjsou jediné povinné parametrymax_tokensje strop, nikoliv cíl – pro detekci oříznutí kontrolujfinish_reason- Pro faktické úkoly používej nízkou
temperature, pro kreativitu vysokou top_pupravuje rozložení tokenů – neupravuj jej současně stemperature- V produkci používej verze modelů s číslem pro zajištění reprodukovatelnosti