Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Základní parametry

Lekce 3 z 16 Aktualizováno 2. listopadu 2026 Vývojář
Na této stránce
  1. Konfigurace volání API
  2. Parametr model
  3. Parametr max_tokens
  4. Parametr temperature
  5. Parametr top_p
  6. Kompletní příklad se všemi parametry
  7. Klíčové poznatky

Konfigurace volání API

Kromě povinných polí model a messages přijímá API Chat Completions několik parametrů, které řídí chování generování. Právě tato nastavení dělají rozdíl mezi extraktorem dat, který vrací pro stejnou fakturu totožné výsledky, a generátorem sloganů, který se nikdy neopakuje. Volací kód zůstává od jednoho případu použití k druhému nezměněn; mění se pouze nastavení, a přesně proto musíš vědět, co každý z nich dělá.

Zde jsou parametry, se kterými budeš pracovat denně, včetně jejich typů a výchozích hodnot.

ParametrTypVýchozí hodnotaPopis
modelstring—Identifikátor modelu (povinné)
messagesarray—Pole zpráv (povinné)
max_tokensintegerproměnnáMaximální počet výstupních tokenů
temperaturefloat0.7Řídí kreativitu (0.0 až 1.5)
top_pfloat1.0Vzorkování jádra (0.0 až 1.0)
streambooleanfalsePovolí streamování SSE
safe_promptbooleanfalsePovolí bezpečnostní zábrany

Parametr model

Tvá volba modelu okamžitě určuje schopnosti, rychlost a náklady každého volání – tři kompromisy, které jinde nenahradíš. K dubnu 2026 jsou hlavními modely:

# Vlajková loď — složité uvažování, vícejazyčnost
model = "mistral-large-latest"

# Kompaktní model — rychlý, úsporný, ideální pro produkci
model = "mistral-small-latest"

# Miniaturní model — ultra-rychlý, edge computing
model = "ministral-3b-latest"

# Kódovací model — specializovaný na programování
model = "codestral-latest"

Přípona -latest je během vývoje pohodlná: vždy ukazuje na nejnovější verzi bez nutnosti měnit kód. V produkci se však tato výhoda mění v riziko, protože aktualizace na straně Mistralu může nenápadně změnit chování tvé aplikace. Pro zaručení reprodukovatelnosti testů upřednostňuj verze s číslem, jako je mistral-large-2512.

Parametr max_tokens

Tento parametr stanoví horní limit počtu tokenů, které může model ve své odpovědi vygenerovat. Nenutí model vytvořit přesně tento počet; definuje pouze strop, nic víc.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Shrň tento text do jedné věty."}],
    max_tokens=100  # Odpověď nepřekročí 100 tokenů
)

Pokud model dosáhne tohoto limitu, odpověď se abruptně přeruší a finish_reason vrátí "length" místo "stop". To je nejčastější příčina odpovědí, které se zastaví uprostřed věty, a nikdo si toho nevšimne, dokud toto pole nesleduješ. Správným reflexem je nastavit strop podle úkolu: klasifikace se vejde do 10 až 50 tokenů, protože očekáváš pouze štítek, shrnutí potřebuje 200 až 500 tokenů, volná tvorba textu zabere 1 000 až 4 000 a generování kódu snadno dosáhne 2 000 nebo 8 000 tokenů, protože celý soubor je dlouhý.

Parametr temperature

Teplota řídí míru náhodnosti při výběru tokenů. Čím nižší hodnota, tím determinističtější a předvídatelnější model je; čím vyšší, tím více se snaží o nepravděpodobná pokračování. Pro faktické otázky chceš první přístup; pro cvičení na vymýšlení názvů ten druhý.

# Nízká teplota — extrakce, klasifikace, fakta
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Jaké je hlavní město Francie?"}],
    temperature=0.1
)

# Vysoká teplota — kreativita, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Vymysli název pro startup zaměřený na AI."}],
    temperature=1.2
)

Rozsah sahá od 0.0 do 1.5. Nespoléhej na temperature=0 pro dokonalý determinismus: drobné variace přetrvávají kvůli zaokrouhlování čísel s plovoucí řádovou čárkou na úrovni hardwaru.

Parametr top_p

Vzorkování jádra, neboli Top P, působí na stejnou páku, ale jinou cestou: omezuje kandidátské tokeny prahem kumulativní pravděpodobnosti. Při top_p=0.5 zůstávají ve hře pouze nejpravděpodobnější tokeny, jejichž součet pravděpodobností dosáhne 50 %; zbytek je okamžitě vyřazen.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Doplň: Kočka je na..."}],
    temperature=0.7,
    top_p=0.9  # Zvažuje tokeny pokrývající 90 % pravděpodobnosti
)

Mistral doporučuje upravovat vždy pouze jeden parametr najednou, buď teplotu, nebo top_p, nikdy oba současně. Důvod je praktický: pokud se výstup po posunutí obou jezdců stane podivným, nic ti neřekne, který z nich to způsobil, a přijdeš jak o možnost ladění, tak o reprodukovatelnost.

Kompletní příklad se všemi parametry

Kombinací těchto nastavení do jediného volání vytvoříš generátor sloganů, který je záměrně stručný a mírně drzý, a zároveň sleduješ spotřebu tokenů:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Jsi stručný a úderný marketingový copywriter."
        },
        {
            "role": "user",
            "content": "Napiš slogan pro aplikaci na meditaci."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Použité tokeny: {response.usage.total_tokens}")

Spusť tento skript třikrát za sebou, poté nahraď temperature=0.9 hodnotou 0.1 a spusť jej znovu třikrát. Rozdíl mezi těmito dvěma sériemi tě naučí o tomto parametru více než jakákoli definice.

Klíčové poznatky

  • model a messages jsou jediné povinné parametry
  • max_tokens je strop, nikoliv cíl – pro detekci oříznutí kontroluj finish_reason
  • Pro faktické úkoly používej nízkou temperature, pro kreativitu vysokou
  • top_p upravuje rozložení tokenů – neupravuj jej současně s temperature
  • V produkci používej verze modelů s číslem pro zajištění reprodukovatelnosti