Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Základné parametre

Lekcia 3 z 16 Aktualizované 2. novembra 2026 Vývojár
Na tejto strane
  1. Konfigurácia volaní API
  2. Parameter model
  3. Parameter max_tokens
  4. Parameter temperature
  5. Parameter top_p
  6. Kompletný príklad so všetkými parametrami
  7. Kľúčové poznatky

Konfigurácia volaní API

Okrem povinných polí model a messages prijíma API Chat Completions niekoľko parametrov, ktoré riadia správanie generovania. Práve tieto nastavenia odlišujú extraktor dát, ktorý vráti identické výsledky pre tú istú faktúru, od generátora sloganov, ktorý sa nikdy neopakuje. Volací kód zostáva od jedného prípadu použitia k druhému nezmenený; menia sa len nastavenia, a preto musíš presne vedieť, čo každý z nich robí.

Tu sú parametre, s ktorými budeš pracovať denne, spolu s ich typmi a predvolenými hodnotami.

ParameterTypPredvolená hodnotaPopis
modelstring—Identifikátor modelu (povinné)
messagesarray—Pole správ (povinné)
max_tokensintegerpremennáMaximálny počet výstupných tokenov
temperaturefloat0.7Riadi kreativitu (0.0 až 1.5)
top_pfloat1.0Vzorkovanie jadra (0.0 až 1.0)
streambooleanfalseAktivuje streamovanie SSE
safe_promptbooleanfalseAktivuje bezpečnostné zábrany

Parameter model

Tvoja voľba modelu okamžite určuje schopnosti, rýchlosť a cenu každého volania – tri kompromisy, ktoré inde nedoženieš. K aprílu 2026 sú hlavnými modelmi:

# Vlajková loď — komplexné uvažovanie, viacjazyčnosť
model = "mistral-large-latest"

# Kompaktný model — rýchly, úsporný, ideálny pre produkciu
model = "mistral-small-latest"

# Miniatúrny model — ultra-rýchly, edge computing
model = "ministral-3b-latest"

# Kódovací model — špecializovaný na programovanie
model = "codestral-latest"

Prípona -latest je počas vývoja výhodná: vždy ukazuje na najnovšiu verziu bez potreby meniť kód. V produkčnom prostredí sa však táto výhoda mení na riziko, pretože aktualizácia na strane Mistralu môže nenápadne zmeniť správanie tvojej aplikácie. Uprednostni verzionované identifikátory ako mistral-large-2512, aby si zaručil reprodukovateľnosť svojich testov.

Parameter max_tokens

Tento parameter stanovuje hornú hranicu počtu tokenov, ktoré môže model vo svojej odpovedi vygenerovať. Nenúti model vyprodukovať presne tento počet; definuje iba strop, nič viac.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Zhrň tento text do jednej vety."}],
    max_tokens=100  # Odpoveď nepresiahne 100 tokenov
)

Ak model dosiahne tento limit, odpoveď sa náhle preruší a finish_reason vráti "length" namiesto "stop". Toto je najčastejšia príčina odpovedí, ktoré sa zastavia v polovici vety, a nikto si to nevšimne, kým tento pole nemonitoruje. Správnym reflexom je nakalibrovať strop podľa úlohy: klasifikácia sa zmestí do 10 až 50 tokenov, keďže očakávaš len štítok, zhrnutie potrebuje 200 až 500 tokenov, voľné písanie zaberie 1 000 až 4 000 a generovanie kódu ľahko dosiahne 2 000 alebo 8 000 tokenov, pretože celý súbor je dlhý.

Parameter temperature

Teplota riadi mieru náhodnosti pri výbere tokenov. Čím nižšia hodnota, tým je model deterministickejší a predvídateľnejší; čím vyššia, tým viac sa pokúša o nepravdepodobné pokračovania. Pre faktické otázky chceš prvý prístup; pre cvičenia na pomenovanie ten druhý.

# Nízka teplota — extrakcia, klasifikácia, fakty
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Aké je hlavné mesto Francúzska?"}],
    temperature=0.1
)

# Vysoká teplota — kreativita, brainstorming
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Vymysli názov pre startup zameraný na AI."}],
    temperature=1.2
)

Rozsah siaha od 0.0 do 1.5. Nespoliehaj sa na temperature=0 pre dokonalý determinizmus: malé variácie pretrvávajú kvôli zaokrúhľovaniu čísel s pohyblivou desatinnou čiarkou na úrovni hardvéru.

Parameter top_p

Vzorkovanie jadra, alebo Top P, pôsobí na rovnakú páku, ale inou cestou: obmedzuje kandidátske tokeny podľa kumulatívneho prahového hodnotenia pravdepodobnosti. Pri top_p=0.5 zostanú v hre len najpravdepodobnejšie tokeny, ktorých súčet pravdepodobností dosiahne 50 %; zvyšok sa okamžite zahodí.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Doplň: Mačka je na..."}],
    temperature=0.7,
    top_p=0.9  # Zohľadní tokeny pokrývajúce 90 % pravdepodobnosti
)

Mistral odporúča upravovať vždy len jeden parameter naraz, či už teplotu alebo top_p, nikdy nie oba súčasne. Dôvod je praktický: ak sa výstup stane po posunutí oboch posuvníkov zvláštnym, nič ti nepovie, ktorý z nich to spôsobil, a stratíš tak možnosť ladenia aj reprodukovateľnosti.

Kompletný príklad so všetkými parametrami

V spojení do jedného volania vytvoria tieto nastavenia generátor sloganov, ktorý je zámerne stručný a trochu drzý, pričom zároveň sleduje spotrebu tokenov:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Si úsporný a úderný marketingový copywriter."
        },
        {
            "role": "user",
            "content": "Napíš slogan pre aplikáciu na meditáciu."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Použité tokeny: {response.usage.total_tokens}")

Spusť tento skript trikrát za sebou, potom nahraď temperature=0.9 hodnotou 0.1 a spusti ho ešte trikrát. Rozdiel medzi týmito dvoma sériami ťa naučí o tomto parametri viac než akákoľvek definícia.

Kľúčové poznatky

  • model a messages sú jediné povinné parametre
  • max_tokens je strop, nie cieľ – na zistenie orezania skontroluj finish_reason
  • Pre faktické úlohy používaj nízku temperature, pre kreatívne vysokú
  • top_p spresňuje distribúciu tokenov – neupravuj ho súčasne s temperature
  • V produkčnom prostredí používaj verzionované identifikátory modelov kvôli reprodukovateľnosti