Základné parametre
Na tejto strane
Konfigurácia volaní API
Okrem povinných polí model a messages prijíma API Chat Completions niekoľko parametrov, ktoré riadia správanie generovania. Práve tieto nastavenia odlišujú extraktor dát, ktorý vráti identické výsledky pre tú istú faktúru, od generátora sloganov, ktorý sa nikdy neopakuje. Volací kód zostáva od jedného prípadu použitia k druhému nezmenený; menia sa len nastavenia, a preto musíš presne vedieť, čo každý z nich robí.
Tu sú parametre, s ktorými budeš pracovať denne, spolu s ich typmi a predvolenými hodnotami.
| Parameter | Typ | Predvolená hodnota | Popis |
|---|---|---|---|
model | string | — | Identifikátor modelu (povinné) |
messages | array | — | Pole správ (povinné) |
max_tokens | integer | premenná | Maximálny počet výstupných tokenov |
temperature | float | 0.7 | Riadi kreativitu (0.0 až 1.5) |
top_p | float | 1.0 | Vzorkovanie jadra (0.0 až 1.0) |
stream | boolean | false | Aktivuje streamovanie SSE |
safe_prompt | boolean | false | Aktivuje bezpečnostné zábrany |
Parameter model
Tvoja voľba modelu okamžite určuje schopnosti, rýchlosť a cenu každého volania – tri kompromisy, ktoré inde nedoženieš. K aprílu 2026 sú hlavnými modelmi:
# Vlajková loď — komplexné uvažovanie, viacjazyčnosť
model = "mistral-large-latest"
# Kompaktný model — rýchly, úsporný, ideálny pre produkciu
model = "mistral-small-latest"
# Miniatúrny model — ultra-rýchly, edge computing
model = "ministral-3b-latest"
# Kódovací model — špecializovaný na programovanie
model = "codestral-latest"
Prípona -latest je počas vývoja výhodná: vždy ukazuje na najnovšiu verziu bez potreby meniť kód. V produkčnom prostredí sa však táto výhoda mení na riziko, pretože aktualizácia na strane Mistralu môže nenápadne zmeniť správanie tvojej aplikácie. Uprednostni verzionované identifikátory ako mistral-large-2512, aby si zaručil reprodukovateľnosť svojich testov.
Parameter max_tokens
Tento parameter stanovuje hornú hranicu počtu tokenov, ktoré môže model vo svojej odpovedi vygenerovať. Nenúti model vyprodukovať presne tento počet; definuje iba strop, nič viac.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Zhrň tento text do jednej vety."}],
max_tokens=100 # Odpoveď nepresiahne 100 tokenov
)
Ak model dosiahne tento limit, odpoveď sa náhle preruší a finish_reason vráti "length" namiesto "stop". Toto je najčastejšia príčina odpovedí, ktoré sa zastavia v polovici vety, a nikto si to nevšimne, kým tento pole nemonitoruje. Správnym reflexom je nakalibrovať strop podľa úlohy: klasifikácia sa zmestí do 10 až 50 tokenov, keďže očakávaš len štítok, zhrnutie potrebuje 200 až 500 tokenov, voľné písanie zaberie 1 000 až 4 000 a generovanie kódu ľahko dosiahne 2 000 alebo 8 000 tokenov, pretože celý súbor je dlhý.
Parameter temperature
Teplota riadi mieru náhodnosti pri výbere tokenov. Čím nižšia hodnota, tým je model deterministickejší a predvídateľnejší; čím vyššia, tým viac sa pokúša o nepravdepodobné pokračovania. Pre faktické otázky chceš prvý prístup; pre cvičenia na pomenovanie ten druhý.
# Nízka teplota — extrakcia, klasifikácia, fakty
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Aké je hlavné mesto Francúzska?"}],
temperature=0.1
)
# Vysoká teplota — kreativita, brainstorming
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Vymysli názov pre startup zameraný na AI."}],
temperature=1.2
)
Rozsah siaha od 0.0 do 1.5. Nespoliehaj sa na temperature=0 pre dokonalý determinizmus: malé variácie pretrvávajú kvôli zaokrúhľovaniu čísel s pohyblivou desatinnou čiarkou na úrovni hardvéru.
Parameter top_p
Vzorkovanie jadra, alebo Top P, pôsobí na rovnakú páku, ale inou cestou: obmedzuje kandidátske tokeny podľa kumulatívneho prahového hodnotenia pravdepodobnosti. Pri top_p=0.5 zostanú v hre len najpravdepodobnejšie tokeny, ktorých súčet pravdepodobností dosiahne 50 %; zvyšok sa okamžite zahodí.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Doplň: Mačka je na..."}],
temperature=0.7,
top_p=0.9 # Zohľadní tokeny pokrývajúce 90 % pravdepodobnosti
)
Mistral odporúča upravovať vždy len jeden parameter naraz, či už teplotu alebo top_p, nikdy nie oba súčasne. Dôvod je praktický: ak sa výstup stane po posunutí oboch posuvníkov zvláštnym, nič ti nepovie, ktorý z nich to spôsobil, a stratíš tak možnosť ladenia aj reprodukovateľnosti.
Kompletný príklad so všetkými parametrami
V spojení do jedného volania vytvoria tieto nastavenia generátor sloganov, ktorý je zámerne stručný a trochu drzý, pričom zároveň sleduje spotrebu tokenov:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Si úsporný a úderný marketingový copywriter."
},
{
"role": "user",
"content": "Napíš slogan pre aplikáciu na meditáciu."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Použité tokeny: {response.usage.total_tokens}")
Spusť tento skript trikrát za sebou, potom nahraď temperature=0.9 hodnotou 0.1 a spusti ho ešte trikrát. Rozdiel medzi týmito dvoma sériami ťa naučí o tomto parametri viac než akákoľvek definícia.
Kľúčové poznatky
modelamessagessú jediné povinné parametremax_tokensje strop, nie cieľ – na zistenie orezania skontrolujfinish_reason- Pre faktické úlohy používaj nízku
temperature, pre kreatívne vysokú top_pspresňuje distribúciu tokenov – neupravuj ho súčasne stemperature- V produkčnom prostredí používaj verzionované identifikátory modelov kvôli reprodukovateľnosti