Perusparametrit
Tällä sivulla
API-kutsujen määrittäminen
Vaadittujen model- ja messages-kenttien lisäksi Chat Completions API hyväksyy joukon parametreja, jotka ohjaavat tekstin generointia. Nämä asetukset erottavat toisistaan esimerkiksi laskutiedon ekstraktorin, joka palauttaa aina saman tuloksen samalle laskulle, ja iskulausegeneraattorin, joka ei toista itseään koskaan. Kutsuva koodi pysyy muuttumattomana käyttötarkoituksesta riippumatta; vain asetukset vaihtuvat. Siksi sinun on ymmärrettävä täsmällisesti, mitä kukin parametri tekee.
Tässä ovat parametrit, joita käsittelet päivittäin, niiden tietotyypit ja oletusarvot.
| Parametri | Tyyppi | Oletus | Kuvaus |
|---|---|---|---|
model | merkkijono | — | Mallin tunniste (vaadittu) |
messages | taulukko | — | Viestitaulukko (vaadittu) |
max_tokens | kokonaisluku | vaihtelee | Tuotettujen tokenien enimmäismäärä |
temperature | liukuluku | 0.7 | Ohjaa luovuutta (0.0–1.5) |
top_p | liukuluku | 1.0 | Ydinotanta (nucleus sampling) (0.0–1.0) |
stream | totuusarvo | false | Ottaa käyttöön SSE-suoratoiston |
safe_prompt | totuusarvo | false | Ottaa käyttöön turvallisuussuojaukset |
model-parametri
Mallivalintasi määrittää välittömästi jokaisen kutsun ominaisuudet, nopeuden ja kustannukset. Nämä ovat kolme kompromissia, joita et voi korvata myöhemmin muualla. Huhtikuuhun 2026 mennessä ensisijaiset mallit ovat:
# Lippulaivamalli – monimutkainen päättely, monikielisyys
model = "mistral-large-latest"
# Kompakti malli – nopea, edullinen, ihanteellinen tuotantoon
model = "mistral-small-latest"
# Miniatyyrimalli – erittäin nopea, reunapalvelimet (edge computing)
model = "ministral-3b-latest"
# Koodimalli – erikoistunut ohjelmointiin
model = "codestral-latest"
Liite -latest on kätevä kehitysvaiheessa: se osoittaa aina uusimpaan versioon ilman koodimuutoksia. Tuotannossa tämä mukavuus muuttuu kuitenkin riskiksi, sillä Mistralin puolella tapahtuva päivitys voi muuttaa sovelluksesi toimintaa hienovaraisesti. Suosi versionumeroituja tunnisteita, kuten mistral-large-2512, taataksesi testiesi toistettavuuden.
max_tokens-parametri
Tämä parametri asettaa ylärajan tokenien määrälle, jonka malli voi tuottaa vastauksessaan. Se ei pakota mallia tuottamaan tarkalleen tätä määrää; se määrittelee ainoastaan katon, ei mitään muuta.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Tiivistä tämä teksti yhteen lauseeseen."}],
max_tokens=100 # Vastaus ei ylitä 100 tokenia
)
Jos malli saavuttaa tämän rajan, vastaus katkeaa äkillisesti ja finish_reason palauttaa arvon "length" arvon "stop" sijaan. Tämä on yleisin syy vastauksiin, jotka pysähtyvät keskellä lausetta, eikä kukaan huomaa sitä ennen kuin tätä kenttää valvotaan. Oikea reagointitapa on kalibroida katto tehtävän mukaan: luokitteluun riittää 10–50 tokenia, koska odotat vain etikettiä; tiivistelmä vaatii 200–500 tokenia; vapaa muotoilu 1 000–4 000 tokenia; ja koodin generointi saavuttaa helposti 2 000 tai jopa 8 000 tokenia, sillä kokonainen tiedosto on pitkä.
temperature-parametri
Lämpötila ohjaa tokenien valinnan satunnaisuusastetta. Mitä alhaisempi arvo, sitä deterministisempi ja ennustettavampi malli on; mitä korkeampi arvo, sitä enemmän se kokeilee epätodennäköisiä jatkumoita. Faktuaalisissa kysymyksissä haluat edellistä lähestymistapaa, nimikeharjoituksissa jälkimmäistä.
# Matala lämpötila – ekstraktio, luokittelu, faktat
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Mikä on Ranskan pääkaupunki?"}],
temperature=0.1
)
# Korkea lämpötila – luovuus, ideointi
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Keksi nimi tekoälyyritykselle."}],
temperature=1.2
)
Vaihteluväli on 0.0–1.5. Älä luota arvoon temperature=0 täydelliseen determinismiin: pieniä vaihteluita esiintyy edelleen laitteistotason liukulukupyöristysten vuoksi.
top_p-parametri
Ydinotanta (nucleus sampling) eli Top P vaikuttaa samaan vipuun, mutta eri reittiä: se rajoittaa ehdokastokeneitä kumulatiivisen todennäköisyyskynnyksen perusteella. Arvolla top_p=0.5 kilpailuun jäävät vain ne todennäköisimmät tokenit, joiden yhteenlasketut todennäköisyydet saavuttavat 50 %; loput hylätään suoraan.
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Täydennä: Kissa on..."}],
temperature=0.7,
top_p=0.9 # Huomioi tokenit, jotka kattavat 90 % todennäköisyydestä
)
Mistral suosittelee säätämään vain yhtä parametria kerrallaan, joko lämpötilaa tai top_p:tä, ei koskaan molempia yhdessä. Syy on käytännöllinen: jos tuloste muuttuu oudoksi molempien liukusäätimien siirtämisen jälkeen, mikään ei kerro, kumpi aiheutti muutoksen, ja menetat sekä vianetsittävyyden että toistettavuuden.
Täydellinen esimerkki kaikilla parametreilla
Yhdistettynä yhteen kutsuun nämä asetukset luovat iskulausegeneraattorin, joka on tarkoituksellisen lyhyt ja hieman rohkea, samalla kun se seuraa tokenien kulutusta:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": "Olet ytimekäs ja iskevä markkinointikirjoittaja."
},
{
"role": "user",
"content": "Kirjoita iskulause meditaatiosovellukselle."
}
],
max_tokens=50,
temperature=0.9,
top_p=1.0
)
print(response.choices[0].message.content)
print(f"Tokens used: {response.usage.total_tokens}")
Suorita tämä skripti kolme kertaa peräkkäin, korvaa sitten temperature=0.9 arvolla 0.1 ja suorita se vielä kolme kertaa. Ero näiden kahden sarjan välillä opettaa sinulle tästä parametrista enemmän kuin mikään määritelmä voisi.
Keskeiset asiat
modeljamessagesovat ainoat vaaditut parametritmax_tokenson katto, ei tavoite – tarkistafinish_reasonhavaitaksesi typistyksen- Käytä matalaa
temperature-arvoa faktuaalisissa tehtävissä, korkeaa luovissa top_phienosäätää tokenien jakautumista – älä säädä sitä samanaikaisestitemperature-parametrin kanssa- Käytä versionumeroituja mallitunnisteita tuotannossa toistettavuuden varmistamiseksi