Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Põhiparameetrid

Õppetund 3 / 16 Värskendatud 2. november 2026 Arendajatele
Sellel lehel
  1. Konfigureeri oma API päringuid
  2. Parameeter model
  3. Parameeter max_tokens
  4. Parameeter temperature
  5. Parameeter top_p
  6. Täielik näide kõigi parameetritega
  7. Peamised punktid

Konfigureeri oma API päringuid

Lisaks nõutavatele väljadele model ja messages aktsepteerib Chat Completions API käputäit parameetreid, mis juhivad genereerimise käitumist. Just need seaded teevad vahet andma ekstraheerijal, mis tagastab sama arve puhul identsed tulemused, ja loosungigeneraatoril, mis ei korda ennast kunagi. Väljakutsuv kood jääb ühest kasutusjuhtumist teiseni muutumatuks; muutuvad vaid seaded, mistõttu ongi hädavajalik mõista igaühe funktsiooni.

Siin on parameetrid, mida käsitled iga päev, koos nende tüüpide ja vaikimisi väärtustega.

ParameeterTüüpVaikimisiKirjeldus
modelstring—Mudeli identifikaator (nõutav)
messagesarray—Sõnumite massiiv (nõutav)
max_tokensintegermuutuvVäljundtokenite maksimaalne arv
temperaturefloat0.7Juhib loovust (0.0 kuni 1.5)
top_pfloat1.0Tuumaproovivõtt (0.0 kuni 1.0)
streambooleanfalseLubab SSE voogedastuse
safe_promptbooleanfalseLubab turvamehhanismid

Parameeter model

Sinu mudelivalik määrab koheselt iga päringu võimekuse, kiiruse ja hinna – need on kolm kompromissi, mida mujal heastada ei saa. Alates aprillist 2026 on peamised mudelid järgmised:

# Lipulaev – keeruline arutluskäik, mitmekeelne
model = "mistral-large-latest"

# Kompaktne mudel – kiire, ökonoomne, ideaalne tootmiseks
model = "mistral-small-latest"

# Miniatuurne mudel – ülikiire, servarvutus
model = "ministral-3b-latest"

# Koodimudel – spetsialiseerunud programmeerimisele
model = "codestral-latest"

Liide -latest on arenduse ajal mugav: see osutab alati uusimale versioonile ilma koodi muutmata. Tootmiskeskkonnas muutub see mugavus aga riskiks, kuna Mistrali poolne värskendus võib sinu rakenduse käitumist peenelt nihutada. Eelista versioneeritud identifikaatoreid, nagu mistral-large-2512, et garanteerida oma testide reprodutseeritavus.

Parameeter max_tokens

See parameeter määrab ülemise piiri tokenite arvule, mida mudel võib oma vastuses genereerida. See ei sunni mudelit tootma täpselt seda arvu; see defineerib vaid lae, mitte midagi enamat.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Võta see tekst kokku ühe lausega."}],
    max_tokens=100  # Vastus ei ületa 100 tokenit
)

Kui mudel jõuab selle piirini, katkeb vastus järsult ja finish_reason tagastab "length" asemel "stop". See on kõige levinum põhjus, miks vastused poole lause peal katkevad, ja keegi ei märka seda enne, kui seda välja jälgitakse. Õige refleks on kohandada lagi ülesandele: klassifitseerimine mahub 10–50 tokenisse, kuna ootad vaid silti; kokkuvõte vajab 200–500 tokenit; vabas vormis tekst kirjutamine võtab 1000–4000 tokenit ja koodi genereerimine ulatub hõlpsasti 2000 või 8000 tokenini, sest täielik fail on pikk.

Parameeter temperature

Temperatuur kontrollib tokenite valikulise juhuslikkuse astet. Mida madalam on väärtus, seda deterministlikumaks ja ennustatavamaks mudel muutub; mida kõrgemale see tõuseb, seda rohkem püüab mudel ebatõenäolisi jätkusid. Faktiliste küsimuste puhul soovid esimest lähenemist; nimede väljamõtlemise harjutuste puhul teist.

# Madal temperatuur – ekstraheerimine, klassifitseerimine, faktiline
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Mis on Prantsusmaa pealinn?"}],
    temperature=0.1
)

# Kõrge temperatuur – loovus, ideede genereerimine
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Mõtle välja nimi tehisintellekti idufirmale."}],
    temperature=1.2
)

Vahemik ulatub 0.0-st 1.5-ni. Ära tugine täiusliku determinismi saavutamisel väärtusele temperature=0: väikesed variatsioonid püsivad riistvaratasandi ujukomaarvude ümardamise tõttu.

Parameeter top_p

Tuumaproovivõtt ehk Top P toimib sama hoova kaudu, kuid teist teed pidi: see piirab kandidaattokeneid kumulatiivse tõenäosuse lävendiga. Kui top_p=0.5, jäävad võistlusesse vaid kõige tõenäolisemad tokenid, mille liidetud tõenäosused ulatuvad 50%-ni; ülejäänud visatakse kohe välja.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Lõpeta lause: Kass on..."}],
    temperature=0.7,
    top_p=0.9  # Arvestab tokeneid, mis katavad 90% tõenäosusest
)

Mistral soovitab korraga kohandada vaid ühte parameetrit, kas temperatuuri või top_p, mitte kunagi mõlemat koos. Põhjus on praktiline: kui väljund muutub pärast mõlema liigutaja nihutamist imelikuks, ei ütle miski, kumb selle põhjustas, ja kaotad nii silumisvõime kui ka reprodutseeritavuse.

Täielik näide kõigi parameetritega

Ühte päringusse kombineerituna loovad need seaded loosungigeneraatori, mis on tahtlikult lühike ja veidi julge, jälgides samal ajal tokenite tarbimist:

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.getenv("MISTRAL_API_KEY"))

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {
            "role": "system",
            "content": "Oled lakooniline ja tabav turundustekstide kirjutaja."
        },
        {
            "role": "user",
            "content": "Kirjuta loosung meditatsioonirakendusele."
        }
    ],
    max_tokens=50,
    temperature=0.9,
    top_p=1.0
)

print(response.choices[0].message.content)
print(f"Kasutatud tokenid: {response.usage.total_tokens}")

Käivita see skript kolm korda järjest, asenda seejärel temperature=0.9 väärtusega 0.1 ja käivita seda veel kolm korda. Erinevus nende kahe seeria vahel õpetab sulle selle parameetri kohta rohkem kui ükski definitsioon.

Peamised punktid

  • model ja messages on ainsad nõutavad parameetrid
  • max_tokens on lagi, mitte siht – kontrolli finish_reason-it, et tuvastada kärpimist
  • Kasuta faktiliste ülesannete jaoks madalat temperature-i ja loovuse jaoks kõrget
  • top_p täiustab tokenite jaotust – ära kohanda seda samaaegselt temperature-iga
  • Kasuta tootmiskeskkonnas reprodutseeritavuse tagamiseks versioneeritud mudeli identifikaatoreid