Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Temperatuur

Õppetund 9 / 16 Värskendatud 2. november 2026 Algajatele
Sellel lehel
  1. Mudeli loovuse juhtimine
  2. Kuidas temperatuur toimib
  3. Temperatuuri kasutamine Mistrali API-ga
  4. Temperatuur 0 ei ole täiuslikult deterministlik
  5. Kohanda temperatuur kontekstiga
  6. Katseta õige sätte leidmiseks
  7. Peamised punktid

Mudeli loovuse juhtimine

Seni oleme keskendunud sinu sisendi (prompt) sisule. Nüüd võtame ette teise sama võimsa hoova: generatsiooniparameetrid. Esimene ja kõige fundamentaalsem neist on temperatuur. See mõjutab otseselt tokenite tõenäosusjaotust, määrates, kas mudel käitub deterministlikult – tootes ühest päringust teise ennustatavaid ja peaaegu identseid vastuseid – või loovalt, genereerides varieeruvaid ja mõnikord üllatavaid tulemusi. Sama sisend, saadetud kahe erineva temperatuuriga, võib anda kas kaine tehnilise kirjelduse või teksti, mis liigub ootamatutes suundades. Selle parameetri mõistmine on hädavajalik, et kohandada Mistrali mudeli käitumist iga kasutusjuhu jaoks.

Kuidas temperatuur toimib

Tuleta meele põhimehhanismi: igal genereerimise sammul arvutab mudel iga võimaliku tokeni tõenäosuse ja valib seejärel ühe. Temperatuur muudab selle jaotuse kuju enne valikut. Madala temperatuuri korral, lähedal nullile, muutub jaotus „teravaks“: mudel keskendub peaaegu eranditult kõige tõenäolisematele tokenitele, muutes vastused ennustatavaks ja järjepidevaks. Küsi temalt Itaalia pealinna temperatuuril 0,1 ja sa saad peaaegu iga kord sama lause.

Kõrge temperatuuri korral, lähedal ühele, jaotus hoopis „lapistub“: vähem tõenäolised tokenid muutuvad taas kättesaadavaks, mudel arvestab laiemat võimalike jädendite valikut ja vastused muutuvad mitmekesisemaks – mõnikord sidususe arvelt. See on täpselt see, mida soovid ajurünnakuks, ja täpselt see, mida tuleb vältida andmete ekstraheerimisel. Järgnev tabel võtab kokku kasulikud vahemikud.

Temperatuur Käitumine Kasutusjuhud
0.0 Peaaegu deterministlik, alati kõige tõenäolisem token Andmete ekstraheerimine, klassifitseerimine, faktilised vastused
0.1 - 0.3 Väga ennustatav kergete variatsioonidega Koodi genereerimine, tõlkimine, tehniline dokumentatsioon
0.4 - 0.6 Tasakaal sidususe ja mitmekesisuse vahel Professionaalne kirjutamine, ümberformuleerimine, kokkuvõtete tegemine
0.7 - 0.8 Loominguline hea sidususega Ajurünnak, turundustekstid, lugude jutustamine
0.9 - 1.0 Väga loominguline, üllatav, mõnikord ebasidus Luule, ilukirjandus, vaba ideede genereerimine, uurimine

Temperatuuri kasutamine Mistrali API-ga

API-s edastatakse temperatuur lihtsa väljakutse parameetrina. Võrdle neid kahte päringut: esimene ootab faktilist ja stabiilset vastust, teine taotleb mitmekesisust.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

# Madal temperatuur: faktiline ja deterministlik vastus
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the ROI formula?"}],
    temperature=0.1
)

# Kõrge temperatuur: loominguline ja varieeruv vastus
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
    temperature=0.8
)

Temperatuur 0 ei ole täiuslikult deterministlik

Üht levinud väärarusaama tuleb kohe parandada: isegi väärtusega temperature=0 võivad Mistrali vastused ühest päringust teise näidata kerget variatiivsust. See tuleneb riistvaralistest teguritest – ujukomaarvutustest, GPU paralleeltöötlusest – mis toovad kaasa pisikesi ümardamis erinevusi, mis on piisavad, et mõnikord kallutada tokeni valikut. Seega, kui ehidad automatiseeritud teste või võrdlusaluseid, kus reprodutseeritavus on kriitiline, ära toetu ainult temperature=0-le: kombineeri madal temperatuur koodipoolse kontrolliga, mis valideerib vastuse sisu, mitte selle täpset vormi.

Kohanda temperatuur kontekstiga

Vaatame, kuidas see säte toimib kolmes tüüpilises professionaalses olukorras. Klassifitseerimisel või ekstraheerimisel soovid, et sama kliendi arvustus annaks alati sama hinnangu: selleks on temperatuur 0.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
        {"role": "user", "content": "The product works correctly."}
    ],
    temperature=0.0
)

Turundustekstide puhul oleks liiga mehaaniline vastus igav; temperatuuril 0,7 varieerib mudel oma väljendusviisi, jäädes samas sidusaks – ideaalne mitme konksu loomiseks ja parima valimiseks.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You are a creative copywriter."},
        {"role": "user", "content": "Write 3 hooks for an email campaign."}
    ],
    temperature=0.7
)

Lõpuks, ajurünnaku jaoks mine kuni 0,9-ni: sa nõustud, et mõned ideed on kaugeleulatuvad, kuna filtreerid need hiljem. Kümme juhtlõnga, millest kolm on suurepärased, on paremad kui viis juhtlõnga, mis on kõik mõistlikud ja kõik juba nähtud.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
    ],
    temperature=0.9
)

Katseta õige sätte leidmiseks

Universaalselt optimaalset temperatuuri ei ole: õige väärtus sõltub sinu sisendist, mudelist ja sinu tolerantsist varieeruvuse suhtes. Ainuke usaldusväärne meetod on katsetamine, mis viiakse läbi rangelt:

  1. Alusta mudeli vaikeväärtusest
  2. Testi oma sisendit 3–4 temperatuuriväärtusega (0,1; 0,4; 0,7; 0,9)
  3. Võrdle tulemusi iga väärtuse kohta 5–10 käivituse lõikes
  4. Tuvasta väärtus, mis pakub sinu juhu jaoks parimat sidususe ja mitmekesisuse suhet
  5. Dokumenteeri valitud säte koos oma sisendiga

Seda viimast punkti sageli alahinnatakse: tootmises kasutatav sisend, mille temperatuuri ei ole dokumenteeritud, on poolikult määratletud; sinu kolleeg kasutab seda teiste sätetega ja imestab, miks ta saab erinevaid tulemusi.

Peamised punktid

  • Temperatuur kontrollib mudeli loovuse ja determinismi taset
  • Madalad väärtused (0–0,3) faktiliste ülesannete jaoks, kõrged väärtused (0,7–1,0) loominguliste ülesannete jaoks
  • Isegi temperatuuril 0 on võimalikud kerged variatsioonid
  • Katseta mitme väärtusega, et leida optimaalne säte
  • Dokumenteeri tootmises alati oma sisendite juures kasutatud temperatuur