Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Temperatūra

Nodarbība 9 no 16 Atjaunota 2026. gada 2. novembris Iesācējs
Šajā lapā
  1. Kontrolē modeļa radošumu
  2. Kā darbojas temperatūra
  3. Temperatūras izmantošana ar Mistral API
  4. Temperatūra 0 nav pilnīgi deterministiska
  5. Pielāgo temperatūru kontekstam
  6. Eksperimentē, lai atrastu pareizo iestatījumu
  7. Galvenās atziņas

Kontrolē modeļa radošumu

Līdz šim esam koncentrējušies uz tava prompta saturu. Tagad pievērsīsimies citam tikpat spēcīgam instrumentam: ģenerēšanas parametriem. Pirmais un fundamentālākais no tiem ir temperatūra. Tā tieši ietekmē tokena varbūtību sadalījumu, nosakot, vai modelis uzvedīsies deterministiski — katrā izsaukumā ģenerējot paredzamas, gandrīz identiskas atbildes — vai radoši, radot daudzveidīgu un dažkārt pārsteidzošu saturu. Tas pats prompts, nosūtīts ar divām dažādām temperatūrām, var rezultēties vai nu sausā tehniskā specifikācijā, vai tekstā, kas aizved negaidītos virzienos. Šī parametra izpratne ir būtiska, lai pielāgotu Mistral modeļa uzvedību katram konkrētajam lietojumam.

Kā darbojas temperatūra

Atceries pamatmehānismu: katrā ģenerēšanas solī modelis aprēķina varbūtību katram iespējamajam tokenam un pēc tam izvēlas vienu. Temperatūra maina šī sadalījuma formu pirms atlases. Pie zemas temperatūras, tuvu 0, sadalījums kļūst “ass”: modelis gandrīz exclusively fokusējas uz visvarbūtīgākajiem tokeniem, padarot atbildes paredzamas un konsekventas. Ja pajautāsi Itālijas galvaspilsētu pie temperatūras 0,1, gandrīz katrā reizē saņemsi to pašu teikumu.

Pie augstas temperatūras, tuvu 1, sadalījums tiek “izlīdzināts”: mazāk varbūtīgi tokeni atkal kļūst pieejami, modelis apsver plašāku iespējamo secību klāstu, un atbildes iegūst daudzveidību — dažkārt uz koherences rēķina. Tieši to vēlies smadzeņu vētrās, un tieši no tā vēlies izvairīties, veicot datu ieguvi. Tālāk esošajā tabulā apkopoti noderīgie diapazoni.

Temperatūra Uzvedība Lietošanas gadījumi
0.0 Gandrīz deterministiska, vienmēr tiek izvēlēts visvarbūtīgākais tokens Datu ieguve, klasifikācija, faktoloģiskas atbildes
0.1 - 0.3 Ļoti paredzama ar nelielām variācijām Koda ģenerēšana, tulkošana, tehniskā dokumentācija
0.4 - 0.6 Līdzsvars starp koherenci un daudzveidību Profesionāla rakstīšana, pārfrazēšana, kopsavilkumu veidošana
0.7 - 0.8 Radoša ar labu koherenci Smaidzeņu vētras, mārketinga teksti, stāstu stāstīšana
0.9 - 1.0 Ļoti radoša, pārsteidzoša, dažkārt nekoherenta Dzeja, daiļliteratūra, brīva ideju ģenerēšana, izpēte

Temperatūras izmantošana ar Mistral API

API vidē temperatūra tiek nodota kā vienkāršs izsaukuma parametrs. Salīdzini šos divus pieprasījumus: pirmais sagaida faktoloģisku un stabilu atbildi, otrais meklē daudzveidību.

from mistralai.client import Mistral

client = Mistral(api_key="your-api-key")

# Zema temperatūra: faktoloģiska un deterministiska atbilde
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "What is the ROI formula?"}],
    temperature=0.1
)

# Augsta temperatūra: radoša un daudzveidīga atbilde
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
    temperature=0.8
)

Temperatūra 0 nav pilnīgi deterministiska

Nepieciešams nekavējoties labot izplatītu maldīgu priekšstatu: pat ar temperature=0 Mistral atbildes var uzrādīt nelielas variācijas no viena pieprasījuma uz otru. Tas notiek aparatūras faktoru dēļ — peldošā komata aprēķini, GPU paralēlizācija — kas ievieš niecīgas noapaļošanas atšķirības, pietiekamas, lai reizēm ietekmētu tokena izvēli. Tātad, ja veido automatizētus testus vai etalonus, kur atkārtojamība ir kritiska, nepaļaujies tikai uz temperature=0: apvieno zemu temperatūru ar koda puses pārbaudi, kas validē atbildes saturu, nevis tās precīzu formu.

Pielāgo temperatūru kontekstam

Aplūkosim, kā šis iestatījums izpaužas trīs tipiskās profesionālās situācijās. Klasifikācijai vai datu ieguvei vēlies, lai viena un tā pati klientu atsauksme vienmēr dotu to pašu vērtējumu: tam der temperatūra 0.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
        {"role": "user", "content": "The product works correctly."}
    ],
    temperature=0.0
)

Mārketinga tekstiem pārāk mehāniska atbilde būtu garlaicīga; pie 0,7 modelis variē savu formulējumu, saglabājot koherenci — ideāli, lai ģenerētu vairākus āķus un izvēlētos labāko.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "system", "content": "You are a creative copywriter."},
        {"role": "user", "content": "Write 3 hooks for an email campaign."}
    ],
    temperature=0.7
)

Visbeidzot, smadzeņu vētrām kāp līdz 0,9: tu pieņem, ka dažas idejas būs pārspīlētas, jo vēlāk tās atlasīsi. Desmit virzieni, no kuriem trīs ir izcili, ir labāki par pieciem virzieniem, kas visi ir saprātīgi, bet jau redzēti.

response = client.chat.complete(
    model="mistral-large-latest",
    messages=[
        {"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
    ],
    temperature=0.9
)

Eksperimentē, lai atrastu pareizo iestatījumu

Neeksistē universāli optimāla temperatūra: pareizā vērtība ir atkarīga no tava prompta, modeļa un tavas tolerance pret variācijām. Vienīgā uzticamā metode ir eksperimentēšana, veikta rūpīgi:

  1. Sāc ar modeļa noklusējuma vērtību
  2. Testē savu promptu ar 3–4 temperatūras vērtībām (0,1; 0,4; 0,7; 0,9)
  3. Salīdzini rezultātus 5–10 izpildes reizēm katrai vērtībai
  4. Identificē vērtību, kas piedāvā labāko koherences un daudzveidības attiecību tavam gadījumam
  5. Dokumentē izvēlēto iestatījumu kopā ar savu promptu

Šis pēdējais punkts bieži tiek palaists garām: produkcijas prompts bez dokumentētas temperatūras ir nepilnīgi specificēts prompts, ko tavs kolēģis izmantos ar citu iestatījumu un brīnīsies, kāpēc saņem atšķirīgus rezultātus.

Galvenās atziņas

  • Temperatūra kontrolē modeļa radošuma līmeni pretstatā determinismam
  • Zemas vērtības (0–0,3) faktoloģiskiem uzdevumiem, augstas vērtības (0,7–1,0) radošiem uzdevumiem
  • Pat pie temperatūras 0 ir iespējamas nelielas variācijas
  • Eksperimentē ar vairākām vērtībām, lai atrastu optimālo iestatījumu
  • Vienmēr dokumentē izmantoto temperatūru kopā ar saviem promptiem produkcijas vidē