Temperatur
På denne side
Styr modellens kreativitet
Indtil nu har vi fokuseret på indholdet i din prompt. Nu tager vi fat på en anden lige så kraftfuld løftestang: generationsparametre. Den første og mest fundamentale er temperatur. Den påvirker direkte sandsynlighedsfordelingen for tokens og afgør, om modellen opfører sig deterministisk – hvor den producerer forudsigelige, næsten identiske svar fra kald til kald – eller kreativt, hvor den genererer varieret og nogle gange overraskende output. Den samme prompt sendt med to forskellige temperaturer kan resultere i en nøgtern teknisk specifikation eller en tekst, der bevæger sig i uventede retninger. Det er afgørende at forstå denne parameter for at tilpasse Mistral-modellens adfærd til hver enkelt brugssag.
Hvordan temperatur fungerer
Husk på den grundlæggende mekanisme: ved hvert generationstrin beregner modellen en sandsynlighed for hvert muligt token og vælger derefter ét. Temperatur ændrer formen på denne fordeling før udvælgelsen. Ved en lav temperatur, tæt på 0, bliver fordelingen “skarp”: modellen fokuserer næsten udelukkende på de mest sandsynlige tokens, hvilket gør svarene forudsigelige og konsistente. Spørger du den om Italiens hovedstad ved temperatur 0,1, får du næsten den samme sætning hver gang.
Ved en høj temperatur, tæt på 1, bliver fordelingen i stedet “udjævnet”: mindre sandsynlige tokens bliver igen tilgængelige, modellen overvejer et bredere udvalg af mulige sekvenser, og svarene får mere variation – nogle gange på bekostning af sammenhængen. Det er præcis, hvad du ønsker til brainstorming, og præcis, hvad du skal undgå ved dataudtræk. Følgende tabel opsummerer de nyttige intervaller.
| Temperatur | Adfærd | Brugssager |
|---|---|---|
| 0.0 | Kvasi-deterministisk, altid det mest sandsynlige token | Dataudtræk, klassificering, faktuelle svar |
| 0.1 - 0.3 | Meget forudsigelig med små variationer | Kodegenerering, oversættelse, teknisk dokumentation |
| 0.4 - 0.6 | Balance mellem sammenhæng og variation | Professionel skrivning, omformulering, resumé |
| 0.7 - 0.8 | Kreativ med god sammenhæng | Brainstorming, marketingtekster, storytelling |
| 0.9 - 1.0 | Meget kreativ, overraskende, nogle gange usammenhængende | Poesi, fiktion, fri idégenerering, udforskning |
Brug temperatur med Mistral API
I API’et angives temperatur som en simpel kald-parameter. Sammenlign disse to anmodninger: den første forventer et faktuel og stabilt svar, den anden søger variation.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
# Lav temperatur: faktuel og deterministisk respons
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the ROI formula?"}],
temperature=0.1
)
# Høj temperatur: kreativ og varieret respons
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
temperature=0.8
)
Temperatur 0 er ikke perfekt deterministisk
En almindelig misforståelse skal rettes med det samme: selv med temperature=0 kan Mistral-svar vise små variationer fra anmodning til anmodning. Dette skyldes hardwarefaktorer – flydende komma-beregninger, GPU-parallelisering – der introducerer små forskelle i afrunding, hvilket nogle gange er nok til at vippe valget af et token. Så hvis du bygger automatiserede tests eller benchmarks, hvor reproducerbarhed er afgørende, så stol ikke kun på temperature=0: kombiner en lav temperatur med et tjek på kodesiden, der validerer indholdet i svaret snarere end dets nøjagtige form.
Tilpas temperatur til konteksten
Lad os se, hvordan denne indstilling spiller ud i tre typiske professionelle situationer. Ved klassificering eller udtræk ønsker du, at den samme kundeanmeldelse altid giver den samme dom: det er temperatur 0.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
{"role": "user", "content": "The product works correctly."}
],
temperature=0.0
)
Til marketingtekster ville et for mekanisk svar være kedeligt; ved 0,7 varierer modellen sin formulering, mens den holder sammenhængen – ideelt til at producere flere hooks og vælge den bedste.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You are a creative copywriter."},
{"role": "user", "content": "Write 3 hooks for an email campaign."}
],
temperature=0.7
)
Til brainstorming skal du endelig op på 0,9: du accepterer, at nogle idéer vil være langt ude, da du filtrerer dem senere. Ti leads med tre fremragende er bedre end fem leads, der alle er fornuftige og alle allerede set.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
],
temperature=0.9
)
Eksperimenter for at finde den rette indstilling
Der findes ingen universelt optimal temperatur: den rigtige værdi afhænger af din prompt, din model og din tolerance for variabilitet. Den eneste pålidelige metode er eksperimenter udført stringent:
- Start med modellens standardværdi
- Test din prompt med 3-4 temperaturværdier (0,1, 0,4, 0,7, 0,9)
- Sammenlign resultater over 5-10 kørsler for hver værdi
- Identificer den værdi, der giver det bedste forhold mellem sammenhæng og variation for dit tilfælde
- Dokumenter den valgte indstilling sammen med din prompt
Dette sidste punkt overses ofte: en produktions-prompt uden dokumenteret temperatur er en halvspecificeret prompt, som din kollega vil genbruge med en anden indstilling og undre sig over, hvorfor de får andre resultater.
Vigtige pointer
- Temperatur styrer modellens niveau af kreativitet kontra determinisme
- Lave værdier (0-0,3) til faktuelle opgaver, høje værdier (0,7-1,0) til kreative opgaver
- Selv ved temperatur 0 er små variationer mulige
- Eksperimenter med flere værdier for at finde den optimale indstilling
- Dokumenter altid den anvendte temperatur sammen med dine prompts i produktion