Temperatuur
Op deze pagina
De creativiteit van het model sturen
Tot nu toe hebben we ons gericht op de inhoud van uw prompt. Nu behandelen we een andere even krachtige hefboom: de generatieparameters. De eerste en meest fundamentele parameter is temperatuur. Deze heeft directe invloed op de waarschijnlijkheidsverdeling van tokens en bepaalt of het model deterministisch gedrag vertoont—waarbij het voorspelbare, bijna identieke antwoorden geeft bij opeenvolgende aanroepen—of creatief, met gevarieerde en soms verrassende output. Dezelfde prompt kan, afhankelijk van de gekozen temperatuur, leiden tot een nuchtere technische specificatie of juist tot een tekst die onverwachte wendingen neemt. Inzicht in deze parameter is essentieel om het gedrag van Mistral-modellen aan te passen aan elke use case.
Hoe temperatuur werkt
Denk terug aan het basismechanisme: bij elke generatiestap berekent het model een waarschijnlijkheid voor elk mogelijk token en selecteert er vervolgens één. Temperatuur wijzigt de vorm van deze verdeling vóór de selectie. Bij een lage temperatuur, dicht bij 0, wordt de verdeling “scherp”: het model richt zich bijna uitsluitend op de meest waarschijnlijke tokens, wat voorspelbare en consistente antwoorden oplevert. Vraagt u bij een temperatuur van 0,1 naar de hoofdstad van Italië, dan krijgt u vrijwel elke keer dezelfde zin.
Bij een hoge temperatuur, dicht bij 1, wordt de verdeling juist “afgevlakt”: minder waarschijnlijke tokens worden weer toegankelijk, het model overweegt een breder scala aan mogelijke reeksen en de antwoorden winnen aan variatie—soms ten koste van de samenhang. Dit is precies wat u wilt bij brainstormsessies, en juist wat u wilt vermijden bij data-extractie. De volgende tabel vat de nuttige bereiken samen.
| Temperatuur | Gedrag | Use cases |
|---|---|---|
| 0.0 | Quasi-deterministisch, altijd het meest waarschijnlijke token | Data-extractie, classificatie, feitelijke antwoorden |
| 0.1 - 0.3 | Zeer voorspelbaar met lichte variaties | Codegeneratie, vertaling, technische documentatie |
| 0.4 - 0.6 | Evenwicht tussen samenhang en variatie | Professioneel schrijven, herformulering, samenvatting |
| 0.7 - 0.8 | Creatief met goede samenhang | Brainstormen, marketingteksten, storytelling |
| 0.9 - 1.0 | Zeer creatief, verrassend, soms onsamenhangend | Poëzie, fictie, vrije ideeënvorming, exploratie |
Temperatuur gebruiken met de Mistral API
In de API wordt temperatuur doorgegeven als een eenvoudige aanroepparameter. Vergelijk deze twee verzoeken: het eerste verwacht een feitelijk en stabiel antwoord, het tweede zoekt naar variatie.
from mistralai.client import Mistral
client = Mistral(api_key="your-api-key")
# Lage temperatuur: feitelijk en deterministisch antwoord
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "What is the ROI formula?"}],
temperature=0.1
)
# Hoge temperatuur: creatief en gevarieerd antwoord
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Invent a slogan for an organic coffee brand."}],
temperature=0.8
)
Temperatuur 0 is niet perfect deterministisch
Een veelvoorkomend misverstand moet direct worden rechtgezet: zelfs met temperature=0 kunnen Mistral-antwoorden lichte variaties vertonen van het ene verzoek tot het andere. Dit komt door hardwarefactoren—zoals drijvende-kommaberekeningen en GPU-parallelisatie—die kleine verschillen in afronding introduceren, net genoeg om soms de keuze voor een token te beïnvloeden. Als u dus geautomatiseerde tests of benchmarks bouwt waarbij reproduceerbaarheid cruciaal is, vertrouw dan niet alleen op temperature=0: combineer een lage temperatuur met een controle aan de codezijde die de inhoud van het antwoord valideert in plaats van de exacte vorm.
Temperatuur aanpassen aan de context
Laten we bekijken hoe deze instelling uitpakt in drie typische professionele situaties. Voor classificatie of extractie wilt u dat dezelfde klantenrecensie altijd tot hetzelfde oordeel leidt: dat is temperatuur 0.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "Classify the sentiment: positive, neutral, negative."},
{"role": "user", "content": "The product works correctly."}
],
temperature=0.0
)
Voor marketingteksten zou een te mechanisch antwoord saai overkomen; bij 0,7 varieert het model in formulering terwijl het samenhangend blijft—ideaal om meerdere hooks te produceren en de beste te kiezen.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You are a creative copywriter."},
{"role": "user", "content": "Write 3 hooks for an email campaign."}
],
temperature=0.7
)
Ga voor brainstormen tot slot naar 0,9: u accepteert dat sommige ideeën vergezocht zijn, omdat u ze later toch filtert. Tien leads waarvan er drie uitstekend zijn, zijn beter dan vijf leads die allemaal redelijk én allemaal al bekend zijn.
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "user", "content": "Propose 10 innovative feature ideas for a fitness app."}
],
temperature=0.9
)
Experimenteer om de juiste instelling te vinden
Er bestaat geen universeel optimale temperatuur: de juiste waarde hangt af van uw prompt, uw model en uw tolerantie voor variabiliteit. De enige betrouwbare methode is experimenten, op rigoureuze wijze uitgevoerd:
- Begin met de standaardwaarde van het model
- Test uw prompt met 3-4 temperatuurwaarden (0,1; 0,4; 0,7; 0,9)
- Vergelijk de resultaten over 5-10 uitvoeringen per waarde
- Identificeer de waarde die voor uw geval de beste verhouding tussen samenhang en variatie biedt
- Documenteer de gekozen instelling samen met uw prompt
Dit laatste punt wordt vaak over het hoofd gezien: een productie-prompt zonder gedocumenteerde temperatuur is een halfgespecificeerde prompt. Uw collega zal deze dan hergebruiken met een andere instelling en zich afvragen waarom de resultaten verschillen.
Belangrijkste punten
- Temperatuur stuurt het niveau van creativiteit versus determinisme van het model
- Lage waarden (0-0,3) voor feitelijke taken, hoge waarden (0,7-1,0) voor creatieve taken
- Zelfs bij temperatuur 0 zijn lichte variaties mogelijk
- Experimenteer met meerdere waarden om de optimale instelling te vinden
- Documenteer altijd de gebruikte temperatuur bij uw prompts in productieomgevingen