Temperatuur, top_p en generatieparameters
Op deze pagina
Bijgewerkt op 3 november 2026 op basis van de OpenAI-documentatie:
temperatureentop_pworden alleen geaccepteerd met een redeneerinspanning vannone, terwijl GPT-5.6-modellen standaard redeneren (medium). Aanroepen die deze parameters instellen, moeten daaromreasoning={"effort": "none"}(Responses API) ofreasoning_effort="none"(Chat Completions) specificeren. Bronnen: Using GPT-6 · GPT-5.6 Terra.
Temperatuur, top_p en generatieparameters
Wanneer u een prompt naar een taalmodel stuurt, is de gegenereerde tekst standaard niet deterministisch: twee strikt identieke aanroepen kunnen twee verschillende antwoorden opleveren. Generatieparameters stellen u in staat de mate van creativiteit of strengheid in die antwoorden te beheersen. Het beheersen hiervan dient twee concrete doelen: resultaten verkrijgen die zijn afgestemd op elke use case, en weten waar u moet kijken wanneer een integratietestsuite zonder duidelijke verklaring één op de drie keer faalt.
Hoe het model het volgende token kiest
Bij elke stap van de generatie berekent het model een kansverdeling over zijn volledige vocabulaire, waarna het het volgende token uit die verdeling samplet. Het “beste” woord komt niet mechanisch naar boven; het is een trekking. Generatieparameters grijpen in vóór het samplen, door de verdeling entweder te verscherpen rond de meest waarschijnlijke kandidaten of af te vlakken om buitenstaanders een kans te geven. De twee onderstaande aanroepen illustreren de uitersten van deze behoefte: een bakkerijslogan is alleen waardevol als deze verrast, terwijl de syntaxis van een list comprehension nooit mag verrassen.
from openai import OpenAI
client = OpenAI()
# Creatief antwoord (hoge temperatuur)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Feitelijk antwoord (lage temperatuur)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Temperatuur
Temperatuur is een vermenigvuldigingsfactor die wordt toegepast op logits vóór de softmax. Bij 0 verscherpt de verdeling zich tot het punt waarop het model altijd het meest waarschijnlijke token selecteert: het gedrag wordt quasi-deterministisch, wat precies is wat u wilt van een data-extractor die opnieuw wordt afgespeeld in een unit-test. Tussen 0,1 en 0,3 blijven antwoorden zeer consistent van aanroep tot aanroep: dit is het domein van code en feitelijke antwoorden. Het bereik van 0,7 tot 0,9 balanceert creativiteit en consistentie, wat geschikt is voor algemeen schrijfwerk. Daarboven, tussen 1,0 en 1,5, worden outputs gevarieerd en soms desoriënterend—het gewenste effect voor brainstormsessies, maar een fatale fout overal elders.
De onderstaande tabel verzamelt instellingen die goed werken voor de meest voorkomende use cases. Beschouw dit als een startpunt om te valideren op uw eigen prompts: een sterk beperkte prompt verdraagt een hogere temperatuur dan u misschien denkt, terwijl een losse prompt eerder ontspoord.
| Use Case | Temperatuur | top_p |
|---|---|---|
| Codegeneratie | 0,0 – 0,2 | 1,0 |
| Data-extractie | 0,0 | 1,0 |
| Professioneel schrijfwerk | 0,5 – 0,7 | 0,9 |
| Brainstormen | 1,0 – 1,3 | 0,95 |
| Creatief schrijfwerk | 1,0 – 1,5 | 0,9 |
Top_p (Nucleus Sampling)
De parameter top_p werkt op dezelfde verdeling, maar via een volledig ander mechanisme: het filtert tokens op basis van hun cumulatieve waarschijnlijkheid. Met top_p=0,9 overweegt het model alleen de tokens waarvan de cumulatieve waarschijnlijkheid 90% bereikt, waarbij de lange staart van onwaarschijnlijke keuzes puur en simpel wordt verwijderd. Waar temperatuur de kansen van alle kandidaten vervormt, kapt top_p de lijst van toegestane kandidaten af.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
Dit leidt tot een praktische regel waarvan u geen spijt zult krijgen: pas temperatuur en top_p nooit tegelijkertijd aan. Omdat beide op hetzelfde mechanisme werken, zou u het waargenomen effect niet aan de ene of de andere kunnen toeschrijven, en zouden uw instellingen een kwestie van bijgeloof worden. Pas één parameter aan en laat de andere op de standaardwaarde; OpenAI raadt aan te beginnen met temperatuur.
Andere parameters die ertoe doen
max_output_tokens beperkt de responslengte in tokens. Dit is uw veiligheidsnet voor zowel kosten als oneindige antwoorden, vooral handig wanneer de output binnen een beperkt interfaceveld moet passen: een respons die tijdens de generatie wordt ingekaderd, is beter dan afkapping aan de weergavekant.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
Sinds GPT-5.6 is redeneren geen apart model meer: het is een instelling die de reflectietijd voor de hele familie regelt.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
Het niveau low reageert snel op eenvoudige vragen, medium vormt een eerlijk compromis voor de meerderheid van de taken, en high zet diepgaand redeneren in dat gereserveerd moet worden voor echt moeilijke problemen. De bovenstaande differentiaalvergelijking verdient dit; een welkomstzin herformuleren niet—u zou betalen voor reflectietijd voor een taak die er geen vereist.
Observeer de variatie zelf
Niets vervangt het zien van deze instellingen in actie. Schrijf een Python-script dat dezelfde prompt vijf keer naar GPT-5.6 Terra stuurt met vijf temperatuurwaarden (0, 0,3, 0,7, 1,0 en 1,3) en de vijf outputs naast elkaar weergeeft. Kies een uitgesproken creatieve instructie, bijvoorbeeld “Verzin een naam voor een AI-startup”: de bijna woord-voor-woord herhaling bij 0 en de spreiding bij 1,3 worden onmogelijk over het hoofd te zien, en dit visuele geheugen zal veel langer als referentiepunt dienen dan een tabel met waarden.
Belangrijkste punten
- Temperatuur regelt de spreiding van de kansverdeling
top_pfiltert tokens op cumulatieve waarschijnlijkheid- Wijzig nooit beide gelijktijdig
- Lage temperatuur voor feitelijke taken, hoge voor creatieve taken
- De redeneerinstelling (van none tot max) is van toepassing op de hele GPT-5.6-familie