Temperatur, top_p og generationsparametre
På denne side
Opdateret 3. november 2026 baseret på OpenAI-dokumentation:
temperatureogtop_paccepteres kun med en ræsonneringsindsats pånone, hvorimod GPT-5.6-modeller ræsonnerer som standard (medium). Kald, der sætter disse parametre, skal derfor specificerereasoning={"effort": "none"}(Responses API) ellerreasoning_effort="none"(Chat Completions). Kilder: Brug af GPT-6 · GPT-5.6 Terra.
Temperatur, top_p og generationsparametre
Når du sender et prompt til en sprogmodel, er den genererede tekst ikke deterministisk som standard: to strengt identiske kald kan returnere to forskellige svar. Generationsparametre giver dig mulighed for at styre graden af kreativitet eller stringens i disse svar. At mestre dem tjener to konkrete mål: at opnå resultater tilpasset hver use case og at vide, hvor du skal kigge hen, når en integrationstestsuite begynder at fejle én ud af tre gange uden nogen åbenlys forklaring.
Hvordan modellen vælger det næste token
Ved hvert skridt i generationen beregner modellen en sandsynlighedsfordeling over hele sit ordforråd og sampler derefter det næste token fra den fordeling. Det „bedste” ord springer ikke mekanisk frem; det er et lodtrækning. Generationsparametre griber ind før samplingen, enten ved at stramme fordelingen omkring de mest sandsynlige kandidater eller ved at flade den ud for at give outsiderne en chance. De to kald nedenfor illustrerer ekstremerne i dette behov: et bagerislogan er kun værdifuldt, hvis det overrasker, hvorimod syntaksen i en list comprehension aldrig må overraske.
from openai import OpenAI
client = OpenAI()
# Kreativt svar (høj temperatur)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Faktuel respons (lav temperatur)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Temperatur
Temperatur er en multiplikativ faktor, der anvendes på logits før softmax. Ved 0 strammes fordelingen så meget, at modellen altid vælger det mest sandsynlige token: adfærden bliver kvasi-deterministisk, hvilket er præcis, hvad du ønsker af en dataekstraktor, der afspilles i en unit-test. Mellem 0,1 og 0,3 forbliver svarene meget konsistente fra kald til kald: dette er kode og faktuelle svars territorium. Intervallet 0,7 til 0,9 balancerer kreativitet og konsistens og egner sig til generel skrivning. Derudover, mellem 1,0 og 1,5, bliver outputs varierede og nogle gange desorienterende – den ønskede effekt til brainstorming, men en fatal fejl alle andre steder.
Tabellen nedenfor samler indstillinger, der fungerer godt til de hyppigste use cases. Betragt det som et udgangspunkt, du skal validere på dine egne prompts: et stærkt begrænset prompt tolererer en højere temperatur, end du måske tror, mens et løst prompt derailer hurtigere.
| Use Case | Temperatur | top_p |
|---|---|---|
| Kodegenerering | 0,0 – 0,2 | 1,0 |
| Dataekstraktion | 0,0 | 1,0 |
| Professionel skrivning | 0,5 – 0,7 | 0,9 |
| Brainstorming | 1,0 – 1,3 | 0,95 |
| Kreativ skrivning | 1,0 – 1,5 | 0,9 |
Top_p (Nucleus Sampling)
Parameteren top_p virker på samme fordeling, men gennem en helt anden mekanisme: den filtrerer tokens baseret på deres kumulative sandsynlighed. Med top_p=0.9 overvejer modellen kun de tokens, hvis kumulative sandsynlighed når 90 %, og fjerner rent og skært den lange hale af usandsynlige valg. Hvor temperatur forvrænger sandsynlighederne for alle kandidater, afskærer top_p listen over tilladte kandidater.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
Dette fører til en praktisk regel, du ikke vil fortryde at anvende: rør ikke ved temperatur og top_p på samme tid. Da begge virker på samme mekanisme, ville du ikke kunne tilskrive den observerede effekt til den ene eller den anden, og dine indstillinger ville blive et spørgsmål om overtro. Justér én parameter og lad den anden stå på sin standardværdi; OpenAI anbefaler at starte med temperatur.
Andre parametre, der betyder noget
max_output_tokens begrænser svarlængden i tokens. Dette er din sikkerhedsforanstaltning både for omkostninger og uendelige svar, særligt nyttigt, når outputtet skal passe ind i et felt med begrænset grænseflade: et svar, der er rammet ind under generationen, er bedre end trunkering på visningssiden.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
Siden GPT-5.6 er ræsonnering ikke længere en separat model: det er en indstilling, der styrer reflektionstiden på tværs af hele familien.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
Niveauet low responderer hurtigt på simple spørgsmål, medium udgør et ærligt kompromis for flertallet af opgaver, og high engagerer dybdegående ræsonnering, der bør reserveres til genuinely vanskelige problemer. Differentialligningen ovenfor fortjener det; at omformulere en velkomstsentens gør ikke – du ville betale for reflektionstid til en opgave, der ikke kræver nogen.
Observer variationen selv
Intet erstatter at se disse indstillinger i aktion. Skriv et Python-script, der sender det samme prompt til GPT-5.6 Terra med fem temperaturværdier (0, 0,3, 0,7, 1,0 og 1,3) og viser de fem outputs side om side. Vælg en ærligt kreativ instruktion, for eksempel „Opfind et navn til en AI-startup”: den næsten ordrette gentagelse ved 0 og spredningen ved 1,3 bliver umulige at overse, og dette visuelle minde vil fungere som et referencepunkt langt længere end en tabel med værdier.
Vigtige pointer
- Temperatur styrer spredningen af sandsynlighedsfordelingen
top_pfiltrerer tokens efter kumulativ sandsynlighed- Modificér aldrig begge samtidigt
- Lav temperatur til faktuelle opgaver, høj til kreative
- Ræsonneringsindstillingen (fra none til max) gælder for hele GPT-5.6-familien