Spring til hovedindhold
Dansk— Vælg et sprog
Menu

Temperatur, top_p og generationsparametre

Lektion 2 af 16 Opdateret 3. november 2026 Udvikler
På denne side
  1. Temperatur, top_p og generationsparametre
  2. Hvordan modellen vælger det næste token
  3. Temperatur
  4. Top_p (Nucleus Sampling)
  5. Andre parametre, der betyder noget
  6. Observer variationen selv
  7. Vigtige pointer

Opdateret 3. november 2026 baseret på OpenAI-dokumentation: temperature og top_p accepteres kun med en ræsonneringsindsats på none, hvorimod GPT-5.6-modeller ræsonnerer som standard (medium). Kald, der sætter disse parametre, skal derfor specificere reasoning={"effort": "none"} (Responses API) eller reasoning_effort="none" (Chat Completions). Kilder: Brug af GPT-6 · GPT-5.6 Terra.

Temperatur, top_p og generationsparametre

Når du sender et prompt til en sprogmodel, er den genererede tekst ikke deterministisk som standard: to strengt identiske kald kan returnere to forskellige svar. Generationsparametre giver dig mulighed for at styre graden af kreativitet eller stringens i disse svar. At mestre dem tjener to konkrete mål: at opnå resultater tilpasset hver use case og at vide, hvor du skal kigge hen, når en integrationstestsuite begynder at fejle én ud af tre gange uden nogen åbenlys forklaring.

Hvordan modellen vælger det næste token

Ved hvert skridt i generationen beregner modellen en sandsynlighedsfordeling over hele sit ordforråd og sampler derefter det næste token fra den fordeling. Det „bedste” ord springer ikke mekanisk frem; det er et lodtrækning. Generationsparametre griber ind før samplingen, enten ved at stramme fordelingen omkring de mest sandsynlige kandidater eller ved at flade den ud for at give outsiderne en chance. De to kald nedenfor illustrerer ekstremerne i dette behov: et bagerislogan er kun værdifuldt, hvis det overrasker, hvorimod syntaksen i en list comprehension aldrig må overraske.

from openai import OpenAI

client = OpenAI()

# Kreativt svar (høj temperatur)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktuel respons (lav temperatur)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatur

Temperatur er en multiplikativ faktor, der anvendes på logits før softmax. Ved 0 strammes fordelingen så meget, at modellen altid vælger det mest sandsynlige token: adfærden bliver kvasi-deterministisk, hvilket er præcis, hvad du ønsker af en dataekstraktor, der afspilles i en unit-test. Mellem 0,1 og 0,3 forbliver svarene meget konsistente fra kald til kald: dette er kode og faktuelle svars territorium. Intervallet 0,7 til 0,9 balancerer kreativitet og konsistens og egner sig til generel skrivning. Derudover, mellem 1,0 og 1,5, bliver outputs varierede og nogle gange desorienterende – den ønskede effekt til brainstorming, men en fatal fejl alle andre steder.

Tabellen nedenfor samler indstillinger, der fungerer godt til de hyppigste use cases. Betragt det som et udgangspunkt, du skal validere på dine egne prompts: et stærkt begrænset prompt tolererer en højere temperatur, end du måske tror, mens et løst prompt derailer hurtigere.

Use Case Temperatur top_p
Kodegenerering 0,0 – 0,2 1,0
Dataekstraktion 0,0 1,0
Professionel skrivning 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Kreativ skrivning 1,0 – 1,5 0,9

Top_p (Nucleus Sampling)

Parameteren top_p virker på samme fordeling, men gennem en helt anden mekanisme: den filtrerer tokens baseret på deres kumulative sandsynlighed. Med top_p=0.9 overvejer modellen kun de tokens, hvis kumulative sandsynlighed når 90 %, og fjerner rent og skært den lange hale af usandsynlige valg. Hvor temperatur forvrænger sandsynlighederne for alle kandidater, afskærer top_p listen over tilladte kandidater.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Dette fører til en praktisk regel, du ikke vil fortryde at anvende: rør ikke ved temperatur og top_p på samme tid. Da begge virker på samme mekanisme, ville du ikke kunne tilskrive den observerede effekt til den ene eller den anden, og dine indstillinger ville blive et spørgsmål om overtro. Justér én parameter og lad den anden stå på sin standardværdi; OpenAI anbefaler at starte med temperatur.

Andre parametre, der betyder noget

max_output_tokens begrænser svarlængden i tokens. Dette er din sikkerhedsforanstaltning både for omkostninger og uendelige svar, særligt nyttigt, når outputtet skal passe ind i et felt med begrænset grænseflade: et svar, der er rammet ind under generationen, er bedre end trunkering på visningssiden.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Siden GPT-5.6 er ræsonnering ikke længere en separat model: det er en indstilling, der styrer reflektionstiden på tværs af hele familien.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Niveauet low responderer hurtigt på simple spørgsmål, medium udgør et ærligt kompromis for flertallet af opgaver, og high engagerer dybdegående ræsonnering, der bør reserveres til genuinely vanskelige problemer. Differentialligningen ovenfor fortjener det; at omformulere en velkomstsentens gør ikke – du ville betale for reflektionstid til en opgave, der ikke kræver nogen.

Observer variationen selv

Intet erstatter at se disse indstillinger i aktion. Skriv et Python-script, der sender det samme prompt til GPT-5.6 Terra med fem temperaturværdier (0, 0,3, 0,7, 1,0 og 1,3) og viser de fem outputs side om side. Vælg en ærligt kreativ instruktion, for eksempel „Opfind et navn til en AI-startup”: den næsten ordrette gentagelse ved 0 og spredningen ved 1,3 bliver umulige at overse, og dette visuelle minde vil fungere som et referencepunkt langt længere end en tabel med værdier.

Vigtige pointer

  • Temperatur styrer spredningen af sandsynlighedsfordelingen
  • top_p filtrerer tokens efter kumulativ sandsynlighed
  • Modificér aldrig begge samtidigt
  • Lav temperatur til faktuelle opgaver, høj til kreative
  • Ræsonneringsindstillingen (fra none til max) gælder for hele GPT-5.6-familien