Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Temperatur, top_p och generationsparametrar

Lektion 2 av 16 Uppdaterad 3 november 2026 Utvecklare
På denna sida
  1. Temperatur, top_p och generationsparametrar
  2. Hur modellen väljer nästa token
  3. Temperatur
  4. Top_p (Nukleussampling)
  5. Andra parametrar som spelar roll
  6. Observera variationen själv
  7. Viktiga punkter

Uppdaterat den 3 november 2026 baserat på OpenAIs dokumentation: temperature och top_p accepteras endast med ett resonemangsarbete (reasoning effort) satt till none, medan GPT-5.6-modeller resonerar som standard (medium). Anrop som ställer in dessa parametrar måste därför specificera reasoning={"effort": "none"} (Responses API) eller reasoning_effort="none" (Chat Completions). Källor: Using GPT-6 · GPT-5.6 Terra.

Temperatur, top_p och generationsparametrar

När du skickar en prompt till en språkmodell är den genererade texten inte deterministisk som standard: två strikt identiska anrop kan returnera två olika svar. Generationsparametrar låter dig styra graden av kreativitet eller noggrannhet i dessa svar. Att bemästra dem tjänar två konkreta mål: att få resultat anpassade för varje användningsfall, och att veta var man ska leta när en integrationstestsvit börjar misslyckas var tredje gång utan någon uppenbar förklaring.

Hur modellen väljer nästa token

Vid varje steg i generationen beräknar modellen en sannolikhetsfördelning över hela sitt ordförråd, och samplar sedan nästa token från den fördelningen. Det “bästa” ordet dyker inte upp mekaniskt; det är ett dragning. Generationsparametrar ingriper före samplingen, antingen genom att strama åt fördelningen kring de mest sannolika kandidaterna eller genom att plana ut den för att ge outsiders en chans. De två anropen nedan illustrerar ytterligheterna av detta behov: en slogan för ett hantverksbageri är bara värdefull om den överraskar, medan syntaxen för en list comprehension aldrig får överraska.

from openai import OpenAI

client = OpenAI()

# Kreativt svar (hög temperatur)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktamässigt svar (låg temperatur)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatur

Temperatur är en multiplikativ faktor som appliceras på logiter före softmax. Vid 0 stramas fördelningen åt så pass att modellen alltid väljer den mest sannolika token: beteendet blir kvasi-deterministiskt, vilket är exakt vad du vill ha från en dataextraherare som körs i ett enhetstest. Mellan 0,1 och 0,3 förblir svaren mycket konsekventa från anrop till anrop: detta är kodens och de faktamässiga svarens territorium. Intervallet 0,7 till 0,9 balanserar kreativitet och konsekvens, vilket passar allmänt skrivande. Därutöver, mellan 1,0 och 1,5, blir utdatan varierad och ibland desorienterande – den önskade effekten för brainstorming, men ett ödesdigert fel överallt annars.

Tabellen nedan samlar inställningar som fungerar bra för de vanligaste användningsfallen. Behandla den som en startpunkt att validera på dina egna prompts: en högt begränsad prompt tål en högre temperatur än du kanske tror, medan en lös prompt spårar ur tidigare.

Användningsfall Temperatur top_p
Kodgenerering 0,0 – 0,2 1,0
Dataextrahering 0,0 1,0
Professionellt skrivande 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Kreativt skrivande 1,0 – 1,5 0,9

Top_p (Nukleussampling)

Parametern top_p verkar på samma fördelning, men genom en helt annan mekanism: den filtrerar tokens baserat på deras kumulativa sannolikhet. Med top_p=0.9 överväger modellen endast de tokens vars kumulativa sannolikhet når 90 %, vilket rent enkelt tar bort den långa svansen av osannolika val. Där temperatur förvränger sannolikheterna för alla kandidater, kapar top_p listan över tillåtna kandidater.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Detta leder till en praktisk regel som du inte kommer ångra att du tillämpar: rör inte både temperatur och top_p samtidigt. Eftersom båda verkar på samma mekanism skulle du inte kunna tillskriva den observerade effekten till den ena eller den andra, och dina inställningar skulle bli en fråga om vidskepelse. Justera en parameter och låt den andra stå på sitt standardvärde; OpenAI rekommenderar att du börjar med temperatur.

Andra parametrar som spelar roll

max_output_tokens begränsar svarslängden i tokens. Detta är ditt skydd mot både kostnader och oändliga svar, särskilt användbart när utdatan måste få plats i ett begränsat gränssnittsfält: ett svar som ramas in under generationen är bättre än trunkering på visningssidan.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Sedan GPT-5.6 är resonemang inte längre en separat modell: det är en inställning som styr reflektionstiden över hela familjen.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Nivån low svarar snabbt på enkla frågor, medium utgör en ärlig kompromiss för majoriteten av uppgifter, och high engagerar djupgående resonemang som bör reserveras för genuint svåra problem. Differentialekvationen ovan förtjänar det; att formulera om en välkomstmening gör det inte – då skulle du betala för reflektionstid på en uppgift som inte kräver någon.

Observera variationen själv

Inget ersätter att se dessa inställningar i action. Skriv ett Python-skript som skickar samma prompt till GPT-5.6 Terra med fem temperaturvärden (0, 0,3, 0,7, 1,0 och 1,3) och visar de fem utdatorna sida vid sida. Välj en uppriktigt kreativ instruktion, till exempel “Hitta på ett namn för ett AI-startup”: den nästan ordagranna upprepningen vid 0 och spridningen vid 1,3 blir omöjliga att missa, och detta visuella minne kommer att fungera som en referenspunkt mycket längre än en tabell med värden.

Viktiga punkter

  • Temperatur styr spridningen av sannolikhetsfördelningen
  • top_p filtrerar tokens baserat på kumulativ sannolikhet
  • Ändra aldrig båda samtidigt
  • Låg temperatur för faktamässiga uppgifter, hög för kreativa
  • Resonemangsinställningen (från none till max) gäller för hela GPT-5.6-familjen