Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Lämpötila, top_p ja generointiparametrit

Oppitunti 2 / 16 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Lämpötila, top_p ja generointiparametrit
  2. Kuinka malli valitsee seuraavan tokenin
  3. Lämpötila (Temperature)
  4. Top_p (ydinnäytteenotto)
  5. Muut tärkeät parametrit
  6. Havainnoi vaihtelua itse
  7. Keskeiset asiat

Päivitetty 3. marraskuuta 2026 OpenAI:n dokumentaation perusteella: temperature ja top_p hyväksytään vain, kun päättelytaso (reasoning effort) on none, kun taas GPT-5.6-mallit käyttävät oletusarvoisesti päättelyä (medium). Näitä parametreja asettavien kutsujen on siksi määritettävä reasoning={"effort": "none"} (Responses API) tai reasoning_effort="none" (Chat Completions). Lähteet: Using GPT-6 · GPT-5.6 Terra.

Lämpötila, top_p ja generointiparametrit

Kun lähetät kehotteen kielimallille, tuotettu teksti ei ole oletusarvoisesti determinististä: kaksi täysin identtistä kutsua voivat palauttaa kaksi eri vastausta. Generointiparametrien avulla voit hallita vastausten luovuuden ja tarkkuuden astetta. Niiden hallinta palvelee kahta konkreettista tavoitetta: saat jokaiseen käyttötarkoitukseen sopivia tuloksia, ja tiedät, mistä etsiä vikaa, kun integraatiotestisarja alkaa epäonnistua yhden kerran kolmesta ilman näkyvää syytä.

Kuinka malli valitsee seuraavan tokenin

Generoinnin jokaisessa vaiheessa malli laskee todennäköisyysjakauman koko sanastolleen ja ottaa sitten seuraavan tokenin näytteeksi tästä jakaumasta. “Paras” sana ei ilmesty mekaanisesti esiin; kyseessä on arvonta. Generointiparametrit puuttuvat peliin ennen näytteenottoa joko kiristämällä jakaumaa todennäköisimpien ehdokkaiden ympärille tai litistämällä sitä antaakseen myös ulkopuolisille mahdollisuuden. Alla olevat kaksi kutsua havainnollistavat tämän tarpeen ääripäitä: leipomon slogan on arvokas vain, jos se yllättää, kun taas listakomprehension syntaksin ei saa koskaan yllättää.

from openai import OpenAI

client = OpenAI()

# Luova vastaus (korkea lämpötila)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktuaalinen vastaus (matala lämpötila)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Lämpötila (Temperature)

Lämpötila on kertokerroin, jota sovelletaan logitteihin ennen softmax-funktiota. Arvolla 0 jakauma kiristyy niin paljon, että malli valitsee aina todennäköisimmän tokenin: käyttäytyminen muuttuu lähes deterministiseksi, mikä on juuri sitä, mitä haluat datanpoimijalta, jota ajetaan yksikkötestissä. Välillä 0,1–0,3 vastaukset pysyvät hyvin johdonmukaisina kutsusta toiseen: tämä on koodin ja faktuaalisten vastausten aluetta. Väli 0,7–0,9 tasapainottaa luovuutta ja johdonmukaisuutta sopien yleiseen kirjoittamiseen. Tämän yläpuolella, välillä 1,0–1,5, tulokset muuttuvat vaihteleviksi ja joskus hämmentäviksi – tämä on toivottu vaikutus aivoriihessä, mutta kohtalokas virhe kaikkialla muualla.

Alla oleva taulukko kokoaa asetukset, jotka toimivat hyvin yleisimmissä käyttötapauksissa. Käytä sitä lähtökohtana, jonka validoitat omilla kehotteillasi: erittäin rajoitettu kehotte sietää korkeampaa lämpötilaa kuin luulisitkaan, kun taas väljä kehotte ajautuu raiteiltaan nopeammin.

Käyttötarkoitus Lämpötila top_p
Koodin generointi 0,0 – 0,2 1,0
Datan poiminta 0,0 1,0
Ammattimainen kirjoittaminen 0,5 – 0,7 0,9
Aivoriihi 1,0 – 1,3 0,95
Luova kirjoittaminen 1,0 – 1,5 0,9

Top_p (ydinnäytteenotto)

Parametri top_p vaikuttaa samaan jakaumaan, mutta täysin erilaisen mekanismin kautta: se suodattaa tokeneja niiden kumulatiivisen todennäköisyyden perusteella. Kun top_p=0.9, malli ottaa huomioon vain ne tokenit, joiden kumulatiivinen todennäköisyys yltää 90 prosenttiin, poistaen puhtaasti ja yksinkertaisesti epätodennäköisten valintojen pitkän hännän. Siinä missä lämpötila vääristää kaikkien ehdokkaiden todennäköisyyksiä, top_p katkaisee sallittujen ehdokkaiden listan.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Tästä seuraa käytännön sääntö, jota et kadu noudattavasi: älä muokkaa lämpötilaa ja top_p:tä samanaikaisesti. Koska molemmat vaikuttavat samaan mekanismiin, et pystyisi osoittamaan havaittua vaikutusta toiselle tai toiselle, ja asetuksistasi tulisi taikauskoa. Säädä toista parametria ja jätä toinen oletusarvoonsa; OpenAI suosittelee aloittamaan lämpötilasta.

Muut tärkeät parametrit

max_output_tokens rajoittaa vastauksen pituutta tokeneina. Tämä on turvaverkkosi sekä kustannusten että loputtomien vastausten varalta; se on erityisen hyödyllinen, kun tulosteen on mahduttava rajoitettuun käyttöliittymän kenttään: generointivaiheessa kehystetty vastaus on parempi kuin näytön puolella tapahtuva katkaisu.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

GPT-5.6:sta lähtien päättely ei ole enää erillinen malli: se on asetus, joka ohjaa pohdinta-aikaa koko malliperheen yli.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Taso low vastaa nopeasti yksinkertaisiin kysymyksiin, medium on rehellinen kompromissi useimmille tehtäville, ja high käynnistää syvällisen päättelyn, joka tulisi varata aidosti vaikeisiin ongelmiin. Yllä oleva differentiaaliyhtälö ansaitsee sen; tervetulolauseen uudelleenmuotoilu ei – maksaisit silloin pohdinta-ajasta tehtävälle, joka ei sitä vaadi.

Havainnoi vaihtelua itse

Mikään ei korvaa näiden asetusten toiminnan näkemistä käytännössä. Kirjoita Python-skripti, joka lähettää saman kehotteen GPT-5.6 Terra -mallille viidellä eri lämpötila-arvolla (0, 0,3, 0,7, 1,0 ja 1,3) ja näyttää viisi tulosta vierekkäin. Valitse rehellisen luova ohje, esimerkiksi “Keksi nimi tekoälyyritykselle”: lähes sanasanainen toisto arvolla 0 ja hajoaminen arvolla 1,3 ovat mahdottomia olla huomaamatta, ja tämä visuaalinen muistijälki palvelee vertailukohtana paljon pidempään kuin arvojen taulukko.

Keskeiset asiat

  • Lämpötila ohjaa todennäköisyysjakauman leveyttä
  • top_p suodattaa tokeneja kumulatiivisen todennäköisyyden perusteella
  • Älä muokkaa molempia samanaikaisesti
  • Matala lämpötila faktuaalisiin tehtäviin, korkea luoviin
  • Päättelyasetus (none–max) koskee koko GPT-5.6-malliperhettä