Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Temperatuur, top_p ja genereerimisparameetrid

Õppetund 2 / 16 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. Temperatuur, top_p ja genereerimisparameetrid
  2. Kuidas mudel valib järgmist tokenit
  3. Temperatuur
  4. Top_p (tuumaproovivõtt)
  5. Muud olulised parameetrid
  6. Jälgi varieeruvust ise
  7. Peamised punktid

Uuendatud 3. novembril 2026 OpenAI dokumentatsiooni põhjal: temperature ja top_p aktsepteeritakse ainult siis, kui arutluse jõupingutus (reasoning effort) on määratud väärtusele none, samas kui GPT-5.6 mudelid kasutavad vaikimisi arutlust (medium). Seetõttu peavad need parameetrid määravad päringud sisaldama sätet reasoning={"effort": "none"} (Responses API) või reasoning_effort="none" (Chat Completions). Allikad: GPT-6 kasutamine · GPT-5.6 Terra.

Temperatuur, top_p ja genereerimisparameetrid

Kui saadad keelemudelile vihje, ei ole genereeritud tekst vaikimisi deterministlik: kaks täpselt identset päringut võivad tagastada kaks erinevat vastust. Genereerimisparameetrid võimaldavad sul juhtida nende vastuste loovuse või ranguse astet. Nende valdamine teenib kahte konkreetset eesmärki: saada iga kasutusjuhu jaoks kohandatud tulemusi ja teada, kust otsida, kui integratsiooni testide komplekt hakkab ühel juhul kolmest ilma näiva põhjuseta nurjuma.

Kuidas mudel valib järgmist tokenit

Genereerimise igas etapis arvutab mudel tõenäosusjaotuse kogu oma sõnavara ulatuses ja valib seejärel sellest jaotusest järgmise tokeni. “Parim” sõna ei ilmu mehaaniliselt; see on loosimine. Genereerimisparameetrid sekkuvad enne valimist, kas pingutades jaotust kõige tõenäolisemate kandidaatide ümber või lamendades seda, et anda šanss ka vähemtõenäolistele variantidele. Allpool toodud kaks päringut illustreerivad selle vajaduse äärmusi: pagaritöökoja loosung on väärtuslik ainult siis, kui see üllatab, samas kui listi mõistmise (list comprehension) süntaks ei tohi kunagi üllatada.

from openai import OpenAI

client = OpenAI()

# Loov vastus (kõrge temperatuur)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktiline vastus (madal temperatuur)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Temperatuur

Temperatuur on kordaja, mida rakendatakse logititele enne softmaxi. Väärtusel 0 muutub jaotus nii kitsaks, et mudel valib alati kõige tõenäolisema tokeni: käitumine muutub peaaegu deterministlikuks, mida sa just soovid andmeekstraktorilt, mida käivitatakse ühiktestis. Vahemikus 0,1 kuni 0,3 jäävad vastused päringust päringusse väga järjekindlaks: see on koodi ja faktiliste vastuste territoorium. Vahemik 0,7 kuni 0,9 tasakaalustab loovust ja järjekindlust, sobides üldiseks kirjutamiseks. Sellest kõrgemal, vahemikus 1,0 kuni 1,5, muutuvad väljundid varieeruvaks ja mõnikord segadust tekitavaks – soovitud efekt ajurünnakuks, kuid saatuslik viga mujal.

Allpool olev tabel koondab seaded, mis toimivad hästi kõige sagedasemate kasutusjuhtude puhul. Vaata seda lähtepunktina, mida oma vihjetega valideerida: tugevalt piiratud vihje talub kõrgemat temperatuuri, kui võiksid arvata, samas kui lahtine vihje kaldub rajalt kõrvale kiiremini.

Kasutusjuht Temperatuur top_p
Koodi genereerimine 0.0 – 0.2 1.0
Andmete ekstraheerimine 0.0 1.0
Professionaalne kirjutamine 0.5 – 0.7 0.9
Ajurünnak 1.0 – 1.3 0.95
Loov kirjutamine 1.0 – 1.5 0.9

Top_p (tuumaproovivõtt)

Parameeter top_p mõjutab sama jaotust, kuid täiesti erineva mehhanismi kaudu: see filtreerib tokeneid nende kumulatiivse tõenäosuse põhjal. Väärtusega top_p=0.9 arvestab mudel ainult neid tokeneid, mille kumulatiivne tõenäosus ulatub 90%-ni, eemaldades puhtalt ja lihtsalt ebatõenäoliste valikute pika saba. Kui temperatuur moonutab kõigi kandidaatide tõenäosusi, siis top_p lühendab lubatud kandidaatide nimekirja.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

See viib praktilise reeglini, mida ei kahetse rakendada: ära muuda samaaegselt nii temperatuuri kui ka top_p-d. Kuna mõlemad mõjutavad sama mehhanismi, ei suudaks sa vaadeldavat efekti omistada kummalegi neist ja sinu seaded muutuksid ebausuks. Kohanda üht parameetrit, jättes teise vaikeväärtusele; OpenAI soovitab alustada temperatuurist.

Muud olulised parameetrid

max_output_tokens piirab vastuse pikkust tokenites. See on sinu kaitse nii kulude kui ka lõputute vastuste eest, eriti kasulik, kui väljund peab mahtuma piiratud liidese väljale: genereerimise käigus raamitud vastus on parem kui kärpimine kuva poolel.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Alates GPT-5.6-st ei ole arutlus enam eraldi mudel: see on säte, mis juhib mõtlemisaega kogu perekonna ulatuses.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Tase low vastab lihtsatele küsimustele kiiresti, medium on aus kompromiss enamiku ülesannete jaoks ja high kaasab sügava arutluse, mida tuleks reserveerida tõeliselt keerukatele probleemidele. Ülaltoodud diferentsiaalvõrrand väärib seda; tervituslause ümber sõnastamine mitte – sa maksaksid mõtlemisaja eest ülesande puhul, mis seda ei vaja.

Jälgi varieeruvust ise

Miski ei asenda nende seadete nägemist tegevuses. Kirjuta Pythoni skript, mis saadab sama vihje GPT-5.6 Terra-le viie temperatuuriväärtusega (0, 0.3, 0.7, 1.0 ja 1.3) ning kuvab viis väljundit kõrvuti. Vali ausalt öeldes loov juhend, näiteks „Leiuta nimi tehisintellekti idufirmale“: peaaegu sõnasõnaline kordumine väärtusel 0 ja hajumine väärtusel 1.3 muutuvad võimatuks märkamata jätta ning see visuaalne mälu teenib sind võrdluspunktina palju kauem kui väärtuste tabel.

Peamised punktid

  • Temperatuur juhib tõenäosusjaotuse hajuvust
  • top_p filtreerib tokeneid kumulatiivse tõenäosuse põhjal
  • Ära muuda kunagi mõlemat samaaegselt
  • Madal temperatuur faktiliste ülesannete jaoks, kõrge loovate jaoks
  • Arutluse säte (vahemikus none kuni max) kehtib kogu GPT-5.6 perekonnale