Temperatura, top_p in parametri generiranja
Na tej strani
Posodobljeno 3. novembra 2026 na podlagi dokumentacije OpenAI: parametra
temperatureintop_psta sprejeta le pri naporu razmišljanja (reasoning effort) vrednostinone, medtem ko modeli GPT-5.6 privzeto razmišljajo (medium). Klici, ki nastavljajo te parametre, morajo zato določitireasoning={"effort": "none"}(Responses API) alireasoning_effort="none"(Chat Completions). Viri: Uporaba GPT-6 · GPT-5.6 Terra.
Temperatura, top_p in parametri generiranja
Ko jezičnemu modelu pošlješ poziv, ustvarjeno besedilo privzeto ni deterministično: dva strogo enaka klica lahko vrneta dva različna odgovora. Parametri generiranja ti omogočajo nadzor nad stopnjo ustvarjalnosti ali strogosti teh odgovorov. Obvladovanje teh parametrov služi dvema konkretnima ciljem: pridobivanju rezultatov, prilagojenih vsakemu primeru uporabe, in vednosti, kam pogledati, ko testni niz za integracijo vsakič tretjič odpove brez očitnega razloga.
Kako model izbere naslednji žeton
Pri vsakem koraku generiranja model izračuna porazdelitev verjetnosti po celotnem besednjaku, nato pa iz te porazdelitve vzorči naslednji žeton. “Najboljša” beseda se mehansko ne pojavi; gre za žreb. Parametri generiranja posežejo v postopek pred vzorčenjem: bodisi zožijo porazdelitev okoli najbolj verjetnih kandidatov bodisi jo sploščijo, da dajejo priložnost tudi manj verjetnim možnostim. Spodnja dva klica ponazarjata skrajnosti te potrebe: slogan za pekarno je vreden le, če preseneti, medtem ko sintaksa seznamskega izraza (list comprehension) nikoli ne sme presenetiti.
from openai import OpenAI
client = OpenAI()
# Ustvarjalni odgovor (visoka temperatura)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatura zahteva effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Dejanski odgovor (nizka temperatura)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatura zahteva effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Temperatura
Temperatura je multiplikativni faktor, ki se uporabi za logite pred funkcijo softmax. Pri vrednosti 0 se porazdelitev tako zoži, da model vedno izbere najbolj verjetni žeton: obnašanje postane kvazi-deterministično, kar točno želiš pri ekstraktorju podatkov, ki ga ponovno izvajaš v enotskem testu. Med 0,1 in 0,3 ostajajo odgovori od klica do klica zelo dosledni: to je področje kode in dejanskih odgovorov. Razpon med 0,7 in 0,9 uravnoteži ustvarjalnost in doslednost ter ustreza splošnemu pisanju. Nad temi vrednostmi, med 1,0 in 1,5, postanejo izpisi raznoliki in včasih zmedeni – želeni učinek za možgansko nevihto (brainstorming), a usodna napaka povsod drugje.
Spodnja tabela zbirá nastavitve, ki dobro delujejo za najpogostejše primere uporabe. Obravnavaj jo kot izhodišče, ki ga moraš potrditi s svojimi pozivi: močno omejen poziv prenese višjo temperaturo, kot bi morda mislil, medtem ko se ohlapen poziv hitreje iztiri.
| Primer uporabe | Temperatura | top_p |
|---|---|---|
| Generiranje kode | 0,0 – 0,2 | 1,0 |
| Ekstrakcija podatkov | 0,0 | 1,0 |
| Strokovno pisanje | 0,5 – 0,7 | 0,9 |
| Možganska nevihta | 1,0 – 1,3 | 0,95 |
| Ustvarjalno pisanje | 1,0 – 1,5 | 0,9 |
Top_p (vzorčenje jedra)
Parameter top_p deluje na isto porazdelitev, vendar popolnoma drugačen mehanizem: filtrira žetone na podlagi njihove kumulativne verjetnosti. Pri top_p=0.9 model upošteva le žetone, katerih kumulativna verjetnost doseže 90 %, pri čemer preprosto odstrani dolg rep malo verjetnih izbir. Medtem ko temperatura popači verjetnosti vseh kandidatov, top_p oklešči seznam dopustnih kandidatov.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperatura zahteva effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
To vodi do praktičnega pravila, katerega upoštevanje ti ne bo žal: ne spreminjaj temperature in top_p hkrati. Ker oba delujeta na isti mehanizem, opaženega učinka ne bi mogel pripisati enemu ali drugemu, tvoje nastavitve pa bi postale stvar vraževerja. Prilagodi en parameter, drugega pa pusti na privzeti vrednosti; OpenAI priporoča, da začneš s temperaturo.
Drugi pomembni parametri
max_output_tokens omeji dolžino odgovora v žetonih. To je tvoja varovalka tako za stroške kot za neskončne odgovore, še posebej uporabna, ko se mora izhod ujemati z omejenim poljem vmesnika: odgovor, uokvirjen med generiranjem, je boljši od obreza na strani prikaza.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
Od različice GPT-5.6 razmišljanje ni več ločen model: gre za nastavitev, ki nadzira čas razmisleka v celotni družini modelov.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
Raven low hitro odgovori na preprosta vprašanja, medium predstavlja pošten kompromis za večino nalog, high pa vključi poglobljeno razmišljanje, ki bi ga moral rezervirati za resnično težke probleme. Zgornja diferencialna enačba si to zasluži; preoblikovanje pozdravnega stavka pa ne – plačeval bi za čas razmisleka pri nalogi, ki ga ne potrebuje.
Sam opazuj variacije
Nič ne nadomesti ogleda teh nastavitev v praksi. Napiši skript v Pythonu, ki isti poziv pošlje modelu GPT-5.6 Terra s petimi vrednostmi temperature (0, 0,3, 0,7, 1,0 in 1,3) in prikaže pet izpisov drug ob drugem. Izberi odkrito ustvarjalno navodilo, na primer: „Izmisli si ime za startup na področju umetne inteligence”: skoraj dobesedno ponavljanje pri 0 in razpršenost pri 1,3 bosta postala nemogoča za spregledati, ta vizualni spomin pa bo služil kot referenčna točka veliko dlje kot tabela vrednosti.
Ključne ugotovitve
- Temperatura nadzira razpršenost porazdelitve verjetnosti
top_pfiltrira žetone po kumulativni verjetnosti- Nikoli hkrati ne spreminjaj obeh parametrov
- Nizka temperatura za dejanske naloge, visoka za ustvarjalne
- Nastavitev razmišljanja (od none do max) velja za celotno družino GPT-5.6