Temperatūra, top_p ir generavimo parametrai
Šiame puslapyje
Atnaujinta 2026 m. lapkričio 3 d. pagal „OpenAI“ dokumentaciją:
temperatureirtop_ppriimami tik esantnonelygio samprotavimui, tuo tarpu GPT-5.6 modeliai pagal nutylėjimą samprotauja (medium). Todėl kvietimuose, kuriuose nustatomi šie parametrai, būtina nurodytireasoning={"effort": "none"}(Responses API) arbareasoning_effort="none"(Chat Completions). Šaltiniai: Using GPT-6 · GPT-5.6 Terra.
Temperatūra, top_p ir generavimo parametrai
Kai siunči užklausą kalbos modeliui, sugeneruotas tekstas pagal nutylėjimą nėra deterministinis: du visiškai identiški kvietimai gali grąžinti du skirtingus atsakymus. Generavimo parametrai leidžia valdyti tų atsakymų kūrybiškumo arba griežtumo laipsnį. Jų išmanymas padeda siekti dviejų konkrečių tikslų: gauti kiekvienam atvejui pritaikytus rezultatus ir žinoti, kur ieškoti priežasties, jei integracijos testų rinkinys pradeda žlugti kas trečią kartą be jokios aiškios priežasties.
Kaip modelis pasirenka kitą tokeną
Kiekviename generavimo žingsnyje modelis apskaičiuoja tikimybių pasiskirstymą visame savo žodyne, o tada iš to pasiskirstymo atrenka kitą tokeną. „Geriausias“ žodis neiššoka mechaniškai; tai yra atsitiktinis pasirinkimas. Generavimo parametrai įsikiša prieš atrenkant, arba susiaurindami pasiskirstymą aplink labiausiai tikėtinus kandidatus, arba jį išplėsdami, kad šansų gautų ir mažiau tikėtini variantai. Toliau pateikti du kvietimai iliustruoja kraštutinius šio poreikio atvejus: kepyklos šūkis yra vertingas tik tada, kai nustebina, tuo tarpu sąrašo kūrimo (list comprehension) sintaksė niekada neturėtų stebinti.
from openai import OpenAI
client = OpenAI()
# Kūrybingas atsakymas (aukšta temperatūra)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Faktinis atsakymas (žema temperatūra)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Temperatūra
Temperatūra yra daugiklis, taikomas logitams prieš „softmax“ funkciją. Esant 0, pasiskirstymas taip susiaurėja, kad modelis visada pasirenka tikimiausią tokeną: elgsena tampa beveik deterministine, būtent tokios ir norite iš duomenų ekstraktoriaus, paleidžiamo vienetiniame teste. Tarp 0,1 ir 0,3 atsakymai lieka labai nuoseklūs nuo kvietimo iki kvietimo: tai kodų ir faktinių atsakymų teritorija. Diapazonas nuo 0,7 iki 0,9 subalansuoja kūrybiškumą ir nuoseklumą, todėl tinka bendro pobūdžio rašymui. Viršijus šias ribas, tarp 1,0 ir 1,5, išvestys tampa įvairios ir kartais dezorientuojančios – tai pageidaujamas efektas idėjų generavimui, bet mirtina klaida visur kitur.
Toliau pateiktoje lentelėje surinkti nustatymai, kurie gerai veikia dažniausiai pasitaikančiais atvejais. Laikykite ją pradiniu tašku, kurį turite patikrinti su savo užklausomis: labai apribota užklausa gali atlaikyti aukštesnę temperatūrą, nei manytumėte, tuo tarpu laisva užklausa greičiau nukryps nuo kelio.
| Naudojimo atvejis | Temperatūra | top_p |
|---|---|---|
| Kodų generavimas | 0,0 – 0,2 | 1,0 |
| Duomenų ekstrahavimas | 0,0 | 1,0 |
| Profesionalus rašymas | 0,5 – 0,7 | 0,9 |
| Idėjų generavimas | 1,0 – 1,3 | 0,95 |
| Kūrybinis rašymas | 1,0 – 1,5 | 0,9 |
Top_p (branduolio atranka)
Parametras top_p veikia tą patį pasiskirstymą, tačiau visiškai kitokiu mechanizmu: jis filtruoja tokenus pagal jų kaupiamąją tikimybę. Nustačius top_p=0.9, modelis svarsto tik tuos tokenus, kurių kaupiamoji tikimybė siekia 90 %, tiesiog pašalindamas ilgą mažai tikėtinų pasirinkimų uodegą. Kol temperatūra iškraipo visų kandidatų tikimybes, top_p sutrumpina leistinų kandidatų sąrašą.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
Iš to išplaukia praktinė taisyklė, kurios laikymasis tau tikrai pravars: nemodifikuok temperatūros ir top_p vienu metu. Kadangi abu veikia tą patį mechanizmą, negalėsi priskirti stebimo efekto vienam ar kitam, o tavo nustatymai taps gryna spekuliacija. Koreguok vieną parametrą, palikdamas kitą pagal nutylėjimą; „OpenAI“ rekomenduoja pradėti nuo temperatūros.
Kiti svarbūs parametrai
max_output_tokens riboja atsakymo ilgį tokenais. Tai tavo apsauga tiek nuo išlaidų viršijimo, tiek nuo begalinių atsakymų, ypač naudinga, kai išvestis turi tilpti į apribotą sąsajos lauką: generavimo metu apribotas atsakymas yra geriau nei nukirpimas rodymo pusėje.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
Nuo GPT-5.6 versijos samprotavimas nebėra atskiras modelis: tai nustatymas, valdantis apmąstymų laiką visoje šeimoje.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
low lygis greitai atsako į paprastus klausimus, medium yra sąžiningas kompromisas daugumai užduočių, o high įjungia gilų samprotavimą, kurį reikėtų rezervuoti tikrai sudėtingoms problemoms. Pirmiau pateikta diferencialinė lygtis to nusipelno; persakyti pasveikinimo sakinio – ne, taip mokėtum už apmąstymų laiką užduočiai, kuriai jo nereikia.
Pats stebėk variacijas
Niekas nepakeis šių nustatymų stebėjimo veiksmo metu. Parašyk „Python“ scenarijų, kuris siunčia tą pačią užklausą GPT-5.6 Terra modeliui su penkiomis temperatūros reikšmėmis (0, 0,3, 0,7, 1,0 ir 1,3) ir greta parodytų penkis rezultatus. Pasirink atvirai kūrybinę instrukciją, pavyzdžiui: „Išgalvok pavadinimą DI startuoliui“: beveik pažodinis pasikartojimas ties 0 ir išsibarstymas ties 1,3 taps nepastebėti neįmanomi, o šis vizualus įspūdis tarnaus kaip atskaitos taškas daug ilgiau nei bet kuri verčių lentelė.
Svarbiausi punktai
- Temperatūra valdo tikimybių pasiskirstymo sklaidą
top_pfiltruoja tokenus pagal kaupiamąją tikimybę- Niekada nekeisk abiejų vienu metu
- Faktinėms užduotims naudok žemą temperatūrą, kūrybinėms – aukštą
- Samprotavimo nustatymas (nuo none iki max) taikomas visai GPT-5.6 šeimai