Hőmérséklet, top_p és generálási paraméterek
Ezen az oldalon
Frissítve: 2026. november 3. az OpenAI dokumentációja alapján: a
temperatureés atop_pparaméterek csaknonegondolkodási erőfeszítés (reasoning effort) mellett fogadhatók el, míg a GPT-5.6 modellek alapértelmezetten (medium) gondolkodnak. Ezeket a paramétereket beállító hívásoknak ezért meg kell adniuk areasoning={"effort": "none"}(Responses API) vagyreasoning_effort="none"(Chat Completions) beállítást. Források: GPT-6 használata · GPT-5.6 Terra.
Hőmérséklet, top_p és generálási paraméterek
Amikor egy nyelvi modellnek küldesz egy promptot, a generált szöveg alapértelmezetten nem determinisztikus: két szigorúan azonos hívás két különböző választ is eredményezhet. A generálási paraméterek lehetővé teszik, hogy szabályozd a válaszok kreativitásának vagy szigorúságának mértékét. Ezek elsajátítása két konkrét célt szolgál: az egyes használati esetekhez igazodó eredmények elérését, valamint annak megértését, hol kell keresni a hibát, ha egy integrációs tesztsorozat minden harmadik futtatásnál, látszólagos ok nélkül meghibásodik.
Hogyan választja ki a modell a következő tokent?
A generálás minden lépésében a modell kiszámítja a valószínűségi eloszlást a teljes szókincsére vonatkozóan, majd ebből az eloszlásból mintavételezi a következő tokent. A „legjobb“ szó nem mechanikusan ugrik elő; ez egy húzás. A generálási paraméterek a mintavételezés előtt lépnek közbe: vagy szűkítik az eloszlást a legvalószínűbb jelöltek körül, vagy laposabbá teszik azt, hogy a kevésbé valószínű lehetőségek is esélyt kapjanak. Az alábbi két hívás ennek a szükségletnek a szélsőségeit illusztrálja: egy pékség szlogenje csak akkor értékes, ha meglepő, míg egy listakifejezés szintaxisának soha nem szabad meglepetést okoznia.
from openai import OpenAI
client = OpenAI()
# Kreatív válasz (magas hőmérséklet)
response_creative = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a creative writer.",
input="Propose a slogan for an artisanal bakery.",
temperature=1.2
)
# Tényszerű válasz (alacsony hőmérséklet)
response_factual = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="You are a precise technical assistant.",
input="What is the syntax of a list comprehension in Python?",
temperature=0.1
)
Hőmérséklet (Temperature)
A hőmérséklet egy multiplikatív tényező, amelyet a logitokra alkalmaznak a softmax előtt. 0 értéknél az eloszlás addig szűkül, hogy a modell mindig a legvalószínűbb tokent választja: a viselkedés kvázi-determinisztikussá válik, ami pontosan az, amit egy egységtesztben újra lejátszott adatkiegyesítőtől elvársz. 0,1 és 0,3 között a válaszok hívásról hívásra nagyon konzisztensek maradnak: ez a kódgenerálás és a tényeken alapuló válaszok területe. A 0,7 és 0,9 közötti tartomány egyensúlyt teremt a kreativitás és a konzisztencia között, ami az általános íráshoz illik. Efelett, 1,0 és 1,5 között a kimenetek változatossá és néha zavarossá válnak – ez kívánt hatás az ötletelésnél, de minden más esetben végzetes hiba.
Az alábbi táblázat összegyűjti a leggyakoribb használati esetekhez jól működő beállításokat. Tekints rá kiindulópontként, amelyet saját promptjaidon kell validálnod: egy erősen korlátozott prompt magasabb hőmérsékletet is elvisel, mint gondolnád, míg egy laza prompt hamarabb félremegy.
| Használati eset | Hőmérséklet | top_p |
|---|---|---|
| Kódgenerálás | 0,0 – 0,2 | 1,0 |
| Adatkinyerés | 0,0 | 1,0 |
| Professzionális írás | 0,5 – 0,7 | 0,9 |
| Ötletelés (Brainstorming) | 1,0 – 1,3 | 0,95 |
| Kreatív írás | 1,0 – 1,5 | 0,9 |
Top_p (Nukleusz mintavételezés)
A top_p paraméter ugyanarra az eloszlásra hat, de teljesen más mechanizmussal: a tokeneket kumulatív valószínűségük alapján szűri. top_p=0.9 esetén a modell csak azokat a tokeneket veszi figyelembe, amelyek kumulatív valószínűsége eléri a 90%-ot, egyszerűen eltávolítva a valószínűtlen választások hosszú farkát. Míg a hőmérséklet az összes jelölt valószínűségét torzítja, addig a top_p levágja a megengedett jelöltek listáját.
response = client.responses.create(
model="gpt-5.6-terra",
reasoning={"effort": "none"}, # temperature requires effort none
instructions="Generate a technical summary.",
input="Summarize how TLS 1.3 works.",
temperature=0.3,
top_p=0.95
)
Ez egy gyakorlati szabályhoz vezet, amelyet nem fogsz megbánni, ha alkalmazol: soha ne módosítsd egyszerre a hőmérsékletet és a top_p-t. Mivel mindkettő ugyanarra a mechanizmusra hat, nem tudnád attribúálni a megfigyelt hatást az egyiknek vagy a másiknak, és a beállításaid babonává válnának. Állíts be egy paramétert, a másikat hagyd az alapértelmezett értéken; az OpenAI azt javasolja, hogy a hőmérséklettel kezdj.
Egyéb fontos paraméterek
A max_output_tokens korlátozza a válasz hosszát tokenekben. Ez a biztosítékod mind a költségek, mind a végtelen válaszok ellen, különösen akkor hasznos, ha a kimenetnek egy korlátozott felületi mezőbe kell illeszkednie: egy generálás során keretezett válasz jobb, mint a megjelenítési oldalon történő levágás.
response = client.responses.create(
model="gpt-5.6-terra",
instructions="Answer in one sentence.",
input="What is DNS?",
max_output_tokens=100
)
A GPT-5.6 óta a gondolkodás (reasoning) már nem külön modell: ez egy beállítás, amely a teljes családon belül szabályozza a reflexiós időt.
response = client.responses.create(
model="gpt-5.6-terra",
input="Solve this differential equation: y' + 2y = e^(-x)",
reasoning={
"effort": "high" # "none", "low", "medium", "high", "xhigh", "max"
}
)
A low szint gyorsan válaszol az egyszerű kérdésekre, a medium őszinte kompromisszumot jelent a feladatok többségéhez, a high pedig mélyreható gondolkodást indít el, amelyet valóban nehéz problémákra kell tartogatni. A fenti differenciálegyenlet megérdemli ezt; egy üdvözlő mondat átfogalmazása nem – ilyenkor felesleges gondolkodási időért fizetnél egy olyan feladatnál, amelynek nincs rá szüksége.
Figyeld meg magad a variációt!
Semmi sem pótolja azt, ha saját szemeddel látod ezeket a beállításokat működés közben. Írj egy Python szkriptet, amely ugyanazt a promptot küldi el a GPT-5.6 Terra modellnek öt különböző hőmérséklet-értékkel (0, 0,3, 0,7, 1,0 és 1,3), és egymás mellett jeleníti meg az öt kimenetet. Válassz kifejezetten kreatív utasítást, például: „Találj ki egy nevet egy AI startupnak“: a 0 értéknél tapasztalt szinte szóról szóra történő ismétlődés és az 1,3 értéknél fellépő szóródás lehetetlenné válik, hogy elkerülje a figyelmedet, és ez a vizuális emlék sokkal tovább szolgál majd támpontként, mint bármely értéktáblázat.
Főbb megállapítások
- A hőmérséklet szabályozza a valószínűségi eloszlás szóródását
- A
top_pa tokeneket kumulatív valószínűség alapján szűri - Soha ne módosítsd mindkettőt egyszerre
- Alacsony hőmérséklet a tényeken alapuló feladatokhoz, magas a kreatívokhoz
- A gondolkodási beállítás (a
none-tól amax-ig) a teljes GPT-5.6 családra vonatkozik