Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Hőmérséklet, top_p és generálási paraméterek

2. lecke 16 közül Frissítve 2026. november 3. Fejlesztő
Ezen az oldalon
  1. Hőmérséklet, top_p és generálási paraméterek
  2. Hogyan választja ki a modell a következő tokent?
  3. Hőmérséklet (Temperature)
  4. Top_p (Nukleusz mintavételezés)
  5. Egyéb fontos paraméterek
  6. Figyeld meg magad a variációt!
  7. Főbb megállapítások

Frissítve: 2026. november 3. az OpenAI dokumentációja alapján: a temperature és a top_p paraméterek csak none gondolkodási erőfeszítés (reasoning effort) mellett fogadhatók el, míg a GPT-5.6 modellek alapértelmezetten (medium) gondolkodnak. Ezeket a paramétereket beállító hívásoknak ezért meg kell adniuk a reasoning={"effort": "none"} (Responses API) vagy reasoning_effort="none" (Chat Completions) beállítást. Források: GPT-6 használata · GPT-5.6 Terra.

Hőmérséklet, top_p és generálási paraméterek

Amikor egy nyelvi modellnek küldesz egy promptot, a generált szöveg alapértelmezetten nem determinisztikus: két szigorúan azonos hívás két különböző választ is eredményezhet. A generálási paraméterek lehetővé teszik, hogy szabályozd a válaszok kreativitásának vagy szigorúságának mértékét. Ezek elsajátítása két konkrét célt szolgál: az egyes használati esetekhez igazodó eredmények elérését, valamint annak megértését, hol kell keresni a hibát, ha egy integrációs tesztsorozat minden harmadik futtatásnál, látszólagos ok nélkül meghibásodik.

Hogyan választja ki a modell a következő tokent?

A generálás minden lépésében a modell kiszámítja a valószínűségi eloszlást a teljes szókincsére vonatkozóan, majd ebből az eloszlásból mintavételezi a következő tokent. A „legjobb“ szó nem mechanikusan ugrik elő; ez egy húzás. A generálási paraméterek a mintavételezés előtt lépnek közbe: vagy szűkítik az eloszlást a legvalószínűbb jelöltek körül, vagy laposabbá teszik azt, hogy a kevésbé valószínű lehetőségek is esélyt kapjanak. Az alábbi két hívás ennek a szükségletnek a szélsőségeit illusztrálja: egy pékség szlogenje csak akkor értékes, ha meglepő, míg egy listakifejezés szintaxisának soha nem szabad meglepetést okoznia.

from openai import OpenAI

client = OpenAI()

# Kreatív válasz (magas hőmérséklet)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Tényszerű válasz (alacsony hőmérséklet)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Hőmérséklet (Temperature)

A hőmérséklet egy multiplikatív tényező, amelyet a logitokra alkalmaznak a softmax előtt. 0 értéknél az eloszlás addig szűkül, hogy a modell mindig a legvalószínűbb tokent választja: a viselkedés kvázi-determinisztikussá válik, ami pontosan az, amit egy egységtesztben újra lejátszott adatkiegyesítőtől elvársz. 0,1 és 0,3 között a válaszok hívásról hívásra nagyon konzisztensek maradnak: ez a kódgenerálás és a tényeken alapuló válaszok területe. A 0,7 és 0,9 közötti tartomány egyensúlyt teremt a kreativitás és a konzisztencia között, ami az általános íráshoz illik. Efelett, 1,0 és 1,5 között a kimenetek változatossá és néha zavarossá válnak – ez kívánt hatás az ötletelésnél, de minden más esetben végzetes hiba.

Az alábbi táblázat összegyűjti a leggyakoribb használati esetekhez jól működő beállításokat. Tekints rá kiindulópontként, amelyet saját promptjaidon kell validálnod: egy erősen korlátozott prompt magasabb hőmérsékletet is elvisel, mint gondolnád, míg egy laza prompt hamarabb félremegy.

Használati eset Hőmérséklet top_p
Kódgenerálás 0,0 – 0,2 1,0
Adatkinyerés 0,0 1,0
Professzionális írás 0,5 – 0,7 0,9
Ötletelés (Brainstorming) 1,0 – 1,3 0,95
Kreatív írás 1,0 – 1,5 0,9

Top_p (Nukleusz mintavételezés)

A top_p paraméter ugyanarra az eloszlásra hat, de teljesen más mechanizmussal: a tokeneket kumulatív valószínűségük alapján szűri. top_p=0.9 esetén a modell csak azokat a tokeneket veszi figyelembe, amelyek kumulatív valószínűsége eléri a 90%-ot, egyszerűen eltávolítva a valószínűtlen választások hosszú farkát. Míg a hőmérséklet az összes jelölt valószínűségét torzítja, addig a top_p levágja a megengedett jelöltek listáját.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Ez egy gyakorlati szabályhoz vezet, amelyet nem fogsz megbánni, ha alkalmazol: soha ne módosítsd egyszerre a hőmérsékletet és a top_p-t. Mivel mindkettő ugyanarra a mechanizmusra hat, nem tudnád attribúálni a megfigyelt hatást az egyiknek vagy a másiknak, és a beállításaid babonává válnának. Állíts be egy paramétert, a másikat hagyd az alapértelmezett értéken; az OpenAI azt javasolja, hogy a hőmérséklettel kezdj.

Egyéb fontos paraméterek

A max_output_tokens korlátozza a válasz hosszát tokenekben. Ez a biztosítékod mind a költségek, mind a végtelen válaszok ellen, különösen akkor hasznos, ha a kimenetnek egy korlátozott felületi mezőbe kell illeszkednie: egy generálás során keretezett válasz jobb, mint a megjelenítési oldalon történő levágás.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

A GPT-5.6 óta a gondolkodás (reasoning) már nem külön modell: ez egy beállítás, amely a teljes családon belül szabályozza a reflexiós időt.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

A low szint gyorsan válaszol az egyszerű kérdésekre, a medium őszinte kompromisszumot jelent a feladatok többségéhez, a high pedig mélyreható gondolkodást indít el, amelyet valóban nehéz problémákra kell tartogatni. A fenti differenciálegyenlet megérdemli ezt; egy üdvözlő mondat átfogalmazása nem – ilyenkor felesleges gondolkodási időért fizetnél egy olyan feladatnál, amelynek nincs rá szüksége.

Figyeld meg magad a variációt!

Semmi sem pótolja azt, ha saját szemeddel látod ezeket a beállításokat működés közben. Írj egy Python szkriptet, amely ugyanazt a promptot küldi el a GPT-5.6 Terra modellnek öt különböző hőmérséklet-értékkel (0, 0,3, 0,7, 1,0 és 1,3), és egymás mellett jeleníti meg az öt kimenetet. Válassz kifejezetten kreatív utasítást, például: „Találj ki egy nevet egy AI startupnak“: a 0 értéknél tapasztalt szinte szóról szóra történő ismétlődés és az 1,3 értéknél fellépő szóródás lehetetlenné válik, hogy elkerülje a figyelmedet, és ez a vizuális emlék sokkal tovább szolgál majd támpontként, mint bármely értéktáblázat.

Főbb megállapítások

  • A hőmérséklet szabályozza a valószínűségi eloszlás szóródását
  • A top_p a tokeneket kumulatív valószínűség alapján szűri
  • Soha ne módosítsd mindkettőt egyszerre
  • Alacsony hőmérséklet a tényeken alapuló feladatokhoz, magas a kreatívokhoz
  • A gondolkodási beállítás (a none-tól a max-ig) a teljes GPT-5.6 családra vonatkozik