Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Teplota, top_p a parametre generovania

Lekcia 2 z 16 Aktualizované 3. novembra 2026 Vývojár
Na tejto strane
  1. Teplota, top_p a parametre generovania
  2. Ako model vyberá ďalší token
  3. Teplota
  4. Top_p (vzorkovanie jadra)
  5. Ďalšie dôležité parametre
  6. Pozoruj variáciu na vlastné oči
  7. Kľúčové poznatky

Aktualizované 3. novembra 2026 na základe dokumentácie OpenAI: Parametre temperature a top_p sú akceptované len pri úsilí o logické uvažovanie (reasoning effort) nastavenom na none, zatiaľ čo modely GPT-5.6 štandardne uvažujú (medium). Volania, ktoré nastavujú tieto parametre, preto musia špecifikovať reasoning={"effort": "none"} (Responses API) alebo reasoning_effort="none" (Chat Completions). Zdroje: Používanie GPT-6 · GPT-5.6 Terra.

Teplota, top_p a parametre generovania

Keď pošleš jazykovému modelu výzvu (prompt), vygenerovaný text nie je štandardne deterministický: dve úplne identické volania môžu vrátiť dve rôzne odpovede. Parametre generovania ti umožňujú kontrolovať mieru kreativity alebo presnosti týchto odpovedí. Ich zvládnutie slúži dvom konkrétnym cieľom: získať výsledky prispôsobené každému prípadu použitia a vedieť, kde hľadať príčinu, keď sada integračných testov začne zlyhávať jedenkrát z troch bez zrejmej vysvetlenia.

Ako model vyberá ďalší token

V každom kroku generovania model vypočíta rozdelenie pravdepodobnosti nad celou svojou slovnou zásobou a následne z tohto rozdelenia vzorkuje ďalší token. „Najlepšie“ slovo sa mechanicky neobjaví; ide o losovanie. Parametre generovania zasahujú pred vzorkovaním – buď sprísňujú rozdelenie okolo najpravdepodobnejších kandidátov, alebo ho splošťujú, aby dali šancu aj menej pravdepodobným možnostiam. Dva nižšie uvedené príklady ilustrujú extrémy tejto potreby: slogan pre pekáreň má hodnotu len vtedy, ak prekvapí, zatiaľ čo syntax zoznamového odvodenia (list comprehension) nesmie nikdy prekvapiť.

from openai import OpenAI

client = OpenAI()

# Kreatívna odpoveď (vysoká teplota)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktická odpoveď (nízka teplota)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Teplota

Teplota je multiplikatívny faktor aplikovaný na logity pred funkciou softmax. Pri hodnote 0 sa rozdelenie sprísni do takej miery, že model vždy vyberie najpravdepodobnejší token: správanie sa stáva kvázi-deterministickým, čo je presne to, čo očakávaš od extraktora dát spúšťaného v unit teste. V rozmedzí 0,1 až 0,3 zostávajú odpovede od volania k volaniu veľmi konzistentné: toto je doména kódu a faktických odpovedí. Rozsah 0,7 až 0,9 vyvažuje kreativitu a konzistentnosť, čo vyhovuje všeobecnému písaniu. Nad touto hranicou, medzi 1,0 a 1,5, sa výstupy stávajú rôznorodými a niekedy dezorientujúcimi – čo je žiaduci efekt pri brainstormingu, ale fatálna chyba všade inde.

Nižšie uvedená tabuľka zhromažďuje nastavenia, ktoré dobre fungujú pre najčastejšie prípady použitia. Ber ju ako východiskový bod, ktorý si overíš na vlastných výzvach: vysoko obmedzený prompt toleruje vyššiu teplotu, než by si si mohol myslieť, zatiaľ čo voľný prompt sa rýchlejšie rozpadne.

Prípad použitia Teplota top_p
Generovanie kódu 0,0 – 0,2 1,0
Extrakcia dát 0,0 1,0
Profesionálne písanie 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Kreatívne písanie 1,0 – 1,5 0,9

Top_p (vzorkovanie jadra)

Parameter top_p pôsobí na rovnaké rozdelenie, ale úplne odlišným mechanizmom: filtruje tokeny na základe ich kumulatívnej pravdepodobnosti. Pri top_p=0,9 model berie do úvahy len tie tokeny, ktorých kumulatívna pravdepodobnosť dosiahne 90 %, čím čisto a jednoducho odstráni dlhý chvost nepravdepodobných možností. Zatiaľ čo teplota skresľuje pravdepodobnosti všetkých kandidátov, top_p orezáva zoznam prípustných kandidátov.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

Z toho vyplýva praktické pravidlo, ktorého dodržiavanie neoľutuješ: neupravuj súčasne teplotu aj top_p. Keďže oba parametre pôsobia na ten istý mechanizmus, nedokázal by si pripísať pozorovaný efekt jednému alebo druhému a tvoje nastavenia by sa stali otázkou poverčivosti. Uprav jeden parameter a druhý nechaj na jeho predvolenej hodnote; OpenAI odporúča začať s teplotou.

Ďalšie dôležité parametre

max_output_tokens obmedzuje dĺžku odpovede v tokenoch. Je to tvoja poistka proti nákladom aj proti nekonečným odpovediam, obzvlášť užitočná, keď sa výstup musí zmestiť do obmedzeného poľa rozhrania: odpoveď orezaná počas generovania je lepšia ako orezanie na strane zobrazenia.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Od verzie GPT-5.6 už logické uvažovanie nie je samostatný model: je to nastavenie, ktoré riadi čas reflexie v celej rodine modelov.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Úroveň low rýchlo odpovedá na jednoduché otázky, medium predstavuje úprimný kompromis pre väčšinu úloh a high zapája hĺbkové uvažovanie, ktoré by sa malo vyhradiť pre skutočne náročné problémy. Vyššie uvedená diferenciálna rovnica si to zaslúži; preformulovanie uvítacej vety nie – platil by si za čas uvažovania pri úlohe, ktorá ho nevyžaduje.

Pozoruj variáciu na vlastné oči

Nič nenahradí vidieť tieto nastavenia v akcii. Napíš Python skript, ktorý pošle rovnaký prompt modelu GPT-5.6 Terra s piatimi hodnotami teploty (0, 0,3, 0,7, 1,0 a 1,3) a zobrazí päť výstupov vedľa seba. Vyber si úprimne kreatívnu inštrukciu, napríklad: „Vymysli názov pre startup zameraný na AI“: takmer doslovné opakovanie pri hodnote 0 a rozptýlenosť pri hodnote 1,3 budú neprehliadnuteľné a táto vizuálna pamäť ti bude slúžiť ako referenčný bod oveľa dlhšie než tabuľka hodnôt.

Kľúčové poznatky

  • Teplota riadi rozptyl rozdelenia pravdepodobnosti
  • top_p filtruje tokeny podľa kumulatívnej pravdepodobnosti
  • Nikdy neupravuj oba parametre súčasne
  • Nízka teplota pre faktické úlohy, vysoká pre kreatívne
  • Nastavenie uvažovania (od none po max) sa vzťahuje na celú rodinu modelov GPT-5.6