Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Teplota, top_p a parametry generování

Lekce 2 z 16 Aktualizováno 3. listopadu 2026 Vývojář
Na této stránce
  1. Teplota, top_p a parametry generování
  2. Jak model vybírá další token
  3. Teplota (Temperature)
  4. Top_p (Výběr jádra / Nucleus Sampling)
  5. Další důležité parametry
  6. Pozoruj variace na vlastní kůži
  7. Klíčové poznatky

Aktualizováno 3. listopadu 2026 na základě dokumentace OpenAI: parametry temperature a top_p jsou přijímány pouze při úsilí o uvažování (reasoning effort) nastaveném na none, zatímco modely řady GPT-5.6 ve výchozím nastavení uvažují (medium). Volání, která tyto parametry nastavují, proto musí specifikovat reasoning={"effort": "none"} (Responses API) nebo reasoning_effort="none" (Chat Completions). Zdroje: Používání GPT-6 · GPT-5.6 Terra.

Teplota, top_p a parametry generování

Když odešleš prompt jazykovému modelu, vygenerovaný text není ve výchozím nastavení deterministický: dvě zcela totožná volání mohou vrátit dvě různé odpovědi. Parametry generování ti umožňují řídit míru kreativity nebo přísnosti těchto odpovědí. Ovládnutí těchto parametrů slouží dvěma konkrétním cílům: získávat výsledky přizpůsobené každému případu použití a vědět, kde hledat příčinu, když sada integračních testů začne bez zjevného vysvětlení selhávat jedenkrát ze tří.

Jak model vybírá další token

V každém kroku generování model vypočítá rozdělení pravděpodobnosti nad celou svou slovní zásobou a následně z tohoto rozdělení vybere další token. „Nejlepší“ slovo se mechanicky nevynoří; jde o losování. Parametry generování zasahují před samotným výběrem (samplingem), buď tím, že stáhnou rozdělení kolem nejpravděpodobnějších kandidátů, nebo ho zploští, aby daly šanci i méně pravděpodobným možnostem. Níže uvedené dva příklady ilustrují extrémy této potřeby: slogan pro pekárnu má hodnotu pouze tehdy, když překvapí, zatímco syntaxe list comprehension v Pythonu nesmí překvapit nikdy.

from openai import OpenAI

client = OpenAI()

# Kreativní odpověď (vysoká teplota)
response_creative = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a creative writer.",
    input="Propose a slogan for an artisanal bakery.",
    temperature=1.2
)

# Faktická odpověď (nízká teplota)
response_factual = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="You are a precise technical assistant.",
    input="What is the syntax of a list comprehension in Python?",
    temperature=0.1
)

Teplota (Temperature)

Teplota je multiplikativní faktor aplikovaný na logity před funkcí softmax. Při hodnotě 0 se rozdělení stáhne natolik, že model vždy vybere nejpravděpodobnější token: chování se stane kvazi-deterministickým, což je přesně to, co očekáváš od extraktoru dat spouštěného v unit testu. V rozmezí 0,1 až 0,3 zůstávají odpovědi od volání k volání velmi konzistentní: to je doména kódu a faktických odpovědí. Rozsah 0,7 až 0,9 vyvažuje kreativitu a konzistenci, což vyhovuje obecnému psaní textů. Nad touto hranicí, mezi 1,0 a 1,5, se výstupy stávají rozmanitými a někdy matoucími – což je žádoucí efekt pro brainstorming, ale fatální chyba kdekoli jinde.

Následující tabulka shrnuje nastavení, která fungují dobře pro nejčastější případy použití. Ber ji jako výchozí bod, který si ověříš na vlastních prompotech: vysoce omezený prompt snese vyšší teplotu, než bys možná čekal, zatímco volný prompt se rychleji odchýlí od zamýšleného směru.

Případ použití Teplota top_p
Generování kódu 0,0 – 0,2 1,0
Extrakce dat 0,0 1,0
Profesionální psaní 0,5 – 0,7 0,9
Brainstorming 1,0 – 1,3 0,95
Kreativní psaní 1,0 – 1,5 0,9

Top_p (Výběr jádra / Nucleus Sampling)

Parametr top_p působí na stejné rozdělení pravděpodobnosti, ale zcela odlišným mechanismem: filtruje tokeny na základě jejich kumulativní pravděpodobnosti. Při nastavení top_p=0.9 model zvažuje pouze ty tokeny, jejichž kumulativní pravděpodobnost dosáhne 90 %, přičemž čistě a jednoduše odstraní dlouhý ocas nepravděpodobných voleb. Zatímco teplota zkresluje pravděpodobnosti všech kandidátů, top_p zkracuje seznam přípustných kandidátů.

response = client.responses.create(
    model="gpt-5.6-terra",
    reasoning={"effort": "none"},  # temperature requires effort none
    instructions="Generate a technical summary.",
    input="Summarize how TLS 1.3 works.",
    temperature=0.3,
    top_p=0.95
)

To vede k praktickému pravidlu, jehož dodržování nebudeš litovat: neměň současně teplotu ani top_p. Protože oba parametry působí na stejný mechanismus, nedokážeš pozorovaný efekt připsat jednomu či druhému a tvá nastavení se stanou otázkou pověr. Upravuj vždy pouze jeden parametr a druhý ponech na výchozí hodnotě; OpenAI doporučuje začít s teplotou.

Další důležité parametry

max_output_tokens omezuje délku odpovědi v tokenech. Je to tvoje pojistka proti nákladům i proti nekonečným odpovědím, obzvlášť užitečná, když se výstup musí vejít do omezeného pole rozhraní: odpověď ohraničená během generování je lepší než její oříznutí na straně zobrazení.

response = client.responses.create(
    model="gpt-5.6-terra",
    instructions="Answer in one sentence.",
    input="What is DNS?",
    max_output_tokens=100
)

Od verze GPT-5.6 již uvažování není samostatný model: je to nastavení, které řídí čas věnovaný reflexi napříč celou rodinou modelů.

response = client.responses.create(
    model="gpt-5.6-terra",
    input="Solve this differential equation: y' + 2y = e^(-x)",
    reasoning={
        "effort": "high"  # "none", "low", "medium", "high", "xhigh", "max"
    }
)

Úroveň low odpovídá rychle na jednoduché otázky, medium představuje poctivý kompromis pro většinu úkolů a high zapojuje hloubkové uvažování, které by mělo být vyhrazeno skutečně obtížným problémům. Výše uvedená diferenciální rovnice si to zaslouží; přeformulování uvítací věty nikoli – platil bys za čas uvažování u úkolu, který žádné nevyžaduje.

Pozoruj variace na vlastní kůži

Nic nenahradí vidět tato nastavení v akci. Napiš skript v Pythonu, který odešle stejný prompt modelu GPT-5.6 Terra s pěti hodnotami teploty (0, 0,3, 0,7, 1,0 a 1,3) a zobrazí pět výstupů vedle sebe. Vyber si upřímně kreativní instrukci, například „Vymysli název pro startup zabývající se AI“: téměř doslovné opakování při hodnotě 0 a rozptýlenost při hodnotě 1,3 budou nepřehlédnutelné a tato vizuální vzpomínka ti poslouží jako referenční bod mnohem déle než jakákoli tabulka hodnot.

Klíčové poznatky

  • Teplota řídí rozptyl rozdělení pravděpodobnosti
  • top_p filtruje tokeny podle kumulativní pravděpodobnosti
  • Nikdy neměň oba parametry současně
  • Nízká teplota pro faktické úkoly, vysoká pro kreativní
  • Nastavení uvažování (od none do max) se vztahuje na celou rodinu modelů GPT-5.6