Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Hyperparametre: Epochy, Miera učenia, Veľkosť dávky

Lekcia 6 z 16 Aktualizované 2. novembra 2026 Pokročilý
Na tejto strane
  1. Úloha hyperparametrov
  2. Počet epoch
  3. Násobiteľ miery učenia
  4. Veľkosť dávky
  5. Metóda optimalizácie
  6. Hodnota „auto“
  7. Kľúčové poznatky

Aktualizácia 2. novembra 2026 — Dostupnosť jemného ladenia. Služba vlastného jemného ladenia od OpenAI sa postupne ukončuje: od 7. mája 2026 organizácie, ktoré nikdy nespustili úlohu jemného ladenia, už nemôžu vytvoriť novú; od 2. júla musíte mať použitý jemne ladený model za posledných 60 dní; a počnúc 6. januárom 2027 žiadny zákazník nebude môcť spustiť nové úlohy. Už natrénované modely zostávajú použiteľné až do vyradenia ich základného modelu. Tento kurz zostáva užitočný na pochopenie a využitie existujúceho modelu; pre nové projekty uprednostnite inžinierstvo promptov, RAG a evaluácie.

Úloha hyperparametrov

Tvoje dáta opisujú, čo by sa mal model naučiť; hyperparametre opisujú, ako sa to učí. Predvolene OpenAI automaticky vyberie rozumné hodnoty na základe veľkosti tvojej datasety a pri prvej úlohe je to správny krok. Ak však model podáva slabé výsledky napriek čistému korpusu, rozdiel takmer vždy spočíva v týchto nastaveniach a ich manuálne doladenie môže výsledky výrazne zlepšiť.

Počet epoch

Epocha je jeden úplný prechod celou tvojou trénovacou datasetou. Čím viac epoch spustíš, tým viackrát model uvidí každý príklad a tým viac detailov si zapamätá. Príliš málo epoch a model sa nenaučil dosť: toto je podprispôsobenie (underfitting) a tvoje odpovede stále vyzerajú ako od základného modelu. Príliš veľa epoch a namiesto zovšeobecňovania si príklady memoruje: toto je preprispôsobenie (overfitting) a model recituje tvoje stovky trénovacích odpovedí hneď, ako sa otázka len vzdialene podobá na niektorú z nich, zatiaľ čo pri nevidenom formulovaní zlyháva.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

Správne nastavenie priamo závisí od objemu tvojich dát: čím menej príkladov máš, tým viackrát ich musíš prejsť, aby sa signál „chytil“.

Veľkosť datasety Odporúčané epochy Dôvod
50–100 príkladov 4–8 Málo dát, potrebuje viac prechodov
100–500 príkladov 2–4 Dobrá rovnováha medzi učením a zovšeobecňovaním
500+ príkladov 1–2 Dostatok dát, riziko preprispôsobenia

Násobiteľ miery učenia

Miera učenia riadi veľkosť úprav aplikovaných na váhy modelu v každom kroku tréningu. Ak je nastavená príliš vysoko, model opravuje príliš agresívne, osciluje okolo správnej odpovede a nekonverguje; ak je príliš nízka, učí sa veľmi pomaly alebo vôbec, čo na konci tréningu výsledkom model takmer identický s tým počiatočným.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

Predvolená hodnota sa automaticky vypočíta v OpenAI na základe veľkosti tvojej datasety. V praxi rozsah 1,0–2,0 zodpovedá tomuto predvolenému správaniu a vyhovuje väčšine prípadov. Zníženie na 0,5–1,0 robí učenie opatrnejším, čo pomáha pri malých datasetách, kde by niekoľko atypických príkladov mohlo model príliš vychýliť z kurzu. Hodnoty nad 2,0 prinášajú agresívne učenie, vyhradené pre situácie, keď si pozoroval, že model sa neposúva dosť – a takéto nastavenie by sa malo okamžite overiť proti validačnej strate.

Veľkosť dávky

Veľkosť dávky určuje, koľko príkladov sa spracuje spoločne pred aktualizáciou váh modelu. Malá dávka produkuje časté aktualizácie: učenie je hlučnejšie, keďže každý príklad má v oprave veľkú váhu, ale aj reakčnejšie. Veľká dávka spriemeruje viac príkladov pred každou opravou, čo vedie k menej častým aktualizáciám a stabilnejšiemu učeniu – toto je páka, ktorou zatiahneš, keď sú tvoje krivky bez zjavného dôvodu roztrasené.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Nemusíš tieto parametre ladiť oddelene: všetky tri idú do toho istého slovníka.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

Metóda optimalizácie

Klasickou chybou je zmeniť všetky tri hodnoty naraz, zaznamenať zlepšenie a nemať tušenie, ktorá z nich ho spôsobila. Postupuj v tomto poradí:

  1. Prvý beh: nechaj hodnoty na predvolených (auto)
  2. Analyzuj stratu: ak trénovacia strata klesá, ale validačná strata rastie, dochádza k preprispôsobeniu
  3. Upravuj jeden parameter naraz: nikdy nemen všetko naraz
  4. Dokumentuj každý beh: zaznamenaj hyperparametre a výsledky

Tento log nie je len byrokracia. Pri treťom alebo štvrtom behu ťa tabuľka spájajúca ID úlohy, použité hyperparametre a pozorovaný výsledok porazí tvoju pamäť zakaždým. Tu je návod, ako čítať najčastejšie symptómy.

Pozorovaný symptómOprava na vyskúšanie
Trénovacia strata neklesáZvýš mieru učenia alebo počet epoch
Validačná strata rastieZníž počet epoch, zvýš veľkosť dávky
Nestabilné výsledkyZníž mieru učenia
Model príliš podobný základnému modeluZvýš počet epoch

Hodnota „auto“

Ak hyperparameter nešpecifikuješ, OpenAI automaticky vyberie optimálnu hodnotu. Nikdy teda nie si nútený vypĺňať všetko: nastav to, čo chceš kontrolovať, a ostatné nechaj na automatické ladenie. Toto je často najlepší východiskový bod a poskytuje ti základňu, s ktorou môžeš porovnávať svoje neskoršie úpravy.

# Nastavené je len n_epochs; ostatné je auto
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier a batch_size budú auto
    }
)

Kľúčové poznatky

  • Vždy začni s predvolenými hodnotami (auto) pred tým, než začneš upravovať
  • n_epochs: upravuj ako prvé, na základe veľkosti tvojich dát
  • learning_rate_multiplier: upravuj, ak je konvergencia príliš pomalá alebo príliš nestabilná
  • batch_size: upravuj, ak je tréning hlučný
  • Meniť vždy len jeden hyperparameter naraz, aby si pochopil jeho vplyv
  • Vždy používaj validačný súbor na detekciu preprispôsobenia