Hyperparametre: Epochy, Miera učenia, Veľkosť dávky
Na tejto strane
Aktualizácia 2. novembra 2026 — Dostupnosť jemného ladenia. Služba vlastného jemného ladenia od OpenAI sa postupne ukončuje: od 7. mája 2026 organizácie, ktoré nikdy nespustili úlohu jemného ladenia, už nemôžu vytvoriť novú; od 2. júla musíte mať použitý jemne ladený model za posledných 60 dní; a počnúc 6. januárom 2027 žiadny zákazník nebude môcť spustiť nové úlohy. Už natrénované modely zostávajú použiteľné až do vyradenia ich základného modelu. Tento kurz zostáva užitočný na pochopenie a využitie existujúceho modelu; pre nové projekty uprednostnite inžinierstvo promptov, RAG a evaluácie.
Úloha hyperparametrov
Tvoje dáta opisujú, čo by sa mal model naučiť; hyperparametre opisujú, ako sa to učí. Predvolene OpenAI automaticky vyberie rozumné hodnoty na základe veľkosti tvojej datasety a pri prvej úlohe je to správny krok. Ak však model podáva slabé výsledky napriek čistému korpusu, rozdiel takmer vždy spočíva v týchto nastaveniach a ich manuálne doladenie môže výsledky výrazne zlepšiť.
Počet epoch
Epocha je jeden úplný prechod celou tvojou trénovacou datasetou. Čím viac epoch spustíš, tým viackrát model uvidí každý príklad a tým viac detailov si zapamätá. Príliš málo epoch a model sa nenaučil dosť: toto je podprispôsobenie (underfitting) a tvoje odpovede stále vyzerajú ako od základného modelu. Príliš veľa epoch a namiesto zovšeobecňovania si príklady memoruje: toto je preprispôsobenie (overfitting) a model recituje tvoje stovky trénovacích odpovedí hneď, ako sa otázka len vzdialene podobá na niektorú z nich, zatiaľ čo pri nevidenom formulovaní zlyháva.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
}
)
Správne nastavenie priamo závisí od objemu tvojich dát: čím menej príkladov máš, tým viackrát ich musíš prejsť, aby sa signál „chytil“.
| Veľkosť datasety | Odporúčané epochy | Dôvod |
|---|---|---|
| 50–100 príkladov | 4–8 | Málo dát, potrebuje viac prechodov |
| 100–500 príkladov | 2–4 | Dobrá rovnováha medzi učením a zovšeobecňovaním |
| 500+ príkladov | 1–2 | Dostatok dát, riziko preprispôsobenia |
Násobiteľ miery učenia
Miera učenia riadi veľkosť úprav aplikovaných na váhy modelu v každom kroku tréningu. Ak je nastavená príliš vysoko, model opravuje príliš agresívne, osciluje okolo správnej odpovede a nekonverguje; ak je príliš nízka, učí sa veľmi pomaly alebo vôbec, čo na konci tréningu výsledkom model takmer identický s tým počiatočným.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"learning_rate_multiplier": 1.8
}
)
Predvolená hodnota sa automaticky vypočíta v OpenAI na základe veľkosti tvojej datasety. V praxi rozsah 1,0–2,0 zodpovedá tomuto predvolenému správaniu a vyhovuje väčšine prípadov. Zníženie na 0,5–1,0 robí učenie opatrnejším, čo pomáha pri malých datasetách, kde by niekoľko atypických príkladov mohlo model príliš vychýliť z kurzu. Hodnoty nad 2,0 prinášajú agresívne učenie, vyhradené pre situácie, keď si pozoroval, že model sa neposúva dosť – a takéto nastavenie by sa malo okamžite overiť proti validačnej strate.
Veľkosť dávky
Veľkosť dávky určuje, koľko príkladov sa spracuje spoločne pred aktualizáciou váh modelu. Malá dávka produkuje časté aktualizácie: učenie je hlučnejšie, keďže každý príklad má v oprave veľkú váhu, ale aj reakčnejšie. Veľká dávka spriemeruje viac príkladov pred každou opravou, čo vedie k menej častým aktualizáciám a stabilnejšiemu učeniu – toto je páka, ktorou zatiahneš, keď sú tvoje krivky bez zjavného dôvodu roztrasené.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"batch_size": 4
}
)
Nemusíš tieto parametre ladiť oddelene: všetky tri idú do toho istého slovníka.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
validation_file=validation_file.id,
model="gpt-5.6-luna",
suffix="optimise-v2",
hyperparameters={
"n_epochs": 3,
"learning_rate_multiplier": 1.5,
"batch_size": 4
}
)
Metóda optimalizácie
Klasickou chybou je zmeniť všetky tri hodnoty naraz, zaznamenať zlepšenie a nemať tušenie, ktorá z nich ho spôsobila. Postupuj v tomto poradí:
- Prvý beh: nechaj hodnoty na predvolených (auto)
- Analyzuj stratu: ak trénovacia strata klesá, ale validačná strata rastie, dochádza k preprispôsobeniu
- Upravuj jeden parameter naraz: nikdy nemen všetko naraz
- Dokumentuj každý beh: zaznamenaj hyperparametre a výsledky
Tento log nie je len byrokracia. Pri treťom alebo štvrtom behu ťa tabuľka spájajúca ID úlohy, použité hyperparametre a pozorovaný výsledok porazí tvoju pamäť zakaždým. Tu je návod, ako čítať najčastejšie symptómy.
| Pozorovaný symptóm | Oprava na vyskúšanie |
|---|---|
| Trénovacia strata neklesá | Zvýš mieru učenia alebo počet epoch |
| Validačná strata rastie | Zníž počet epoch, zvýš veľkosť dávky |
| Nestabilné výsledky | Zníž mieru učenia |
| Model príliš podobný základnému modelu | Zvýš počet epoch |
Hodnota „auto“
Ak hyperparameter nešpecifikuješ, OpenAI automaticky vyberie optimálnu hodnotu. Nikdy teda nie si nútený vypĺňať všetko: nastav to, čo chceš kontrolovať, a ostatné nechaj na automatické ladenie. Toto je často najlepší východiskový bod a poskytuje ti základňu, s ktorou môžeš porovnávať svoje neskoršie úpravy.
# Nastavené je len n_epochs; ostatné je auto
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
# learning_rate_multiplier a batch_size budú auto
}
)
Kľúčové poznatky
- Vždy začni s predvolenými hodnotami (auto) pred tým, než začneš upravovať
n_epochs: upravuj ako prvé, na základe veľkosti tvojich dátlearning_rate_multiplier: upravuj, ak je konvergencia príliš pomalá alebo príliš nestabilnábatch_size: upravuj, ak je tréning hlučný- Meniť vždy len jeden hyperparameter naraz, aby si pochopil jeho vplyv
- Vždy používaj validačný súbor na detekciu preprispôsobenia