Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Hiperv parametri: epohe, hitrost učenja, velikost serije

Lekcija 6 od 16 Posodobljeno 2. november 2026 Napredni
Na tej strani
  1. Vloga hiperv parametrov
  2. Število epoh
  3. Množitelj hitrosti učenja
  4. Velikost serije
  5. Metoda optimizacije
  6. Vrednost „auto”
  7. Ključne ugotovitve

Posodobitev 2. november 2026 — Razpoložljivost prilagajanja. Samostojno prilagajanje (fine-tuning) podjetja OpenAI se postopno ukinja: od 7. maja 2026 organizacije, ki še niso zagnale opravila prilagajanja, tega ne morejo več ustvariti; od 2. julija morate prilagojen model uporabiti v zadnjih 60 dneh; in od 6. januarja 2027 noben uporabnik ne bo mogel zagnati novih opravil. Že usposobljeni modeli ostanejo uporabni, dokler njihov osnovni model ni umaknjen. Ta tečaj je še vedno koristen za razumevanje in izkoriščanje obstoječega modela; za nove projekte dajte prednost inženiringu pozivov, RAG in evalvacijam.

Vloga hiperv parametrov

Vaši podatki opisujejo, kaj se mora model naučiti; hiperv parametri pa opisujejo, kako se uči. Privzeto OpenAI samodejno izbere razumne vrednosti glede na velikost vašega nabora podatkov in za prvo opravilo je to prava poteza. Ko pa model kljub čistemu korpusu deluje slabše, je razlika skoraj vedno v teh nastavitvah in njihovo ročno prilagajanje lahko bistveno izboljša rezultate.

Število epoh

Epoha je en popoln prehod skozi celoten nabor podatkov za usposabljanje. Več epoh, kot jih izvedete, večkrat model vidi vsak primer in več podrobnosti si zapomni. Premalo epoh pomeni, da se model ni dovolj naučil: to je podprilagojenost (underfitting) in vaši odgovori so še vedno podobni tistim iz osnovnega modela. Preveč epoh pa povzroči, da si model primere zapomni namesto posploševanja: to je preprilagojenost (overfitting) in model recitira vaših sto odgovorov za usposabljanje, takoj ko vprašanje le malo spominja na enega od njih, medtem ko pri nevidenih formulacijah odpove.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

Pravilna nastavitev je neposredno odvisna od količine vaših podatkov: manj primerov, kot jih imate, večkrat jih morate obdelati, da se signal obdrži.

Velikost nabora podatkov Priporočene epohe Razlog
50–100 primerov 4–8 Malo podatkov, potrebnih je več prehodov
100–500 primerov 2–4 Dobro ravnovesje med učenjem in posploševanjem
500+ primerov 1–2 Dovolj podatkov, tveganje preprilagojenosti

Množitelj hitrosti učenja

Hitrost učenja nadzira velikost prilagoditev, ki se uporabijo za uteži modela pri vsakem koraku usposabljanja. Če je nastavljena previsoko, model popravlja preveč agresivno, oscilira okoli pravilnega odgovora in ne konvergira; če je prenizka, se uči zelo počasi ali sploh ne, kar na koncu usposabljanja pusti model, ki je skoraj identičen začetnemu.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

Privzeto vrednost samodejno izračuna OpenAI glede na velikost vašega nabora podatkov. V praksi razpon 1,0–2,0 ustreza temu privzetemu vedenju in je primeren za večino primerov. Znižanje na 0,5–1,0 naredi učenje bolj previdno, kar pomaga pri majhnih naborih podatkov, kjer bi lahko nekaj netipičnih primerov model preveč odmaknilo od poti. Vrednosti nad 2,0 omogočajo agresivno učenje, rezervirano za situacije, ko ste opazili, da se model ne premika dovolj – in jih je treba takoj preveriti glede na izgubo pri validaciji.

Velikost serije

Velikost serije določa, koliko primerov se obdela skupaj pred posodobitvijo uteži modela. Majhna serija povzroči pogoste posodobitve: učenje je bolj šumovito, saj vsak primer močno vpliva na popravek, a je tudi bolj odzivno. Velika serija povpreči več primerov pred vsakim popravkom, kar rezultira v redkejših posodobitvah in stabilnejšem učenju – to je vzvod, ki ga potegnete, ko so vaše krivulje nestabilne brez očitnega razloga.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Teh parametrov vam ni treba uglaševati ločeno: vsi trije gredo v isti slovar.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

Metoda optimizacije

Klasična napaka je sprememba vseh treh vrednosti hkrati, opazovanje izboljšave in nepoznavanje vzroka zanjo. Postopajte v tem vrstnem redu:

  1. Prvi zagon: pustite vrednosti privzete (auto)
  2. Analizirajte izgubo: če izguba pri usposabljanju pada, izguba pri validaciji pa narašča, gre za preprilagojenost
  3. Prilagodite en parameter naenkrat: nikoli ne spreminjajte vsega hkrati
  4. Dokumentirajte vsak zagon: zapišite hiperv parametre in rezultate

Ta dnevnik ni le birokracija. Do tretjega ali četrtega zagona tabela, ki povezuje ID opravila, uporabljene hiperv parametre in opaženi izid, vsakič premaga vaš spomin. Tako prepoznate najpogostejše simptome.

Opažen simptomPoskus popravka
Izguba pri usposabljanju ne padaPovečajte hitrost učenja ali število epoh
Izguba pri validaciji naraščaZmanjšajte število epoh, povečajte velikost serije
Nestabilni rezultatiZmanjšajte hitrost učenja
Model preveč podoben osnovnemu modeluPovečajte število epoh

Vrednost „auto”

Če hiperv parametra ne določite, OpenAI samodejno izbere optimalno vrednost. Nikoli vam ni treba izpolniti vsega: nastavite tisto, kar želite nadzorovati, ostalo pa prepustite samodejnemu uglaševanju. To je pogosto najboljša izhodiščna točka in vam daje osnovo za primerjavo z vašimi kasnejšimi prilagoditvami.

# Nastavljen je le n_epochs; ostalo je auto
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier in batch_size bosta auto
    }
)

Ključne ugotovitve

  • Vedno začnite s privzetimi vrednostmi (auto), preden kaj prilagajate
  • n_epochs: prilagodite prvič, glede na velikost vaših podatkov
  • learning_rate_multiplier: prilagodite, če je konvergenca prepočasna ali preveč nestabilna
  • batch_size: prilagodite, če je usposabljanje šumovito
  • Spremenite le en hiperv parameter naenkrat, da razumete njegov vpliv
  • Vedno uporabite datoteko za validacijo za odkrivanje preprilagojenosti