Hiperparametri: epohe, stopa učenja, veličina serije
Na ovoj stranici
Ažuriranje 2. studenoga 2026. — Dostupnost fino podešavanja. OpenAI postupno ukida samostalno fino podešavanje: od 7. svibnja 2026. organizacije koje nikada nisu pokrenule zadatak fino podešavanja više ne mogu stvoriti novi; od 2. srpnja morali ste koristiti fino podešeni model u posljednjih 60 dana; a počevši od 6. siječnja 2027., nijedan korisnik neće moći pokrenuti nove zadatke. Već obučeni modeli ostaju upotrebljivi dok se njihov temeljni model ne povuče. Ovaj tečaj i dalje je koristan za razumijevanje i iskorištavanje postojećeg modela; za nove projekte dajte prednost inženjerstvu upita, RAG-u i evaluacijama.
Uloga hiperparametara
Tvoji podaci opisuju što model treba naučiti; hiperparametri opisuju kako uči. Prema zadanim postavkama, OpenAI automatski odabire razumne vrijednosti na temelju veličine tvog skupa podataka, a za prvi zadatak to je ispravan potez. No, kada model pokazuje loše rezultate unatoč čistom korpusu, razlika gotovo uvijek leži u ovim postavkama, a njihovo ručno podešavanje može značajno poboljšati rezultate.
Broj epoha
Epoha je jedan potpuni prolaz kroz cijeli tvoj skup podataka za obuku. Što više epoha pokreneš, to će model češće vidjeti svaki primjer i zadržati više detalja. Premalo epoha znači da model nije dovoljno naučio: to je nedovoljno prilagođavanje (underfitting), a tvoji odgovori i dalje izgledaju kao oni iz temeljnog modela. Previše epoha uzrokuje da model napamet nauči primjere umjesto da generalizira: to je preprilagođavanje (overfitting), pa model recitira tvojih stotinu odgovora iz obuke čim pitanje iole podsjeća na jedno od njih, dok se raspada na neviđenim formulacijama.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
}
)
Ispravna postavka izravno ovisi o volumenu tvojih podataka: što imaš manje primjera, to ih moraš češće proći da bi signal zaživio.
| Veličina skupa podataka | Preporučene epohe | Razlog |
|---|---|---|
| 50–100 primjera | 4–8 | Malo podataka, potrebno više prolaza |
| 100–500 primjera | 2–4 | Dobra ravnoteža učenja i generalizacije |
| 500+ primjera | 1–2 | Dovoljno podataka, rizik od preprilagođavanja |
Množitelj stope učenja
Stopa učenja kontrolira veličinu prilagodbi primijenjenih na težine modela u svakom koraku obuke. Ako je postavljena previsoko, model se previše agresivno ispravlja u svakom koraku, oscilira oko točnog odgovora i ne konvergira; ako je preniska, uči vrlo sporo ili uopće ne, pa na kraju obuke dobivaš model gotovo identičan početnom.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"learning_rate_multiplier": 1.8
}
)
Zadana vrijednost automatski se izračunava u OpenAI-u na temelju veličine tvog skupa podataka. U praksi, raspon od 1,0 do 2,0 odgovara tom zadanom ponašanju i odgovara većini slučajeva. Smanjenje na 0,5–1,0 čini učenje opreznijim, što pomaže kod malih skupova podataka gdje bi nekoliko atipičnih primjera moglo previše skrenuti model s puta. Vrijednosti iznad 2,0 rezultiraju agresivnim učenjem, rezerviranim za situacije u kojima si primijetio da se model ne pomiče dovoljno — i to treba odmah provjeriti protiv gubitka validacije.
Veličina serije
Veličina serije određuje koliko se primjera obrađuje zajedno prije ažuriranja težina modela. Mala serija proizvodi česta ažuriranja: učenje je bučnije, svaki primjer snažno utječe na ispravak, ali je i responzivnije. Velika serija prosječuje više primjera prije svake ispravke, što rezultira rjeđim ažuriranjima i stabilnijim učenjem — to je poluga koju povlačiš kada su tvoje krivulje nestabilne bez očiglednog razloga.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"batch_size": 4
}
)
Ne moraš ih podešavati odvojeno: sva tri parametra idu u isti rječnik.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
validation_file=validation_file.id,
model="gpt-5.6-luna",
suffix="optimise-v2",
hyperparameters={
"n_epochs": 3,
"learning_rate_multiplier": 1.5,
"batch_size": 4
}
)
Metoda optimizacije
Klasična greška je promjena sve tri vrijednosti odjednom, uočavanje poboljšanja i nepoznavanje uzroka. Postupi ovim redoslijedom:
- Prvo pokretanje: ostavi vrijednosti na zadanim postavkama (auto)
- Analiziraj gubitak: ako gubitak obuke pada, ali gubitak validacije raste, radi se o preprilagođavanju
- Prilagodi jedan parametar odjednom: nikada ne mijenjaj sve odjednom
- Dokumentiraj svako pokretanje: zabilježi hiperparametre i rezultate
Ovaj zapis nije samo papirologija. Do trećeg ili četvrtog pokretanja, tablica koja povezuje ID zadatka, korištene hiperparametre i uočeni ishod svaki put nadmašuje tvoje pamćenje. Evo kako čitati najčešće simptome.
| Uočeni simptom | Ispravak za isprobati |
|---|---|
| Gubitak obuke ne pada | Povećaj stopu učenja ili broj epoha |
| Gubitak validacije raste | Smanji broj epoha, povećaj veličinu serije |
| Nestabilni rezultati | Smanji stopu učenja |
| Model previše sličan temeljnom modelu | Povećaj broj epoha |
Vrijednost „auto“
Ako ne navedeš hiperparametar, OpenAI automatski odabire optimalnu vrijednost. Dakle, nikada nisi prisiljen ispuniti sve: postavi ono što želiš kontrolirati, a ostalo prepusti automatskom podešavanju. To je često najbolja početna točka i daje ti osnovu za usporedbu s tvojim kasnijim prilagodbama.
# Postavljen je samo n_epochs; ostalo je auto
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
# learning_rate_multiplier i batch_size bit će auto
}
)
Ključne točke
- Uvijek započni sa zadanim vrijednostima (auto) prije podešavanja
n_epochs: prilagodi prvo, na temelju veličine tvojih podatakalearning_rate_multiplier: prilagodi ako je konvergencija prespora ili previše nestabilnabatch_size: prilagodi ako je obuka bučna- Mijenjaj samo jedan hiperparametar odjednom kako bi razumio njegov utjecaj
- Uvijek koristi datoteku za validaciju za otkrivanje preprilagođavanja