Hiperparametry: Epoki, Współczynnik Uczenia, Rozmiar Partii
Na tej stronie
Aktualizacja z 2 listopada 2026 r. — Dostępność dostrajania. Usługa samodzielnego dostrajania modeli OpenAI jest wycofywana: od 7 maja 2026 r. organizacje, które nigdy wcześniej nie uruchomiły zadania dostrajania, nie mogą już tworzyć nowych; od 2 lipca konieczne jest korzystanie z dostrajonego modelu w ciągu ostatnich 60 dni; a począwszy od 6 stycznia 2027 r., żaden klient nie będzie mógł uruchamiać nowych zadań. Już wytrenowane modele pozostają użyteczne do momentu wycofania ich modelu bazowego. Ten kurs nadal jest przydatny do zrozumienia i wykorzystania istniejących modeli; w przypadku nowych projektów priorytetem powinno być inżynieria promptów (prompt engineering), RAG oraz ewaluacje.
Rola hiperparametrów
Twoje dane opisują, czego model ma się nauczyć; hiperparametry określają, jak ma się uczyć. Domyślnie OpenAI automatycznie dobiera rozsądne wartości na podstawie wielkości Twojego zbioru danych i przy pierwszym zadaniu jest to właściwe podejście. Jednak gdy model radzi sobie słabo mimo czystego korpusu, różnica prawie zawsze wynika z tych ustawień, a ich ręczne dostrojenie może znacząco poprawić wyniki.
Liczba epok
Epoka to jedno pełne przejście przez cały zbiór danych treningowych. Im więcej epok uruchomisz, tym częściej model widzi każdy przykład i tym więcej szczegółów zapamiętuje. Zbyt mało epok oznacza, że model nie nauczył się wystarczająco dużo: to niedouczenie (underfitting), a Twoje odpowiedzi nadal wyglądają jak te z modelu bazowego. Zbyt wiele epok powoduje, że model zapamiętuje przykłady zamiast uogólniać: to przeuczenie (overfitting), przez co model recytuje Twoje sto odpowiedzi treningowych, gdy tylko pytanie choć trochę przypomina któreś z nich, ale zawodzi przy nieznanym wcześniej sformułowaniu.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
}
)
Właściwe ustawienie zależy bezpośrednio od objętości danych: im mniej masz przykładów, tym więcej razy musisz przez nie przejść, aby sygnał został utrwalony.
| Wielkość zbioru danych | Zalecana liczba epok | Powód |
|---|---|---|
| 50–100 przykładów | 4–8 | Mało danych, potrzeba więcej przejść |
| 100–500 przykładów | 2–4 | Dobra równowaga między uczeniem się a uogólnianiem |
| 500+ przykładów | 1–2 | Wystarczająco danych, ryzyko przeuczenia |
Mnożnik współczynnika uczenia
Współczynnik uczenia kontroluje wielkość korekt wprowadzanych do wag modelu w każdym kroku treningu. Ustawiony zbyt wysoko powoduje, że model koryguje zbyt agresywnie w każdym kroku, oscyluje wokół prawidłowej odpowiedzi i nie zbiega się; ustawiony zbyt nisko sprawia, że uczy się bardzo powoli lub wcale, pozostawiając Ci na koniec treningu model niemal identyczny z tym startowym.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"learning_rate_multiplier": 1.8
}
)
Wartość domyślna jest obliczana automatycznie przez OpenAI na podstawie wielkości Twojego zbioru danych. W praktyce zakres 1,0–2,0 odpowiada temu domyślnemu zachowaniu i pasuje do większości przypadków. Obniżenie do 0,5–1,0 sprawia, że uczenie jest bardziej ostrożne, co pomaga przy małych zbiorach danych, gdzie kilka nietypowych przykładów mogłoby zbyt mocno wyprowadzić model z kursu. Przekroczenie wartości 2,0 prowadzi do agresywnego uczenia, zarezerwowanego dla sytuacji, w których zauważysz, że model nie zmienia się wystarczająco — należy to natychmiast zweryfikować poprzez stratę walidacyjną.
Rozmiar partii (Batch size)
Rozmiar partii określa, ile przykładów jest przetwarzanych razem przed aktualizacją wag modelu. Mała partia generuje częste aktualizacje: uczenie jest bardziej „szumne“, ponieważ każdy przykład ma duży wpływ na korektę, ale też bardziej reaktywne. Duża partia uśrednia więcej przykładów przed każdą korektą, co skutkuje rzadszymi aktualizacjami i stabilniejszym uczeniem — to dźwignia, której należy użyć, gdy Twoje krzywe drgają bez wyraźnego powodu.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"batch_size": 4
}
)
Nie musisz dostrajać ich osobno: wszystkie trzy parametry wpisujesz do tego samego słownika.
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
validation_file=validation_file.id,
model="gpt-5.6-luna",
suffix="optimise-v2",
hyperparameters={
"n_epochs": 3,
"learning_rate_multiplier": 1.5,
"batch_size": 4
}
)
Metoda optymalizacji
Klasycznym błędem jest zmiana wszystkich trzech wartości naraz, zauważenie poprawy i brak wiedzy, który parametr ją spowodował. Postępuj w następującej kolejności:
- Pierwsze uruchomienie: pozostaw wartości domyślne (auto)
- Analiza straty: jeśli strata treningowa spada, ale strata walidacyjna rośnie, masz do czynienia z przeuczeniem
- Dostosowuj jeden parametr na raz: nigdy nie zmieniaj wszystkiego naraz
- Dokumentuj każde uruchomienie: zapisuj użyte hiperparametry i uzyskane wyniki
Ten log to nie tylko biurokracja. Przy trzecim lub czwartym uruchomieniu tabela łącząca ID zadania, użyte hiperparametry i zaobserwowany wynik zawsze pokona Twoją pamięć. Oto jak interpretować najczęstsze objawy.
| Zaobserwowany objaw | Proponowana korekta |
|---|---|
| Strata treningowa nie spada | Zwiększ współczynnik uczenia lub liczbę epok |
| Strata walidacyjna rośnie | Zmniejsz liczbę epok, zwiększ rozmiar partii |
| Niestabilne wyniki | Zmniejsz współczynnik uczenia |
| Model zbyt podobny do modelu bazowego | Zwiększ liczbę epok |
Wartość „auto“
Jeśli nie określisz hiperparametru, OpenAI automatycznie wybierze optymalną wartość. Nigdy więc nie jesteś zmuszony do wypełniania wszystkiego: ustaw to, co chcesz kontrolować, a resztę pozostaw automatycznemu dostrajaniu. Często jest to najlepszy punkt wyjścia, który daje Ci bazę do porównania późniejszych ajustacji.
# Ustawiono tylko n_epochs; reszta jest automatyczna
job = client.fine_tuning.jobs.create(
training_file=training_file.id,
model="gpt-5.6-luna",
hyperparameters={
"n_epochs": 3
# learning_rate_multiplier i batch_size będą automatyczne
}
)
Kluczowe wnioski
- Zawsze zaczynaj od wartości domyślnych (auto) przed wprowadzaniem zmian
n_epochs: dostosuj jako pierwsze, w oparciu o wielkość danychlearning_rate_multiplier: dostosuj, jeśli zbieżność jest zbyt wolna lub zbyt niestabilnabatch_size: dostosuj, jeśli trening jest zbyt „szumny“- Zmieniaj tylko jeden hiperparametr na raz, aby zrozumieć jego wpływ
- Zawsze używaj pliku walidacyjnego, aby wykryć przeuczenie