Przejdź do głównej treści
Polski— Wybierz język
Menu

Hiperparametry: Epoki, Współczynnik Uczenia, Rozmiar Partii

Lekcja 6 z 16 Zaktualizowano 2 listopada 2026 Zaawansowany
Na tej stronie
  1. Rola hiperparametrów
  2. Liczba epok
  3. Mnożnik współczynnika uczenia
  4. Rozmiar partii (Batch size)
  5. Metoda optymalizacji
  6. Wartość „auto“
  7. Kluczowe wnioski

Aktualizacja z 2 listopada 2026 r. — Dostępność dostrajania. Usługa samodzielnego dostrajania modeli OpenAI jest wycofywana: od 7 maja 2026 r. organizacje, które nigdy wcześniej nie uruchomiły zadania dostrajania, nie mogą już tworzyć nowych; od 2 lipca konieczne jest korzystanie z dostrajonego modelu w ciągu ostatnich 60 dni; a począwszy od 6 stycznia 2027 r., żaden klient nie będzie mógł uruchamiać nowych zadań. Już wytrenowane modele pozostają użyteczne do momentu wycofania ich modelu bazowego. Ten kurs nadal jest przydatny do zrozumienia i wykorzystania istniejących modeli; w przypadku nowych projektów priorytetem powinno być inżynieria promptów (prompt engineering), RAG oraz ewaluacje.

Rola hiperparametrów

Twoje dane opisują, czego model ma się nauczyć; hiperparametry określają, jak ma się uczyć. Domyślnie OpenAI automatycznie dobiera rozsądne wartości na podstawie wielkości Twojego zbioru danych i przy pierwszym zadaniu jest to właściwe podejście. Jednak gdy model radzi sobie słabo mimo czystego korpusu, różnica prawie zawsze wynika z tych ustawień, a ich ręczne dostrojenie może znacząco poprawić wyniki.

Liczba epok

Epoka to jedno pełne przejście przez cały zbiór danych treningowych. Im więcej epok uruchomisz, tym częściej model widzi każdy przykład i tym więcej szczegółów zapamiętuje. Zbyt mało epok oznacza, że model nie nauczył się wystarczająco dużo: to niedouczenie (underfitting), a Twoje odpowiedzi nadal wyglądają jak te z modelu bazowego. Zbyt wiele epok powoduje, że model zapamiętuje przykłady zamiast uogólniać: to przeuczenie (overfitting), przez co model recytuje Twoje sto odpowiedzi treningowych, gdy tylko pytanie choć trochę przypomina któreś z nich, ale zawodzi przy nieznanym wcześniej sformułowaniu.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

Właściwe ustawienie zależy bezpośrednio od objętości danych: im mniej masz przykładów, tym więcej razy musisz przez nie przejść, aby sygnał został utrwalony.

Wielkość zbioru danych Zalecana liczba epok Powód
50–100 przykładów 4–8 Mało danych, potrzeba więcej przejść
100–500 przykładów 2–4 Dobra równowaga między uczeniem się a uogólnianiem
500+ przykładów 1–2 Wystarczająco danych, ryzyko przeuczenia

Mnożnik współczynnika uczenia

Współczynnik uczenia kontroluje wielkość korekt wprowadzanych do wag modelu w każdym kroku treningu. Ustawiony zbyt wysoko powoduje, że model koryguje zbyt agresywnie w każdym kroku, oscyluje wokół prawidłowej odpowiedzi i nie zbiega się; ustawiony zbyt nisko sprawia, że uczy się bardzo powoli lub wcale, pozostawiając Ci na koniec treningu model niemal identyczny z tym startowym.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

Wartość domyślna jest obliczana automatycznie przez OpenAI na podstawie wielkości Twojego zbioru danych. W praktyce zakres 1,0–2,0 odpowiada temu domyślnemu zachowaniu i pasuje do większości przypadków. Obniżenie do 0,5–1,0 sprawia, że uczenie jest bardziej ostrożne, co pomaga przy małych zbiorach danych, gdzie kilka nietypowych przykładów mogłoby zbyt mocno wyprowadzić model z kursu. Przekroczenie wartości 2,0 prowadzi do agresywnego uczenia, zarezerwowanego dla sytuacji, w których zauważysz, że model nie zmienia się wystarczająco — należy to natychmiast zweryfikować poprzez stratę walidacyjną.

Rozmiar partii (Batch size)

Rozmiar partii określa, ile przykładów jest przetwarzanych razem przed aktualizacją wag modelu. Mała partia generuje częste aktualizacje: uczenie jest bardziej „szumne“, ponieważ każdy przykład ma duży wpływ na korektę, ale też bardziej reaktywne. Duża partia uśrednia więcej przykładów przed każdą korektą, co skutkuje rzadszymi aktualizacjami i stabilniejszym uczeniem — to dźwignia, której należy użyć, gdy Twoje krzywe drgają bez wyraźnego powodu.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Nie musisz dostrajać ich osobno: wszystkie trzy parametry wpisujesz do tego samego słownika.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

Metoda optymalizacji

Klasycznym błędem jest zmiana wszystkich trzech wartości naraz, zauważenie poprawy i brak wiedzy, który parametr ją spowodował. Postępuj w następującej kolejności:

  1. Pierwsze uruchomienie: pozostaw wartości domyślne (auto)
  2. Analiza straty: jeśli strata treningowa spada, ale strata walidacyjna rośnie, masz do czynienia z przeuczeniem
  3. Dostosowuj jeden parametr na raz: nigdy nie zmieniaj wszystkiego naraz
  4. Dokumentuj każde uruchomienie: zapisuj użyte hiperparametry i uzyskane wyniki

Ten log to nie tylko biurokracja. Przy trzecim lub czwartym uruchomieniu tabela łącząca ID zadania, użyte hiperparametry i zaobserwowany wynik zawsze pokona Twoją pamięć. Oto jak interpretować najczęstsze objawy.

Zaobserwowany objawProponowana korekta
Strata treningowa nie spadaZwiększ współczynnik uczenia lub liczbę epok
Strata walidacyjna rośnieZmniejsz liczbę epok, zwiększ rozmiar partii
Niestabilne wynikiZmniejsz współczynnik uczenia
Model zbyt podobny do modelu bazowegoZwiększ liczbę epok

Wartość „auto“

Jeśli nie określisz hiperparametru, OpenAI automatycznie wybierze optymalną wartość. Nigdy więc nie jesteś zmuszony do wypełniania wszystkiego: ustaw to, co chcesz kontrolować, a resztę pozostaw automatycznemu dostrajaniu. Często jest to najlepszy punkt wyjścia, który daje Ci bazę do porównania późniejszych ajustacji.

# Ustawiono tylko n_epochs; reszta jest automatyczna
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier i batch_size będą automatyczne
    }
)

Kluczowe wnioski

  • Zawsze zaczynaj od wartości domyślnych (auto) przed wprowadzaniem zmian
  • n_epochs: dostosuj jako pierwsze, w oparciu o wielkość danych
  • learning_rate_multiplier: dostosuj, jeśli zbieżność jest zbyt wolna lub zbyt niestabilna
  • batch_size: dostosuj, jeśli trening jest zbyt „szumny“
  • Zmieniaj tylko jeden hiperparametr na raz, aby zrozumieć jego wpływ
  • Zawsze używaj pliku walidacyjnego, aby wykryć przeuczenie