Pāriet uz galveno saturu
Latviešu— Izvēlēties valodu
Izvēlne

Hiperparametri: epohas, mācīšanās temps, kopas lielums

Nodarbība 6 no 16 Atjaunota 2026. gada 2. novembris Augstākais
Šajā lapā
  1. Hiperparametru loma
  2. Epohu skaits
  3. Mācīšanās tempa reizinātājs
  4. Kopas lielums (Batch size)
  5. Optimizācijas metode
  6. Vērtība “auto”
  7. Galvenās atziņas

Atjauninājums: 2026. gada 2. novembris — Fine-tuning pieejamība. OpenAI pašapkalpošanās fine-tuning pakalpojums tiek pakāpeniski izbeigts: kopš 2026. gada 7. maija organizācijas, kas nekad nav palaidušas fine-tuning uzdevumu, vairs nevar tādu izveidot; kopš 2. jūlija jums ir jābūt izmantojušam fine-tuned modeli pēdējo 60 dienu laikā; un sākot ar 2027. gada 6. janvāri, neviens klients vairs nevarēs uzsākt jaunus uzdevumus. Jau apmācītie modeļi paliek lietojami, līdz tiek izslēgts to bāzes modelis. Šis kurss joprojām ir noderīgs, lai saprastu un izmantotu esošu modeli; jauniem projektiem dodiet priekšroku promptu inženierijai, RAG un novērtējumiem.

Hiperparametru loma

Tavi dati apraksta, ko modelim vajadzētu iemācīties; hiperparametri nosaka, kā tas mācās. Pēc noklusējuma OpenAI automātiski izvēlas saprātīgas vērtības, balstoties uz tava datu kopas lielumu, un pirmajam uzdevumam tas ir pareizais solis. Taču, ja modelis sniedz vājus rezultātus, neskatoties uz tīru korpusu, atšķirība gandrīz vienmēr slēpjas šajos iestatījumos, un to manuāla pielāgošana var ievērojami uzlabot rezultātus.

Epohu skaits

Epoha ir viens pilns cikls cauri visai tavai apmācības datu kopai. Jo vairāk epohu tu veic, jo vairāk reižu modelis redz katru piemēru un jo vairāk detaļu tas saglabā. Ja epohu ir par maz, modelis nav iemācījies pietiekami: tas ir nepietiekams apguves līmenis (underfitting), un tavas atbildes joprojām izskatās kā no bāzes modeļa. Ja epohu ir par daudz, tas iemācās piemērus galvā, nevis vispārina: tas ir pārmērīgs apguves līmenis (overfitting), un modelis atkārto tavus simts apmācības atbilžu variantus, tiklīdz jautājums kaut nedaudz atgādina kādu no tiem, bet sabrūk, saskaroties ar neredzētu formulējumu.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

Pareizais iestatījums ir tieši atkarīgs no tava datu apjoma: jo mazāk piemēru tev ir, jo vairāk reižu tev ir jāiet cauri tiem, lai signāls iesakņotos.

Datu kopas lielums Ieteicamais epohu skaits Iemesls
50–100 piemēri 4–8 Maz datu, nepieciešami vairāki cikli
100–500 piemēri 2–4 Labs līdzsvars starp mācīšanos un vispārināšanu
500+ piemēri 1–2 Pietiekami daudz datu, risks pārāk iemācīties (overfitting)

Mācīšanās tempa reizinātājs

Mācīšanās temps kontrolē korekciju lielumu, kas tiek piemērots modeļa svariem katrā apmācības solī. Ja tas ir iestatīts pārāk augsts, modelis katrā solī koriģē pārāk agresīvi, svārstās ap pareizo atbildi un nespēj konverģēt; ja tas ir pārāk zems, tas mācās ļoti lēni vai vispār nemācās, rezultātā apmācības beigās tev ir modelis, kas ir gandrīz identisks sākuma modelim.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

Noklusējuma vērtību OpenAI aprēķina automātiski, balstoties uz tava datu kopas lielumu. Praksē diapazons no 1,0 līdz 2,0 atbilst šai noklusējuma uzvedībai un der vairumam gadījumu. Samazināšana līdz 0,5–1,0 padara mācīšanos piesardzīgāku, kas palīdz mazu datu kopu gadījumā, kur daži netipiski piemēri varētu novirzīt modeli pārāk tālu. Vērtību paaugstināšana virs 2,0 nodrošina agresīvu mācīšanos, kas paredzēta situācijām, kad esi novērojis, ka modelis nepietiekami kustas — un tas nekavējoties jāpārbauda, salīdzinot ar validācijas zudumu.

Kopas lielums (Batch size)

Kopas lielums nosaka, cik daudz piemēru tiek apstrādāti kopā pirms modeļa svaru atjaunināšanas. Neliela kopa rada biežus atjauninājumus: mācīšanās ir trokšņaināka, jo katrs piemērs korekcijā sver smagi, bet arī reaģējošāka. Liela kopa vidēji apvieno vairāk piemēru pirms katras korekcijas, rezultējoties retākos atjauninājumos un stabilākā mācīšanās procesā — tas ir svira, ko vilkt, ja tavas līknes bez acīmredzama iemesla ir nestabilas.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Tev nav jāpielāgo šie parametri atsevišķi: visi trīs parametri nonāk vienā un tajā pašā vārdnīcā.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

Optimizācijas metode

Klasiskā kļūda ir mainīt visas trīs vērtības vienlaikus, redzēt uzlabojumu un nezināt, kurš no tiem to izraisīja. Rīkojies šādā secībā:

  1. Pirmā palaišana: atstāj vērtības noklusējuma (auto) līmenī
  2. Analizē zudumu: ja apmācības zudums samazinās, bet validācijas zudums pieaug, tu saskaries ar pārmērīgu apguvi (overfitting)
  3. Pielāgo vienu parametru vienlaikus: nekad nemaini visu uzreiz
  4. Dokumentē katru palaišanu: pieraksti hiperparametrus un rezultātus

Šis žurnāls nav tikai birokrātija. Līdz trešajai vai ceturtajai palaišanai tabula, kas saista uzdevuma ID, izmantotos hiperparametrus un novēroto iznākumu, vienmēr pārspēs tavu atmiņu. Lūk, kā lasīt visbiežāk sastopamos simptomus.

Novērots simptomsIeteicamā korekcija
Apmācības zudums nesamazināsPalielini mācīšanās tempu vai epohu skaitu
Validācijas zudums pieaugSamazini epohu skaitu, palielini kopas lielumu
Nestabili rezultātiSamazini mācīšanās tempu
Modelis pārāk līdzīgs bāzes modelimPalielini epohu skaitu

Vērtība “auto”

Ja tu nenorādi hiperparametru, OpenAI automātiski izvēlas optimālu vērtību. Tātad tev nekad nav jāaizpilda viss: iestati to, ko vēlies kontrolēt, un pārējo atstāj automātiskai pielāgošanai. Tas bieži vien ir labākais sākumpunkts, un tas dod tev bāzes līniju, ar ko salīdzināt vēlākos pielāgojumus.

# Iestatīts tikai n_epochs; pārējais ir auto
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier un batch_size būs auto
    }
)

Galvenās atziņas

  • Vienmēr sāc ar noklusējuma vērtībām (auto), pirms veic pielāgojumus
  • n_epochs: pielāgo pirmo, balstoties uz tava datu apjomu
  • learning_rate_multiplier: pielāgo, ja konverģence ir pārāk lēna vai pārāk nestabila
  • batch_size: pielāgo, ja apmācība ir trokšņaina
  • Maini tikai vienu hiperparametru vienlaikus, lai saprastu tā ietekmi
  • Vienmēr izmanto validācijas failu, lai noteiktu pārmērīgu apguvi (overfitting)