Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Hyperparametrar: Epoker, Inlärningshastighet, Batch-storlek

Lektion 6 av 16 Uppdaterad 2 november 2026 Avancerad
På denna sida
  1. Hyperparametrarnas roll
  2. Antalet epoker
  3. Multiplikator för inlärningshastighet
  4. Batch-storlek
  5. En optimeringsmetod
  6. Värdet “auto”
  7. Viktiga punkter

Uppdatering 2 november 2026 — Tillgänglighet för finjustering. OpenAIs självbetjäningstjänst för finjustering avvecklas: sedan den 7 maj 2026 kan organisationer som aldrig har kört ett finjusteringsjobb inte längre skapa ett; sedan den 2 juli måste du ha använt en finjusterad modell under de senaste 60 dagarna; och från och med 6 januari 2027 kommer ingen kund att kunna starta nya jobb. Redan tränade modeller förblir användbara tills deras basmodell tas ur bruk. Denna kurs är fortfarande användbar för att förstå och utnyttja en befintlig modell; för nya projekt bör du prioritera prompt engineering, RAG och utvärderingar.

Hyperparametrarnas roll

Dina data beskriver vad modellen ska lära sig; hyperparametrar beskriver hur den lär sig. Som standard väljer OpenAI automatiskt rimliga värden baserat på din datasetstorlek, och för ett första jobb är detta rätt väg att gå. Men när en modell presterar dåligt trots en ren korpus, beror skillnaden nästan alltid på dessa inställningar, och att justera dem manuellt kan förbättra resultaten avsevärt.

Antalet epoker

En epok är ett komplett genomlopp av hela ditt träningsdataset. Ju fler epoker du kör, desto fler gånger ser modellen varje exempel, och desto mer detaljer behåller den. För få epoker innebär att modellen inte har lärt sig tillräckligt: detta kallas underanpassning, och dina svar ser fortfarande ut som de från basmodellen. För många epoker gör att den memorerar exemplen istället för att generalisera: detta kallas överanpassning, och modellen reciterar dina hundra tränings svar så snart en fråga ens vagt liknar en, medan den faller sönder vid osett formuleringssätt.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
    }
)

Rätt inställning beror direkt på din datavolym: ju färre exempel du har, desto fler gånger måste du gå igenom dem för att signalen ska fästa.

Datasetstorlek Rekommenderade epoker Anledning
50–100 exempel 4–8 Lite data, behöver fler genomlopp
100–500 exempel 2–4 Bra balans mellan inlärning och generalisering
500+ exempel 1–2 Tillräckligt med data, risk för överanpassning

Multiplikator för inlärningshastighet

Inlärningshastigheten styr storleken på de justeringar som görs av modellens vikter vid varje träningssteg. Sätts den för högt korrigerar modellen för aggressivt vid varje steg, oscillerar runt rätt svar och konvergerar aldrig; sätts den för lågt lär den sig mycket långsamt, eller inte alls, vilket lämnar dig med en modell vid slutet av träningen som nästan är identisk med startmodellen.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "learning_rate_multiplier": 1.8
    }
)

Standardvärdet beräknas automatiskt av OpenAI baserat på din datasetstorlek. I praktiken matchar intervallet 1,0–2,0 detta standardbeteende och passar de flesta fall. Att sänka till 0,5–1,0 gör inlärningen mer försiktig, vilket hjälper på små dataset där några atypiska exempel skulle kunna dra modellen för långt ur kurs. Att gå över 2,0 ger aggressiv inlärning, reserverat för situationer där du har observerat att modellen inte rör sig tillräckligt – och bör kontrolleras omedelbart mot valideringsförlust.

Batch-storlek

Batch-storlek avgör hur många exempel som bearbetas tillsammans innan modellens vikter uppdateras. En liten batch ger frekventa uppdateringar: inlärningen blir brusigare, där varje exempel väger tungt i korrigeringen, men också mer responsiv. En stor batch medelvärdesbildar fler exempel före varje korrigering, vilket resulterar i mindre frekventa uppdateringar och stabilare inlärning – detta är spaken att dra när dina kurvor skakar utan uppenbar anledning.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "batch_size": 4
    }
)

Du behöver inte ställa in dessa separat: alla tre parametrar hamnar i samma ordlista.

job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    validation_file=validation_file.id,
    model="gpt-5.6-luna",
    suffix="optimise-v2",
    hyperparameters={
        "n_epochs": 3,
        "learning_rate_multiplier": 1.5,
        "batch_size": 4
    }
)

En optimeringsmetod

Det klassiska misstaget är att ändra alla tre värden samtidigt, se en förbättring och inte ha någon aning om vilken som orsakade den. Gå till väga i denna ordning:

  1. Första körningen: låt värdena vara standard (auto)
  2. Analysera förlusten: om träningsförlusten sjunker men valideringsförlusten ökar, överanpassar du
  3. Justera en parameter i taget: ändra aldrig allt på en gång
  4. Dokumentera varje körning: notera hyperparametrarna och resultaten

Denna logg är inte bara pappersarbete. Vid den tredje eller fjärde körningen slår en tabell som länkar ett jobb-ID, de använda hyperparametrarna och det observerade resultatet ditt minne varje gång. Så här läser du de vanligaste symtomen.

Observerat symtomKorrigering att prova
Träningsförlusten sjunker inteÖka inlärningshastigheten eller antalet epoker
Valideringsförlusten ökarMinska antalet epoker, öka batch-storleken
Instabila resultatMinska inlärningshastigheten
Modellen för lik basmodellenÖka antalet epoker

Värdet “auto”

Om du inte anger en hyperparameter väljer OpenAI automatiskt ett optimalt värde. Du är alltså aldrig tvungen att fylla i allt: ställ in det du vill kontrollera och låt resten skötas av automatisk tuning. Detta är ofta den bästa startpunkten, och det ger dig en baslinje att jämföra dina senare justeringar mot.

# Endast n_epochs är inställd; resten är auto
job = client.fine_tuning.jobs.create(
    training_file=training_file.id,
    model="gpt-5.6-luna",
    hyperparameters={
        "n_epochs": 3
        # learning_rate_multiplier och batch_size kommer att vara auto
    }
)

Viktiga punkter

  • Börja alltid med standardvärden (auto) innan du justerar
  • n_epochs: justera först, baserat på din datastorlek
  • learning_rate_multiplier: justera om konvergens är för långsam eller för instabil
  • batch_size: justera om träningen är brusig
  • Ändra endast en hyperparameter i taget för att förstå dess påverkan
  • Använd alltid en valideringsfil för att upptäcka överanpassning