Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Iteracije: Kada ponovno fino podesiti model

Lekcija 13 od 16 Ažurirano 2. studenoga 2026. Napredno
Na ovoj stranici
  1. Fino podešavanje je iterativan proces
  2. Analiziraj pogreške prije nego što ih popraviš
  3. Prepoznavanje kada iterirati
  4. Obogaćuj umjesto da krećeš ispočetka
  5. Kontinuirano fino podešavanje i njegova ograničenja
  6. Cjelokupni ciklus
  7. Dokumentiraj svaku iteraciju
  8. Ključne točke

Ažurirano 2. studenoga 2026. — Dostupnost finog podešavanja. OpenAI postupno ukida samostalno fino podešavanje: od 7. svibnja 2026. organizacije koje nikada nisu pokrenule zadatak finog podešavanja više ne mogu stvoriti novi; od 2. srpnja morali ste koristiti fino podešeni model u posljednjih 60 dana; a počevši od 6. siječnja 2027., nijedan korisnik neće moći pokrenuti nove zadatke. Već obučeni modeli ostaju upotrebljivi dok se njihov osnovni model ne povuče iz upotrebe. Ovaj tečaj i dalje je koristan za razumijevanje i iskorištavanje postojećeg modela; za nove projekte dajte prednost inženjerstvu prompta, RAG-u i evaluacijama.

Fino podešavanje je iterativan proces

Tvoj prvi pokušaj finog podešavanja rijetko će biti savršen. Napredak dolazi kroz iterativne cikluse: analiziraj pogreške, obogati podatke, ponovno obuci model i ponovno ga evaluiraj. Ova lekcija uči te kako prepoznati kada i kako učinkovito iterirati — i, jednako važno, kako prepoznati situacije u kojima bi ponovno obučavanje bilo besmisleno.

Analiziraj pogreške prije nego što ih popraviš

Prirodni refleks nakon razočaravajuće evaluacije jest nasumično dodavanje primjera u nadi da će volumen riješiti problem. To je najbrži način da potrošiš budžet za obuku bez ikakvog napretka. Započni razvrstavanjem svakog neuspjeha u kategoriju: neispravan format, neodgovarajući ton, činjenična pogreška, nepotpun odgovor, odgovor izvan teme ili čista halucinacija. Dobivena distribucija govori ti gdje usmjeriti trud i često otkriva iznenađenje — ono što si mislio da je problem sa stilom zapravo je problem potpunosti.

def analyze_errors(results: list[dict]) -> dict:
    """Categorizes errors from the fine-tuned model."""
    categories = {
        "format": [],       # Incorrect response format
        "tone": [],         # Inappropriate tone
        "factual": [],      # Incorrect information
        "incomplete": [],   # Response too short or missing elements
        "off_topic": [],    # Does not answer the question
        "hallucination": [] # Invents information
    }

    for r in results:
        if r.get("score", 5) < 3:
            # Classify the error (can be done manually or by an LLM)
            category = classify_error(r)
            categories[category].append(r)

    print("Error distribution:")
    for cat, errors in categories.items():
        if errors:
            print(f"  {cat}: {len(errors)} cases")

    return categories

Zatim pregledaj slučajeve unutar iste kategorije kako bi pronašao zajednički nazivnik. Postavi si svaki put ista pitanja: ne uspijeva li model kod specifične vrste pitanja, grupiraju li se pogreške oko određenih tema i proizlazi li problem iz podataka ili hiperparametara? Neuspjesi raspršeni po svim temama, ali uvijek iste prirode, ukazuju na nedostatak primjera; neuspjesi koncentrirani u jednoj domeni ukazuju na jaz u pokrivenosti; a odgovori koji se previše čvrsto drže tvojih primjera za obuku, bez obzira na pitanje, signaliziraju prenaučenost (overfitting) koju treba ispraviti na strani epoha.

Prepoznavanje kada iterirati

Određeni signali nedvosmisleno zahtijevaju novu verziju, a svaki zahtijeva drugačiji odgovor. Model koji halucinira o određenoj temi ne popravlja se pokazivanjem više točnih odgovora o toj temi, već učenjem da pristojno odbije odgovoriti kada nešto ne zna.

SignalRadnja
Ponavljajuće pogreške u formatuDodaj više primjera s ispravnim formatom
Model halucinira o određenim temamaDodaj primjere gdje pristojno odbija odgovoriti
Otkrivena prenaučenost (overfitting)Smanji broj epoha, diversificiraj podatke
Novi slučajevi upotrebe koje treba pokritiDodaj primjere za te slučajeve
Ciljane negativne povratne informacije korisnikaPretvori povratne informacije u ispravljene primjere

S druge strane, nekoliko situacija trebalo bi te odvratiti od ponovne obuke. Kada su pogreške rijetke i nesistematske, prilagodba prompta rješava ih brže i jeftinije. Kada se pritužbe odnose na kašnjenje ili vrijeme čekanja, problem leži u tvojoj infrastrukturi i nikakva količina obuke to neće popraviti. Kada si od posljednje verzije prikupio samo šačicu novih primjera, očekivani dobitak neće pokriti trošak pokretanja zadatka. I kada postane dostupan novi osnovni model, prvo ga testiraj kakav jest: ponekad on samostalno, bez obuke, postiže ono s čime se tvoja prethodna verzija mučila.

Obogaćuj umjesto da krećeš ispočetka

Inkrementalna iteracija znači dodavanje ciljanih primjera postojećem skupu podataka bez diranja ostatka. Ovo je najčešća i najjednostavnija operacija: učitaš trenutnu datoteku, spojiš nove slučajeve i sve ponovno zapišeš u JSONL formatu. Konačan broj služi ti kao kontrola — ukupni zbroj koji se ne podudara s očekivanim indicira pogrešku u čitanju datoteke ili izgubljene retke.

import json

def enrich_dataset(
    existing_dataset: str,
    new_examples: list[dict],
    output: str
):
    """Adds new examples to the existing dataset."""
    # Load existing data
    with open(existing_dataset, "r") as f:
        existing = [json.loads(l) for l in f]

    # Merge
    combined = existing + new_examples

    # Save
    with open(output, "w") as f:
        for ex in combined:
            f.write(json.dumps(ex, ensure_ascii=False) + "\n")

    print(f"Enriched dataset: {len(existing)} + {len(new_examples)} = {len(combined)}")

Korektivna iteracija još je vrijednija jer tvoje neuspjehe pretvara u sirovi materijal. Svaka pogreška uočena u produkciji pruža stvarno pitanje; trebaš samo napisati odgovor koji si želio vidjeti i taj par postaje primjer za obuku. Imaj na umu da loš odgovor ne ulazi u konačni primjer: on pomaže dokumentirati slučaj i odlučiti isplati li se ispravak, ali model uči samo iz ispravne verzije.

def error_to_example(
    question: str,
    bad_response: str,
    good_response: str,
    system_msg: str
) -> dict:
    """Transforms an error into a training example."""
    return {
        "messages": [
            {"role": "system", "content": system_msg},
            {"role": "user", "content": question},
            {"role": "assistant", "content": good_response}
        ]
    }

# Transform a batch of errors
corrections = []
for error in detected_errors:
    correction = error_to_example(
        question=error["question"],
        bad_response=error["model_response"],
        good_response=error["corrected_response"],
        system_msg=SYSTEM_PROMPT
    )
    corrections.append(correction)

Kontinuirano fino podešavanje i njegova ograničenja

Ništa te ne sprječava da fino podesiš već fino podešeni model: samo proslijedi njegov puni ID u parametar model umjesto naziva osnovnog modela. Operacija je primamljiva jer se obučava samo na novim podacima.

# Fine-tune from an already fine-tuned model
job_v2 = client.fine_tuning.jobs.create(
    training_file=new_file.id,
    model="ft:gpt-5.6-luna:org::suffix-v1:xxxxxxxx",  # v1 model as base
    suffix="my-assistant-v2"
)

Upozorenje: kontinuirano fino podešavanje akumulira pristranosti. Nakon 2–3 uzastopne iteracije, često je bolje krenuti ispočetka s osnovnim modelom koristeći kompletan, obogaćen skup podataka. Svaki sloj pojačava specifičnosti prethodnog, uključujući one koje nisi namjeravao, i model završava odgovarajući s krutošću koju ga nitko nije eksplicitno naučio.

Cjelokupni ciklus

Koraci u nastavku čine petlju koju ćeš ponavljati za svaku verziju. Ako se prvo uhvatiš u koštac s najčešćim pogreškama, sljedeća verzija pokazat će mjerljiva poboljšanja na tvom testnom skupu; rješavanje pogrešaka pogrešnim redoslijedom donosi samo difuzna poboljšanja koja je teško obraniti pred tvojim timom.

1

Prikupi pogreške

Identificiraj slučajeve u kojima model ne uspijeva u produkciji ili tijekom evaluacije.

2

Kategoriziraj i odredi prioritete

Razvrstaj pogreške po vrsti i prvo se pozabavi onima najčešćima.

3

Stvori korektivne primjere

Pretvori svaku pogrešku u primjer za obuku s ispravnim odgovorom.

4

Ponovno obuci i evaluiraj

Obuci novu verziju i usporedi je s prethodnom na istom testnom skupu.

Dokumentiraj svaku iteraciju

Nakon četiri ili pet verzija, nitko se više ne sjeća što je razlikovalo v2 od v3 ili zašto je v4 napuštena. Sustavno bilježenje svakog pokretanja — sastava skupa podataka, izvora novih primjera, hiperparametara, rezultata i donesene odluke — osigurava ti te informacije kada te regresija prisili da se vratiš korak unatrag. Posebnu pozornost posveti izvoru novih primjera: samo će ti to, mjesecima kasnije, reći je li degradacija proizašla iz loše odabranog paketa podataka.

iteration_log = {
    "version": "v3",
    "date": "2026-04-02",
    "base_model": "gpt-5.6-luna",
    "dataset": {
        "train": 350,
        "validation": 45,
        "new_examples": 50,
        "new_examples_source": "production errors week 12"
    },
    "hyperparameters": {
        "n_epochs": 3,
        "learning_rate_multiplier": "auto",
        "batch_size": "auto"
    },
    "results": {
        "validation_loss": 0.42,
        "precision_test": 0.91,
        "avg_csat": 4.3,
        "improvement_vs_v2": "+5% precision, +0.2 CSAT"
    },
    "decision": "Deployed to production on 2026-04-03"
}

Ključne točke

  • Fino podešavanje je iterativno — planiraj više ciklusa
  • Kategoriziraj pogreške prije nego što ih ispraviš u podacima
  • Pretvori povratne informacije korisnika u primjere za obuku
  • Nakon 2–3 uzastopne iteracije, kreni ispočetka s osnovnim modelom
  • Dokumentiraj svaku iteraciju kako bi održao jasnu povijest