Iteracije: Kada ponovno fino podesiti model
Na ovoj stranici
Ažurirano 2. studenoga 2026. — Dostupnost finog podešavanja. OpenAI postupno ukida samostalno fino podešavanje: od 7. svibnja 2026. organizacije koje nikada nisu pokrenule zadatak finog podešavanja više ne mogu stvoriti novi; od 2. srpnja morali ste koristiti fino podešeni model u posljednjih 60 dana; a počevši od 6. siječnja 2027., nijedan korisnik neće moći pokrenuti nove zadatke. Već obučeni modeli ostaju upotrebljivi dok se njihov osnovni model ne povuče iz upotrebe. Ovaj tečaj i dalje je koristan za razumijevanje i iskorištavanje postojećeg modela; za nove projekte dajte prednost inženjerstvu prompta, RAG-u i evaluacijama.
Fino podešavanje je iterativan proces
Tvoj prvi pokušaj finog podešavanja rijetko će biti savršen. Napredak dolazi kroz iterativne cikluse: analiziraj pogreške, obogati podatke, ponovno obuci model i ponovno ga evaluiraj. Ova lekcija uči te kako prepoznati kada i kako učinkovito iterirati — i, jednako važno, kako prepoznati situacije u kojima bi ponovno obučavanje bilo besmisleno.
Analiziraj pogreške prije nego što ih popraviš
Prirodni refleks nakon razočaravajuće evaluacije jest nasumično dodavanje primjera u nadi da će volumen riješiti problem. To je najbrži način da potrošiš budžet za obuku bez ikakvog napretka. Započni razvrstavanjem svakog neuspjeha u kategoriju: neispravan format, neodgovarajući ton, činjenična pogreška, nepotpun odgovor, odgovor izvan teme ili čista halucinacija. Dobivena distribucija govori ti gdje usmjeriti trud i često otkriva iznenađenje — ono što si mislio da je problem sa stilom zapravo je problem potpunosti.
def analyze_errors(results: list[dict]) -> dict:
"""Categorizes errors from the fine-tuned model."""
categories = {
"format": [], # Incorrect response format
"tone": [], # Inappropriate tone
"factual": [], # Incorrect information
"incomplete": [], # Response too short or missing elements
"off_topic": [], # Does not answer the question
"hallucination": [] # Invents information
}
for r in results:
if r.get("score", 5) < 3:
# Classify the error (can be done manually or by an LLM)
category = classify_error(r)
categories[category].append(r)
print("Error distribution:")
for cat, errors in categories.items():
if errors:
print(f" {cat}: {len(errors)} cases")
return categories
Zatim pregledaj slučajeve unutar iste kategorije kako bi pronašao zajednički nazivnik. Postavi si svaki put ista pitanja: ne uspijeva li model kod specifične vrste pitanja, grupiraju li se pogreške oko određenih tema i proizlazi li problem iz podataka ili hiperparametara? Neuspjesi raspršeni po svim temama, ali uvijek iste prirode, ukazuju na nedostatak primjera; neuspjesi koncentrirani u jednoj domeni ukazuju na jaz u pokrivenosti; a odgovori koji se previše čvrsto drže tvojih primjera za obuku, bez obzira na pitanje, signaliziraju prenaučenost (overfitting) koju treba ispraviti na strani epoha.
Prepoznavanje kada iterirati
Određeni signali nedvosmisleno zahtijevaju novu verziju, a svaki zahtijeva drugačiji odgovor. Model koji halucinira o određenoj temi ne popravlja se pokazivanjem više točnih odgovora o toj temi, već učenjem da pristojno odbije odgovoriti kada nešto ne zna.
| Signal | Radnja |
|---|---|
| Ponavljajuće pogreške u formatu | Dodaj više primjera s ispravnim formatom |
| Model halucinira o određenim temama | Dodaj primjere gdje pristojno odbija odgovoriti |
| Otkrivena prenaučenost (overfitting) | Smanji broj epoha, diversificiraj podatke |
| Novi slučajevi upotrebe koje treba pokriti | Dodaj primjere za te slučajeve |
| Ciljane negativne povratne informacije korisnika | Pretvori povratne informacije u ispravljene primjere |
S druge strane, nekoliko situacija trebalo bi te odvratiti od ponovne obuke. Kada su pogreške rijetke i nesistematske, prilagodba prompta rješava ih brže i jeftinije. Kada se pritužbe odnose na kašnjenje ili vrijeme čekanja, problem leži u tvojoj infrastrukturi i nikakva količina obuke to neće popraviti. Kada si od posljednje verzije prikupio samo šačicu novih primjera, očekivani dobitak neće pokriti trošak pokretanja zadatka. I kada postane dostupan novi osnovni model, prvo ga testiraj kakav jest: ponekad on samostalno, bez obuke, postiže ono s čime se tvoja prethodna verzija mučila.
Obogaćuj umjesto da krećeš ispočetka
Inkrementalna iteracija znači dodavanje ciljanih primjera postojećem skupu podataka bez diranja ostatka. Ovo je najčešća i najjednostavnija operacija: učitaš trenutnu datoteku, spojiš nove slučajeve i sve ponovno zapišeš u JSONL formatu. Konačan broj služi ti kao kontrola — ukupni zbroj koji se ne podudara s očekivanim indicira pogrešku u čitanju datoteke ili izgubljene retke.
import json
def enrich_dataset(
existing_dataset: str,
new_examples: list[dict],
output: str
):
"""Adds new examples to the existing dataset."""
# Load existing data
with open(existing_dataset, "r") as f:
existing = [json.loads(l) for l in f]
# Merge
combined = existing + new_examples
# Save
with open(output, "w") as f:
for ex in combined:
f.write(json.dumps(ex, ensure_ascii=False) + "\n")
print(f"Enriched dataset: {len(existing)} + {len(new_examples)} = {len(combined)}")
Korektivna iteracija još je vrijednija jer tvoje neuspjehe pretvara u sirovi materijal. Svaka pogreška uočena u produkciji pruža stvarno pitanje; trebaš samo napisati odgovor koji si želio vidjeti i taj par postaje primjer za obuku. Imaj na umu da loš odgovor ne ulazi u konačni primjer: on pomaže dokumentirati slučaj i odlučiti isplati li se ispravak, ali model uči samo iz ispravne verzije.
def error_to_example(
question: str,
bad_response: str,
good_response: str,
system_msg: str
) -> dict:
"""Transforms an error into a training example."""
return {
"messages": [
{"role": "system", "content": system_msg},
{"role": "user", "content": question},
{"role": "assistant", "content": good_response}
]
}
# Transform a batch of errors
corrections = []
for error in detected_errors:
correction = error_to_example(
question=error["question"],
bad_response=error["model_response"],
good_response=error["corrected_response"],
system_msg=SYSTEM_PROMPT
)
corrections.append(correction)
Kontinuirano fino podešavanje i njegova ograničenja
Ništa te ne sprječava da fino podesiš već fino podešeni model: samo proslijedi njegov puni ID u parametar model umjesto naziva osnovnog modela. Operacija je primamljiva jer se obučava samo na novim podacima.
# Fine-tune from an already fine-tuned model
job_v2 = client.fine_tuning.jobs.create(
training_file=new_file.id,
model="ft:gpt-5.6-luna:org::suffix-v1:xxxxxxxx", # v1 model as base
suffix="my-assistant-v2"
)
Upozorenje: kontinuirano fino podešavanje akumulira pristranosti. Nakon 2–3 uzastopne iteracije, često je bolje krenuti ispočetka s osnovnim modelom koristeći kompletan, obogaćen skup podataka. Svaki sloj pojačava specifičnosti prethodnog, uključujući one koje nisi namjeravao, i model završava odgovarajući s krutošću koju ga nitko nije eksplicitno naučio.
Cjelokupni ciklus
Koraci u nastavku čine petlju koju ćeš ponavljati za svaku verziju. Ako se prvo uhvatiš u koštac s najčešćim pogreškama, sljedeća verzija pokazat će mjerljiva poboljšanja na tvom testnom skupu; rješavanje pogrešaka pogrešnim redoslijedom donosi samo difuzna poboljšanja koja je teško obraniti pred tvojim timom.
Prikupi pogreške
Identificiraj slučajeve u kojima model ne uspijeva u produkciji ili tijekom evaluacije.
Kategoriziraj i odredi prioritete
Razvrstaj pogreške po vrsti i prvo se pozabavi onima najčešćima.
Stvori korektivne primjere
Pretvori svaku pogrešku u primjer za obuku s ispravnim odgovorom.
Ponovno obuci i evaluiraj
Obuci novu verziju i usporedi je s prethodnom na istom testnom skupu.
Dokumentiraj svaku iteraciju
Nakon četiri ili pet verzija, nitko se više ne sjeća što je razlikovalo v2 od v3 ili zašto je v4 napuštena. Sustavno bilježenje svakog pokretanja — sastava skupa podataka, izvora novih primjera, hiperparametara, rezultata i donesene odluke — osigurava ti te informacije kada te regresija prisili da se vratiš korak unatrag. Posebnu pozornost posveti izvoru novih primjera: samo će ti to, mjesecima kasnije, reći je li degradacija proizašla iz loše odabranog paketa podataka.
iteration_log = {
"version": "v3",
"date": "2026-04-02",
"base_model": "gpt-5.6-luna",
"dataset": {
"train": 350,
"validation": 45,
"new_examples": 50,
"new_examples_source": "production errors week 12"
},
"hyperparameters": {
"n_epochs": 3,
"learning_rate_multiplier": "auto",
"batch_size": "auto"
},
"results": {
"validation_loss": 0.42,
"precision_test": 0.91,
"avg_csat": 4.3,
"improvement_vs_v2": "+5% precision, +0.2 CSAT"
},
"decision": "Deployed to production on 2026-04-03"
}
Ključne točke
- Fino podešavanje je iterativno — planiraj više ciklusa
- Kategoriziraj pogreške prije nego što ih ispraviš u podacima
- Pretvori povratne informacije korisnika u primjere za obuku
- Nakon 2–3 uzastopne iteracije, kreni ispočetka s osnovnim modelom
- Dokumentiraj svaku iteraciju kako bi održao jasnu povijest