Iterazzjoni: Meta Terġa' Tagħmel Fine-Tuning
F'din il-paġna
Aġġornament 2 ta’ Novembru, 2026 — Disponibbiltà tal-Fine-Tuning. Is-servizz awtonomu ta’ fine-tuning ta’ OpenAI qed jiġi rtirat gradwalment: mill-7 ta’ Mejju, 2026, l-organizzazzjonijiet li qatt ma ħaddmu kompitu ta’ fine-tuning ma jistgħux joħolqu wieħed ġdid; mill-2 ta’ Lulju, trid tkun użajt mudell imħarreġ b’fine-tuning fl-aħħar 60 jum; u mill-6 ta’ Jannar, 2027, l-ebda klijent ma jkun jista’ jnieda kompiti ġodda. Il-mudelli diġà mħarrġa jibqgħu użabbli sakemm il-mudell bażi tagħhom jiġi rtirat. Dan il-kors jibqa’ utli biex tifhem u tisfrutta mudell eżistenti; għal proġetti ġodda, agħti prijorità lill-inġinerija tal-prompt, RAG, u l-evalwazzjonijiet.
Il-fine-tuning huwa proċess iterattiv
L-ewwel ġirja ta’ fine-tuning tiegħek rari tkun perfetta. It-titjib jiġi minn ċikli iterattivi: analizza l-iżbalji, arrikkixxi d-dejta tiegħek, ħarreġ mill-ġdid, u evalwa mill-ġdid. Din il-lezzjoni tgħallmek kif tidentifika meta u kif tittera b’mod effettiv—u, daqstant importanti, kif tirrikonoxxi sitwazzjonijiet fejn it-taħriġ mill-ġdid ikun bla sens.
Analizza l-iżbalji qabel ma tissewwahom
Ir-rifless naturali wara evalwazzjoni deludenti huwa li żżid eżempji b’mod każwali, bit-tama li l-volum isolvi l-problema. Din hija l-aktar mod mgħaġġel biex taħraq il-baġit tat-taħriġ tiegħek mingħajr ma tagħmel progress. Ibda billi tikklassifika kull falliment f’kategorija: formatazzjoni żbaljata, ton mhux xieraq, żball fattwali, tweġiba mhux kompluta, tweġiba barra mit-tema, jew alluċinazzjoni pura. Id-distribuzzjoni li tirriżulta tgħidlek fejn għandek tiffoka l-isforz tiegħek, u spiss tikxef sorpriża—dak li ħsibt li kien kwistjoni ta’ stil jirriżulta li huwa problema ta’ kompletezza.
def analyze_errors(results: list[dict]) -> dict:
"""Categorizes errors from the fine-tuned model."""
categories = {
"format": [], # Incorrect response format
"tone": [], # Inappropriate tone
"factual": [], # Incorrect information
"incomplete": [], # Response too short or missing elements
"off_topic": [], # Does not answer the question
"hallucination": [] # Invents information
}
for r in results:
if r.get("score", 5) < 3:
# Classify the error (can be done manually or by an LLM)
category = classify_error(r)
categories[category].append(r)
print("Error distribution:")
for cat, errors in categories.items():
if errors:
print(f" {cat}: {len(errors)} cases")
return categories
Imbagħad, irrevedi l-każijiet fl-istess kategorija biex issib denominatur komuni. Staqsi lilek innifsek l-istess mistoqsijiet kull darba: il-mudell ifalli fuq tip speċifiku ta’ mistoqsija, l-iżbalji jiġbru madwar ċerti suġġetti, u l-problema toriġina mid-dejta jew mill-iperparametri? Fallimenti mifruxa fuq is-suġġetti kollha iżda dejjem bl-istess natura jindikaw nuqqas ta’ eżempji; fallimenti kkonċentrati f’dominju wieħed jindikaw lakuna fil-kopertura; u tweġibiet li jaderixxu wisq qrib l-eżempji tat-taħriġ tiegħek irrispettivament mill-mistoqsija jissignalaw overfitting li jeħtieġ korrezzjoni fuq in-naħa tal-epoki.
Kif tirrikonoxxi meta tittera
Ċerti sinjali jsejħu b’mod ċar għal verżjoni ġdida, u kull wieħed jeħtieġ rispons differenti. Mudell li jalluċina fuq suġġett ma jiġix issolvjat billi turih aktar tweġibiet korretti fuq dak is-suġġett, iżda billi tgħallmu jiċħad b’mod edukat meta ma jafx.
| Sinjal | Azzjoni |
|---|---|
| Żbalji rikorrenti fil-format | Żid aktar eżempji bil-format korrett |
| Il-mudell jalluċina fuq ċerti suġġetti | Żid eżempji fejn jiċħad b’mod edukat |
| Overfitting skopert | Naqqas l-epoki, diversifika d-dejta |
| Każijiet ta’ użu ġodda biex tkopri | Żid eżempji għal dawn il-każijiet |
| Feedback negattiv mill-utenti mmirat | Ibiddel il-feedback f’eżempji kkoreġuti |
Bil-kontra, hemm diversi sitwazzjonijiet li għandhom iwaqqfuk milli terġa’ tħarreġ. Meta l-iżbalji huma rari u mhux sistematiku, aġġustament tal-prompt jittrattahom aktar malajr u bi spiża inqas. Meta l-ilmenti jikkonċernaw il-latency jew il-ħinijiet ta’ stennija, il-problema tinsab fl-infrastruttura tiegħek, u l-ebda ammont ta’ taħriġ ma jsewwiha. Meta tkun ġbart biss ftit eżempji ġodda mill-aħħar verżjoni, il-qligħ mistenni ma jkoprix l-ispiża tal-ġirja. U meta jsir disponibbli mudell bażi ġdid, ittestjah kif inhu l-ewwel: kultant jikseb waħdu, mingħajr taħriġ, dak li l-verżjoni preċedenti tiegħek kellha diffikultà biex twassal.
Arrikkixxi minflok ma tibda mill-bidu
L-iterazzjoni inkrementali tfisser li żżid eżempji mmirati ma’ sett ta’ dejta eżistenti mingħajr ma tmiss il-bqija. Din hija l-aktar operazzjoni frekwenti u sempliċi: titgħabba l-fajl kurrenti, tgħaqqad il-każijiet il-ġodda, u terġa’ tikteb kollox fil-format JSONL. Il-għadd finali jservi bħala kontroll tiegħek—total li ma jaqbilx mas-somma mistennija jindika żball fil-qari tal-fajl jew linji mitlufa.
import json
def enrich_dataset(
existing_dataset: str,
new_examples: list[dict],
output: str
):
"""Adds new examples to the existing dataset."""
# Load existing data
with open(existing_dataset, "r") as f:
existing = [json.loads(l) for l in f]
# Merge
combined = existing + new_examples
# Save
with open(output, "w") as f:
for ex in combined:
f.write(json.dumps(ex, ensure_ascii=False) + "\n")
print(f"Enriched dataset: {len(existing)} + {len(new_examples)} = {len(combined)}")
L-iterazzjoni korrettiva hija saħansitra aktar prezzjuża għax tibdel il-fallimenti tiegħek f’materja prima. Kull żball skopert fil-produzzjoni jipprovdi mistoqsija reali; għandek biss tikteb it-tweġiba li kont tixtieq li rajt, u l-par isir eżempju ta’ taħriġ. Innota li t-tweġiba ħażina ma tidħolx fl-eżempju finali: tgħin biex tiddokumenta l-każ u tiddeċiedi jekk il-korrezzjoni tistħoqqx l-isforz, iżda l-mudell jitgħallem biss mill-verżjoni korretta.
def error_to_example(
question: str,
bad_response: str,
good_response: str,
system_msg: str
) -> dict:
"""Transforms an error into a training example."""
return {
"messages": [
{"role": "system", "content": system_msg},
{"role": "user", "content": question},
{"role": "assistant", "content": good_response}
]
}
# Transform a batch of errors
corrections = []
for error in detected_errors:
correction = error_to_example(
question=error["question"],
bad_response=error["model_response"],
good_response=error["corrected_response"],
system_msg=SYSTEM_PROMPT
)
corrections.append(correction)
Fine-tuning kontinwu u l-limiti tiegħu
Xejn ma jwaqqfek milli tagħmel fine-tuning ta’ mudell diġà mħarreġ b’fine-tuning: sempliċiment għaddi l-ID sħiħ tiegħu fil-parametru model minflok isem il-mudell bażi. L-operazzjoni hija tentanti peress li tħarreġ biss fuq id-dejta l-ġdida.
# Fine-tune from an already fine-tuned model
job_v2 = client.fine_tuning.jobs.create(
training_file=new_file.id,
model="ft:gpt-5.6-luna:org::suffix-v1:xxxxxxxx", # v1 model as base
suffix="my-assistant-v2"
)
Twissija: il-fine-tuning kontinwu jakkumula preġudizzji. Wara 2–3 iterazzjonijiet suċċessivi, spiss ikun aħjar li tibda mill-ġdid mill-mudell bażi b’sett ta’ dejta sħiħ u arrikkixxit. Kull saff jikber l-eċċentriċitajiet ta’ dak ta’ qablu, inklużi dawk li ma ħsibtx għalihom, u l-mudell jispiċċa jwieġeb b’riġidità li ħadd ma għallmu b’mod espliċitu.
Iċ-ċiklu sħiħ
Il-passi hawn taħt jiffurmaw iċ-ċiklu li se tirrepeti għal kull verżjoni. Jekk tittratta l-iżbalji l-aktar frekwenti l-ewwel, il-verżjoni li jmiss se turi qligħ li jista’ jitkejjel fuq is-sett tat-test tiegħek; jekk tittrattahom barra mill-ordni, tikseb biss titjib diffuż li huwa diffiċli li tiddefendi quddiem it-tim tiegħek.
Iġbor l-iżbalji
Identifika l-każijiet fejn il-mudell ifalli fil-produzzjoni jew matul l-evalwazzjoni.
Ikklassifika u stabbilixxi l-prijoritajiet
Ikklassifika l-iżbalji skont it-tip u indirizza l-aktar frekwenti l-ewwel.
Oħloq eżempji korrettivi
Ibdel kull żball f'eżempju ta' taħriġ bit-tweġiba korretta.
Ħarreġ mill-ġdid u evalwa mill-ġdid
Ħarreġ il-verżjoni l-ġdida u qabbilha ma' dik ta' qabilha fuq l-istess sett tat-test.
Iddokumenta kull iterazzjoni
Wara erba’ jew ħames verżjonijiet, ħadd ma jiftakar x’kien jiddistingwi l-v2 mill-v3 jew għaliex il-v4 ġiet abbandunata. Ir-reġistrazzjoni sistematika ta’ kull ġirja—il-kompożizzjoni tas-sett tad-dejta, is-sors tal-eżempji ġodda, l-iperparametri, ir-riżultati, u d-deċiżjoni meħuda—tagħtik din l-informazzjoni meta regressjoni tifforzalek terġa’ lura fuq il-passi tiegħek. Agħti attenzjoni partikolari lis-sors tal-eżempji ġodda: biss dan jgħidlek, xhur wara, jekk id-deterjorament ġiex minn lott ta’ dejta magħżul ħażin.
iteration_log = {
"version": "v3",
"date": "2026-04-02",
"base_model": "gpt-5.6-luna",
"dataset": {
"train": 350,
"validation": 45,
"new_examples": 50,
"new_examples_source": "production errors week 12"
},
"hyperparameters": {
"n_epochs": 3,
"learning_rate_multiplier": "auto",
"batch_size": "auto"
},
"results": {
"validation_loss": 0.42,
"precision_test": 0.91,
"avg_csat": 4.3,
"improvement_vs_v2": "+5% precision, +0.2 CSAT"
},
"decision": "Deployed to production on 2026-04-03"
}
Punti Ewlenin
- Il-fine-tuning huwa iterattiv—ippjana għal ċikli multipli
- Ikklassifika l-iżbalji qabel ma tissewwahom fid-dejta
- Ibiddel il-feedback tal-utenti f’eżempji ta’ taħriġ
- Wara 2–3 iterazzjonijiet suċċessivi, erġa’ ibda mill-mudell bażi
- Iddokumenta kull iterazzjoni biex iżżomm storja ċara