Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Iterazzjoni: Meta Terġa' Tagħmel Fine-Tuning

Lezzjoni 13 / 16 Aġġornat 2 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Il-fine-tuning huwa proċess iterattiv
  2. Analizza l-iżbalji qabel ma tissewwahom
  3. Kif tirrikonoxxi meta tittera
  4. Arrikkixxi minflok ma tibda mill-bidu
  5. Fine-tuning kontinwu u l-limiti tiegħu
  6. Iċ-ċiklu sħiħ
  7. Iddokumenta kull iterazzjoni
  8. Punti Ewlenin

Aġġornament 2 ta’ Novembru, 2026 — Disponibbiltà tal-Fine-Tuning. Is-servizz awtonomu ta’ fine-tuning ta’ OpenAI qed jiġi rtirat gradwalment: mill-7 ta’ Mejju, 2026, l-organizzazzjonijiet li qatt ma ħaddmu kompitu ta’ fine-tuning ma jistgħux joħolqu wieħed ġdid; mill-2 ta’ Lulju, trid tkun użajt mudell imħarreġ b’fine-tuning fl-aħħar 60 jum; u mill-6 ta’ Jannar, 2027, l-ebda klijent ma jkun jista’ jnieda kompiti ġodda. Il-mudelli diġà mħarrġa jibqgħu użabbli sakemm il-mudell bażi tagħhom jiġi rtirat. Dan il-kors jibqa’ utli biex tifhem u tisfrutta mudell eżistenti; għal proġetti ġodda, agħti prijorità lill-inġinerija tal-prompt, RAG, u l-evalwazzjonijiet.

Il-fine-tuning huwa proċess iterattiv

L-ewwel ġirja ta’ fine-tuning tiegħek rari tkun perfetta. It-titjib jiġi minn ċikli iterattivi: analizza l-iżbalji, arrikkixxi d-dejta tiegħek, ħarreġ mill-ġdid, u evalwa mill-ġdid. Din il-lezzjoni tgħallmek kif tidentifika meta u kif tittera b’mod effettiv—u, daqstant importanti, kif tirrikonoxxi sitwazzjonijiet fejn it-taħriġ mill-ġdid ikun bla sens.

Analizza l-iżbalji qabel ma tissewwahom

Ir-rifless naturali wara evalwazzjoni deludenti huwa li żżid eżempji b’mod każwali, bit-tama li l-volum isolvi l-problema. Din hija l-aktar mod mgħaġġel biex taħraq il-baġit tat-taħriġ tiegħek mingħajr ma tagħmel progress. Ibda billi tikklassifika kull falliment f’kategorija: formatazzjoni żbaljata, ton mhux xieraq, żball fattwali, tweġiba mhux kompluta, tweġiba barra mit-tema, jew alluċinazzjoni pura. Id-distribuzzjoni li tirriżulta tgħidlek fejn għandek tiffoka l-isforz tiegħek, u spiss tikxef sorpriża—dak li ħsibt li kien kwistjoni ta’ stil jirriżulta li huwa problema ta’ kompletezza.

def analyze_errors(results: list[dict]) -> dict:
    """Categorizes errors from the fine-tuned model."""
    categories = {
        "format": [],       # Incorrect response format
        "tone": [],         # Inappropriate tone
        "factual": [],      # Incorrect information
        "incomplete": [],   # Response too short or missing elements
        "off_topic": [],    # Does not answer the question
        "hallucination": [] # Invents information
    }

    for r in results:
        if r.get("score", 5) < 3:
            # Classify the error (can be done manually or by an LLM)
            category = classify_error(r)
            categories[category].append(r)

    print("Error distribution:")
    for cat, errors in categories.items():
        if errors:
            print(f"  {cat}: {len(errors)} cases")

    return categories

Imbagħad, irrevedi l-każijiet fl-istess kategorija biex issib denominatur komuni. Staqsi lilek innifsek l-istess mistoqsijiet kull darba: il-mudell ifalli fuq tip speċifiku ta’ mistoqsija, l-iżbalji jiġbru madwar ċerti suġġetti, u l-problema toriġina mid-dejta jew mill-iperparametri? Fallimenti mifruxa fuq is-suġġetti kollha iżda dejjem bl-istess natura jindikaw nuqqas ta’ eżempji; fallimenti kkonċentrati f’dominju wieħed jindikaw lakuna fil-kopertura; u tweġibiet li jaderixxu wisq qrib l-eżempji tat-taħriġ tiegħek irrispettivament mill-mistoqsija jissignalaw overfitting li jeħtieġ korrezzjoni fuq in-naħa tal-epoki.

Kif tirrikonoxxi meta tittera

Ċerti sinjali jsejħu b’mod ċar għal verżjoni ġdida, u kull wieħed jeħtieġ rispons differenti. Mudell li jalluċina fuq suġġett ma jiġix issolvjat billi turih aktar tweġibiet korretti fuq dak is-suġġett, iżda billi tgħallmu jiċħad b’mod edukat meta ma jafx.

SinjalAzzjoni
Żbalji rikorrenti fil-formatŻid aktar eżempji bil-format korrett
Il-mudell jalluċina fuq ċerti suġġettiŻid eżempji fejn jiċħad b’mod edukat
Overfitting skopertNaqqas l-epoki, diversifika d-dejta
Każijiet ta’ użu ġodda biex tkopriŻid eżempji għal dawn il-każijiet
Feedback negattiv mill-utenti mmiratIbiddel il-feedback f’eżempji kkoreġuti

Bil-kontra, hemm diversi sitwazzjonijiet li għandhom iwaqqfuk milli terġa’ tħarreġ. Meta l-iżbalji huma rari u mhux sistematiku, aġġustament tal-prompt jittrattahom aktar malajr u bi spiża inqas. Meta l-ilmenti jikkonċernaw il-latency jew il-ħinijiet ta’ stennija, il-problema tinsab fl-infrastruttura tiegħek, u l-ebda ammont ta’ taħriġ ma jsewwiha. Meta tkun ġbart biss ftit eżempji ġodda mill-aħħar verżjoni, il-qligħ mistenni ma jkoprix l-ispiża tal-ġirja. U meta jsir disponibbli mudell bażi ġdid, ittestjah kif inhu l-ewwel: kultant jikseb waħdu, mingħajr taħriġ, dak li l-verżjoni preċedenti tiegħek kellha diffikultà biex twassal.

Arrikkixxi minflok ma tibda mill-bidu

L-iterazzjoni inkrementali tfisser li żżid eżempji mmirati ma’ sett ta’ dejta eżistenti mingħajr ma tmiss il-bqija. Din hija l-aktar operazzjoni frekwenti u sempliċi: titgħabba l-fajl kurrenti, tgħaqqad il-każijiet il-ġodda, u terġa’ tikteb kollox fil-format JSONL. Il-għadd finali jservi bħala kontroll tiegħek—total li ma jaqbilx mas-somma mistennija jindika żball fil-qari tal-fajl jew linji mitlufa.

import json

def enrich_dataset(
    existing_dataset: str,
    new_examples: list[dict],
    output: str
):
    """Adds new examples to the existing dataset."""
    # Load existing data
    with open(existing_dataset, "r") as f:
        existing = [json.loads(l) for l in f]

    # Merge
    combined = existing + new_examples

    # Save
    with open(output, "w") as f:
        for ex in combined:
            f.write(json.dumps(ex, ensure_ascii=False) + "\n")

    print(f"Enriched dataset: {len(existing)} + {len(new_examples)} = {len(combined)}")

L-iterazzjoni korrettiva hija saħansitra aktar prezzjuża għax tibdel il-fallimenti tiegħek f’materja prima. Kull żball skopert fil-produzzjoni jipprovdi mistoqsija reali; għandek biss tikteb it-tweġiba li kont tixtieq li rajt, u l-par isir eżempju ta’ taħriġ. Innota li t-tweġiba ħażina ma tidħolx fl-eżempju finali: tgħin biex tiddokumenta l-każ u tiddeċiedi jekk il-korrezzjoni tistħoqqx l-isforz, iżda l-mudell jitgħallem biss mill-verżjoni korretta.

def error_to_example(
    question: str,
    bad_response: str,
    good_response: str,
    system_msg: str
) -> dict:
    """Transforms an error into a training example."""
    return {
        "messages": [
            {"role": "system", "content": system_msg},
            {"role": "user", "content": question},
            {"role": "assistant", "content": good_response}
        ]
    }

# Transform a batch of errors
corrections = []
for error in detected_errors:
    correction = error_to_example(
        question=error["question"],
        bad_response=error["model_response"],
        good_response=error["corrected_response"],
        system_msg=SYSTEM_PROMPT
    )
    corrections.append(correction)

Fine-tuning kontinwu u l-limiti tiegħu

Xejn ma jwaqqfek milli tagħmel fine-tuning ta’ mudell diġà mħarreġ b’fine-tuning: sempliċiment għaddi l-ID sħiħ tiegħu fil-parametru model minflok isem il-mudell bażi. L-operazzjoni hija tentanti peress li tħarreġ biss fuq id-dejta l-ġdida.

# Fine-tune from an already fine-tuned model
job_v2 = client.fine_tuning.jobs.create(
    training_file=new_file.id,
    model="ft:gpt-5.6-luna:org::suffix-v1:xxxxxxxx",  # v1 model as base
    suffix="my-assistant-v2"
)

Twissija: il-fine-tuning kontinwu jakkumula preġudizzji. Wara 2–3 iterazzjonijiet suċċessivi, spiss ikun aħjar li tibda mill-ġdid mill-mudell bażi b’sett ta’ dejta sħiħ u arrikkixxit. Kull saff jikber l-eċċentriċitajiet ta’ dak ta’ qablu, inklużi dawk li ma ħsibtx għalihom, u l-mudell jispiċċa jwieġeb b’riġidità li ħadd ma għallmu b’mod espliċitu.

Iċ-ċiklu sħiħ

Il-passi hawn taħt jiffurmaw iċ-ċiklu li se tirrepeti għal kull verżjoni. Jekk tittratta l-iżbalji l-aktar frekwenti l-ewwel, il-verżjoni li jmiss se turi qligħ li jista’ jitkejjel fuq is-sett tat-test tiegħek; jekk tittrattahom barra mill-ordni, tikseb biss titjib diffuż li huwa diffiċli li tiddefendi quddiem it-tim tiegħek.

1

Iġbor l-iżbalji

Identifika l-każijiet fejn il-mudell ifalli fil-produzzjoni jew matul l-evalwazzjoni.

2

Ikklassifika u stabbilixxi l-prijoritajiet

Ikklassifika l-iżbalji skont it-tip u indirizza l-aktar frekwenti l-ewwel.

3

Oħloq eżempji korrettivi

Ibdel kull żball f'eżempju ta' taħriġ bit-tweġiba korretta.

4

Ħarreġ mill-ġdid u evalwa mill-ġdid

Ħarreġ il-verżjoni l-ġdida u qabbilha ma' dik ta' qabilha fuq l-istess sett tat-test.

Iddokumenta kull iterazzjoni

Wara erba’ jew ħames verżjonijiet, ħadd ma jiftakar x’kien jiddistingwi l-v2 mill-v3 jew għaliex il-v4 ġiet abbandunata. Ir-reġistrazzjoni sistematika ta’ kull ġirja—il-kompożizzjoni tas-sett tad-dejta, is-sors tal-eżempji ġodda, l-iperparametri, ir-riżultati, u d-deċiżjoni meħuda—tagħtik din l-informazzjoni meta regressjoni tifforzalek terġa’ lura fuq il-passi tiegħek. Agħti attenzjoni partikolari lis-sors tal-eżempji ġodda: biss dan jgħidlek, xhur wara, jekk id-deterjorament ġiex minn lott ta’ dejta magħżul ħażin.

iteration_log = {
    "version": "v3",
    "date": "2026-04-02",
    "base_model": "gpt-5.6-luna",
    "dataset": {
        "train": 350,
        "validation": 45,
        "new_examples": 50,
        "new_examples_source": "production errors week 12"
    },
    "hyperparameters": {
        "n_epochs": 3,
        "learning_rate_multiplier": "auto",
        "batch_size": "auto"
    },
    "results": {
        "validation_loss": 0.42,
        "precision_test": 0.91,
        "avg_csat": 4.3,
        "improvement_vs_v2": "+5% precision, +0.2 CSAT"
    },
    "decision": "Deployed to production on 2026-04-03"
}

Punti Ewlenin

  • Il-fine-tuning huwa iterattiv—ippjana għal ċikli multipli
  • Ikklassifika l-iżbalji qabel ma tissewwahom fid-dejta
  • Ibiddel il-feedback tal-utenti f’eżempji ta’ taħriġ
  • Wara 2–3 iterazzjonijiet suċċessivi, erġa’ ibda mill-mudell bażi
  • Iddokumenta kull iterazzjoni biex iżżomm storja ċara