Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Iddispjega mudell imħarreġ sewwa

Lezzjoni 14 / 16 Aġġornat 3 ta’ Novembru 2026 Avvanzat
F'din il-paġna
  1. Mill-iżvilupp għall-produzzjoni
  2. Iċċentralizza l-konfigurazzjoni
  3. Irreżisti għall-inċidenti
  4. Irreġistra dak li jimpotta
  5. Qabel ma tiftaħ il-bibien
  6. Punti Ewlenin

Lezzjoni aġġornata fit-3 ta’ Novembru 2026 ibbażata fuq id-dokumentazzjoni ta’ OpenAI: temperature u top_p huma aċċettati biss b’sforz ta’ raġunar ta’ none, filwaqt li l-mudelli GPT-5.6 jirraġunaw b’mod awtomatiku (medium). Għalhekk, is-sejħiet li jistabbilixxu dawn il-parametri jridu jispeċifikaw reasoning={"effort": "none"} (API Responses) jew reasoning_effort="none" (Chat Completions). Sorsi: L-użu ta’ GPT-6 · GPT-5.6 Terra.

Aġġornament tat-2 ta’ Novembru 2026 — Disponibbiltà tal-fine-tuning. Is-servizz awtonomu ta’ fine-tuning ta’ OpenAI qed jiġi rtirat gradwalment: mill-7 ta’ Mejju 2026, l-organizzazzjonijiet li qatt ma wettqu fine-tuning ma jistgħux joħolqu aktar kompiti; mit-2 ta’ Lulju, trid tkun użajt mudell imħarreġ sewwa fi żmien l-aħħar 60 jum; u mill-6 ta’ Jannar 2027, l-ebda klijent ma jkun jista’ jnieda kompiti ġodda. Il-mudelli diġà mħarrġa jibqgħu użabbli sakemm il-mudell bażi tagħhom jiġi rtirat. Din il-kors tibqa’ utli biex tifhem u tisfrutta mudell eżistenti; għal proġetti ġodda, agħti prijorità lill-inġinerija tal-prompt, RAG, u l-evalwazzjonijiet.

Mill-iżvilupp għall-produzzjoni

Il-mudell imħarreġ sewwa tiegħek ġie evalwat u approvat. Wasal iż-żmien biex tiddispjegah fil-produzzjoni. Din il-lezzjoni tkopri l-aħjar prattiki għal dispjegament affidabbli, sikur u li jista’ jinżamm — kollox dak li jissepara mudell li jaħdem fuq il-laptop tiegħek minn servizz li l-utenti tiegħek jistgħu jilħqu kontinwament mingħajr ma tkun fuq sejħa.

Ejja nibdew mill-bażi: mudell imħarreġ sewwa jaħdem eżattament bħal kwalunkwe mudell ieħor ta’ OpenAI. L-unika differenza hija l-isem tal-mudell, li jsir identifikatur twil li jinkludi l-organizzazzjoni tiegħek, is-suffiss tiegħek, u ID tal-kompitu. L-ebda parametru ekstra, l-ebda endpoint speċjali.

from openai import OpenAI

client = OpenAI()

# Il-mudell imħarreġ sewwa għandu identifikatur uniku
MODELE_PRODUCTION = "ft:gpt-5.6-luna:votre-org::mon-assistant-v3:abc12345"

response = client.responses.create(
    model=MODELE_PRODUCTION,
    input="Hello, I have an issue with my order #12345."
)

print(response.output_text)

Iċċentralizza l-konfigurazzjoni

Dan l-identifikatur għandu karatteristika waħda li għandha tmexxi l-arkitettura kollha tiegħek: jinbidel ma’ kull verżjoni ġdida tal-mudell tiegħek. Jekk tħallih imwaħħal mal-kodiċi (hard-coded) fl-applikazzjoni tiegħek, tisfaċċja ridispjegament sħiħ għall-iżgħar aġġornament, u tfittxija tedjuża l-jum li jidher f’tliet postijiet differenti. Poġġih f’varjabbli tal-ambjent, bil-mudell bażi bħala valur ta’ riżerva: l-applikazzjoni tiegħek tibda anke jekk il-varjabbli ma tkunx issettjata, u b’hekk tevita inċident tas-servizz silenzjuż f’Lejl ta’ Ħadd.

import os

class Config:
    """Konfigurazzjoni ċċentralizzata tal-mudell."""

    # Varjabbli tal-ambjent għall-mudell tal-produzzjoni
    MODEL_ID = os.environ.get(
        "OPENAI_FT_MODEL",
        "gpt-5.6-luna"  # riżerva għall-mudell bażi
    )

    # Prompt tas-sistema (jista' jkun vojt jekk integrat fil-fine-tuning)
    SYSTEM_PROMPT = os.environ.get("SYSTEM_PROMPT", "")

    # Parametri tal-ġenerazzjoni
    MAX_TOKENS = int(os.environ.get("MAX_TOKENS", "1024"))
    TEMPERATURE = float(os.environ.get("TEMPERATURE", "0.7"))

L-istess loġika tapplika għas-sejħiet infushom. Minflok ma tferrex sejħiet client.responses.create fil-loġika tan-negozju tiegħek, agħlaqhom f’servizz wieħed. Tikseb punt ta’ kontroll obbligatorju fejn tista’ aktar tard tgħaqqad il-logging, il-metriċi, u r-riżerva mingħajr ma terġa’ tiftaħ għoxrin fajl. Innota kif is-servizz hawn taħt jikkomponta kuntest opzjonali mal-mistoqsija, u kif jaqbad kwalunkwe eċċezzjoni biex idawwarha lejn il-mudell bażi.

from openai import OpenAI

class AssistantService:
    """Servizz li jagħlaq is-sejħiet lejn il-mudell imħarreġ sewwa."""

    def __init__(self):
        self.client = OpenAI()
        self.model = Config.MODEL_ID

    def repondre(self, question: str, contexte: str = "") -> str:
        """Jiġġenera tweġiba."""
        input_msg = question
        if contexte:
            input_msg = f"Context: {contexte}\n\nQuestion: {question}"

        try:
            response = self.client.responses.create(
                model=self.model,
                reasoning={"effort": "none"},  # it-temperatura teħtieġ sforz none
                input=input_msg,
                max_output_tokens=Config.MAX_TOKENS,
                temperature=Config.TEMPERATURE
            )
            return response.output_text

        except Exception as e:
            # Riżerva għall-mudell bażi f'każ ta' żball
            return self._fallback(input_msg, str(e))

    def _fallback(self, input_msg: str, erreur: str) -> str:
        """Riżerva għall-mudell bażi."""
        print(f"Fallback activated: {erreur}")
        response = self.client.responses.create(
            model="gpt-5.6-luna",
            instructions=Config.SYSTEM_PROMPT,
            input=input_msg
        )
        return response.output_text

Irreżisti għall-inċidenti

Tweġiba degradata hija aħjar minn l-ebda tweġiba. Jekk il-mudell imħarreġ sewwa tiegħek ikun temporanjament mhux disponibbli, huwa aħjar li taqleb għall-mudell bażi — bil-prompt tas-sistema li żammejt preċiżament għal dan il-każ — milli turi żball lill-utent. Il-funzjoni li ġejja tgħaqqad żewġ mekkaniżmi komplementari: l-ewwel, tliet tentattivi fuq il-mudell primarju, spazjati b’dewmien li jirdoppja ma’ kull falliment biex jevita li jaggravaw overload temporanju; imbagħad, biss jekk kollox ifalli, sejħa lill-mudell ta’ riżerva. Żomm il-flag fallback irritornat fir-riżultat, peress li hija l-unika traċċa użabbli ta’ kemm dan il-mekkaniżmu jiskatta fil-fatt.

import time

def appel_resilient(
    client: OpenAI,
    modele_principal: str,
    modele_fallback: str,
    input_msg: str,
    max_retries: int = 3
) -> dict:
    """Sejħa reżiljenti b'tentattiv mill-ġdid u riżerva."""

    for tentative in range(max_retries):
        try:
            response = client.responses.create(
                model=modele_principal,
                input=input_msg,
                timeout=30
            )
            return {
                "reponse": response.output_text,
                "modele_utilise": modele_principal,
                "fallback": False
            }
        except Exception as e:
            print(f"Attempt {tentative + 1} failed: {e}")
            if tentative < max_retries - 1:
                time.sleep(2 ** tentative)  # backoff esponenzjali

    # Riżerva
    try:
        response = client.responses.create(
            model=modele_fallback,
            input=input_msg
        )
        return {
            "reponse": response.output_text,
            "modele_utilise": modele_fallback,
            "fallback": True
        }
    except Exception as e:
        return {"erreur": str(e), "fallback": True}

Il-limitazzjoni tar-rata (rate limiting) teħtieġ trattament separat għax mhix telf ta’ servizz iżda regolamentazzjoni: il-mudelli mħarrġa sewwa jaqsmu l-istess limiti tar-rata bħall-mudelli bażi. RateLimitError sempliċiment titlobek tistenna, u l-istennija progressiva hawn taħt hija biżżejjed biex tassorbi pikku. Jekk iċ-ċiklu jilħaq is-soqfa tiegħu, madankollu, il-problema ma tibqax konġunturali u għandek tirrevedi l-kwota tiegħek.

from openai import RateLimitError
import time

def appel_avec_rate_limit(client, modele, input_msg, max_wait=60):
    """Tittratta l-limitazzjoni tar-rata b'istennija progressiva."""
    wait = 1
    while wait <= max_wait:
        try:
            return client.responses.create(
                model=modele,
                input=input_msg
            )
        except RateLimitError:
            print(f"Rate limit reached, waiting {wait}s...")
            time.sleep(wait)
            wait *= 2

    raise Exception("Persistent rate limit — check your quotas")

Irreġistra dak li jimpotta

Il-logging strutturat ibiddel inċidenti opaki f’dijanjostiċi mgħaġġla. Għal kull sejħa, irreġistra l-mudell użat fil-fatt, il-volum tal-input u l-output, il-latency, u l-flag tar-riżerva. Din l-informazzjoni hija biżżejjed biex twieġeb il-mistoqsijiet li jqumu waqt inċident: kemm-il żmien il-latency qed tiddevja, iż-żieda fl-ispejjeż hija minħabba t-traffiku jew tweġibiet itwal, u kemm-il utent ġew serviti fil-fatt mill-mudell bażi.

import logging
import datetime

logger = logging.getLogger("fine_tuning_prod")

def log_appel(
    modele: str,
    input_msg: str,
    output: str,
    latence_ms: float,
    fallback: bool
):
    """Logging strutturat għal kull sejħa tal-produzzjoni."""
    logger.info(
        "appel_modele",
        extra={
            "modele": modele,
            "input_tokens": len(input_msg.split()),
            "output_tokens": len(output.split()),
            "latence_ms": latence_ms,
            "fallback": fallback,
            "timestamp": datetime.datetime.now().isoformat()
        }
    )

Fuq in-naħa tal-konfigurazzjoni, kollox imur f’fajl tal-ambjent li qatt m’għandu jidħol fir-repożitorju tiegħek: fih iċ-ċavetta tal-API tiegħek, u ċavetta ppubblikata hija ċavetta kompromessa.

# .env (tikkomittjax)
OPENAI_API_KEY=sk-...
OPENAI_FT_MODEL=ft:gpt-5.6-luna:org::suffix:abc12345
OPENAI_FT_MODEL_FALLBACK=gpt-5.6-luna
SYSTEM_PROMPT="You are a professional customer support assistant."
MAX_TOKENS=1024
TEMPERATURE=0.7

Qabel ma tiftaħ il-bibien

Qabel ma tesponi s-servizz lill-utenti tiegħek, għaddi miċ-ċekkijiet f’din il-lezzjoni waħda waħda. Il-mudell irid ikun ġie evalwat u approvat kontra l-limitu li ddefinixxejt minn qabel; ismu jrid jgħix f’varjabbli tal-ambjent u mkien ieħor mhux imwaħħal mal-kodiċi; mekkaniżmu ta’ riżerva jrid ikun fis-seħħ. Dawn it-tliet punti jikkundizzjonaw kollox ieħor, għax mingħajrhom qed tpoġġi online mudell li l-kwalità mkejla tiegħu, l-indirizz eżatt, u l-imġiba meta l-API tirrispondi ħażin huma mhux magħrufa.

Sussegwentement, iċċekkja l-istrumentazzjoni. Il-logging irid ikun attivat u jirreġistra mill-inqas il-mudell użat, il-latency, u t-tokens; il-limitazzjoni tar-rata trid tiġi ġestita minflok ma tiġi subita; l-allerti jridu jiġu kkonfigurati fuq ir-rata ta’ żball u l-latency P95, inkella l-ewwel utent mhux kuntent tiegħek se jwettaq ir-rwol tas-sonda. Fl-aħħar nett, ir-rollback irid ikun iddokumentat u testjabbli — rollback li qatt ma ġie eżegwit fil-fatt jibqa’ intenzjoni, mhux mekkaniżmu.

Punti Ewlenin

  • Uża varjabbli tal-ambjent għall-isem tal-mudell
  • Dejjem implimenta riżerva għall-mudell bażi
  • Irreġistra kull sejħa bil-mudell użat u l-latency
  • Immaniġġja l-limitazzjoni tar-rata b’backoff esponenzjali
  • Ittestja l-mekkaniżmu ta’ riżerva tiegħek qabel id-dispjegament