Iddispjega mudell imħarreġ sewwa
F'din il-paġna
Lezzjoni aġġornata fit-3 ta’ Novembru 2026 ibbażata fuq id-dokumentazzjoni ta’ OpenAI:
temperatureutop_phuma aċċettati biss b’sforz ta’ raġunar ta’none, filwaqt li l-mudelli GPT-5.6 jirraġunaw b’mod awtomatiku (medium). Għalhekk, is-sejħiet li jistabbilixxu dawn il-parametri jridu jispeċifikawreasoning={"effort": "none"}(API Responses) jewreasoning_effort="none"(Chat Completions). Sorsi: L-użu ta’ GPT-6 · GPT-5.6 Terra.
Aġġornament tat-2 ta’ Novembru 2026 — Disponibbiltà tal-fine-tuning. Is-servizz awtonomu ta’ fine-tuning ta’ OpenAI qed jiġi rtirat gradwalment: mill-7 ta’ Mejju 2026, l-organizzazzjonijiet li qatt ma wettqu fine-tuning ma jistgħux joħolqu aktar kompiti; mit-2 ta’ Lulju, trid tkun użajt mudell imħarreġ sewwa fi żmien l-aħħar 60 jum; u mill-6 ta’ Jannar 2027, l-ebda klijent ma jkun jista’ jnieda kompiti ġodda. Il-mudelli diġà mħarrġa jibqgħu użabbli sakemm il-mudell bażi tagħhom jiġi rtirat. Din il-kors tibqa’ utli biex tifhem u tisfrutta mudell eżistenti; għal proġetti ġodda, agħti prijorità lill-inġinerija tal-prompt, RAG, u l-evalwazzjonijiet.
Mill-iżvilupp għall-produzzjoni
Il-mudell imħarreġ sewwa tiegħek ġie evalwat u approvat. Wasal iż-żmien biex tiddispjegah fil-produzzjoni. Din il-lezzjoni tkopri l-aħjar prattiki għal dispjegament affidabbli, sikur u li jista’ jinżamm — kollox dak li jissepara mudell li jaħdem fuq il-laptop tiegħek minn servizz li l-utenti tiegħek jistgħu jilħqu kontinwament mingħajr ma tkun fuq sejħa.
Ejja nibdew mill-bażi: mudell imħarreġ sewwa jaħdem eżattament bħal kwalunkwe mudell ieħor ta’ OpenAI. L-unika differenza hija l-isem tal-mudell, li jsir identifikatur twil li jinkludi l-organizzazzjoni tiegħek, is-suffiss tiegħek, u ID tal-kompitu. L-ebda parametru ekstra, l-ebda endpoint speċjali.
from openai import OpenAI
client = OpenAI()
# Il-mudell imħarreġ sewwa għandu identifikatur uniku
MODELE_PRODUCTION = "ft:gpt-5.6-luna:votre-org::mon-assistant-v3:abc12345"
response = client.responses.create(
model=MODELE_PRODUCTION,
input="Hello, I have an issue with my order #12345."
)
print(response.output_text)
Iċċentralizza l-konfigurazzjoni
Dan l-identifikatur għandu karatteristika waħda li għandha tmexxi l-arkitettura kollha tiegħek: jinbidel ma’ kull verżjoni ġdida tal-mudell tiegħek. Jekk tħallih imwaħħal mal-kodiċi (hard-coded) fl-applikazzjoni tiegħek, tisfaċċja ridispjegament sħiħ għall-iżgħar aġġornament, u tfittxija tedjuża l-jum li jidher f’tliet postijiet differenti. Poġġih f’varjabbli tal-ambjent, bil-mudell bażi bħala valur ta’ riżerva: l-applikazzjoni tiegħek tibda anke jekk il-varjabbli ma tkunx issettjata, u b’hekk tevita inċident tas-servizz silenzjuż f’Lejl ta’ Ħadd.
import os
class Config:
"""Konfigurazzjoni ċċentralizzata tal-mudell."""
# Varjabbli tal-ambjent għall-mudell tal-produzzjoni
MODEL_ID = os.environ.get(
"OPENAI_FT_MODEL",
"gpt-5.6-luna" # riżerva għall-mudell bażi
)
# Prompt tas-sistema (jista' jkun vojt jekk integrat fil-fine-tuning)
SYSTEM_PROMPT = os.environ.get("SYSTEM_PROMPT", "")
# Parametri tal-ġenerazzjoni
MAX_TOKENS = int(os.environ.get("MAX_TOKENS", "1024"))
TEMPERATURE = float(os.environ.get("TEMPERATURE", "0.7"))
L-istess loġika tapplika għas-sejħiet infushom. Minflok ma tferrex sejħiet client.responses.create fil-loġika tan-negozju tiegħek, agħlaqhom f’servizz wieħed. Tikseb punt ta’ kontroll obbligatorju fejn tista’ aktar tard tgħaqqad il-logging, il-metriċi, u r-riżerva mingħajr ma terġa’ tiftaħ għoxrin fajl. Innota kif is-servizz hawn taħt jikkomponta kuntest opzjonali mal-mistoqsija, u kif jaqbad kwalunkwe eċċezzjoni biex idawwarha lejn il-mudell bażi.
from openai import OpenAI
class AssistantService:
"""Servizz li jagħlaq is-sejħiet lejn il-mudell imħarreġ sewwa."""
def __init__(self):
self.client = OpenAI()
self.model = Config.MODEL_ID
def repondre(self, question: str, contexte: str = "") -> str:
"""Jiġġenera tweġiba."""
input_msg = question
if contexte:
input_msg = f"Context: {contexte}\n\nQuestion: {question}"
try:
response = self.client.responses.create(
model=self.model,
reasoning={"effort": "none"}, # it-temperatura teħtieġ sforz none
input=input_msg,
max_output_tokens=Config.MAX_TOKENS,
temperature=Config.TEMPERATURE
)
return response.output_text
except Exception as e:
# Riżerva għall-mudell bażi f'każ ta' żball
return self._fallback(input_msg, str(e))
def _fallback(self, input_msg: str, erreur: str) -> str:
"""Riżerva għall-mudell bażi."""
print(f"Fallback activated: {erreur}")
response = self.client.responses.create(
model="gpt-5.6-luna",
instructions=Config.SYSTEM_PROMPT,
input=input_msg
)
return response.output_text
Irreżisti għall-inċidenti
Tweġiba degradata hija aħjar minn l-ebda tweġiba. Jekk il-mudell imħarreġ sewwa tiegħek ikun temporanjament mhux disponibbli, huwa aħjar li taqleb għall-mudell bażi — bil-prompt tas-sistema li żammejt preċiżament għal dan il-każ — milli turi żball lill-utent. Il-funzjoni li ġejja tgħaqqad żewġ mekkaniżmi komplementari: l-ewwel, tliet tentattivi fuq il-mudell primarju, spazjati b’dewmien li jirdoppja ma’ kull falliment biex jevita li jaggravaw overload temporanju; imbagħad, biss jekk kollox ifalli, sejħa lill-mudell ta’ riżerva. Żomm il-flag fallback irritornat fir-riżultat, peress li hija l-unika traċċa użabbli ta’ kemm dan il-mekkaniżmu jiskatta fil-fatt.
import time
def appel_resilient(
client: OpenAI,
modele_principal: str,
modele_fallback: str,
input_msg: str,
max_retries: int = 3
) -> dict:
"""Sejħa reżiljenti b'tentattiv mill-ġdid u riżerva."""
for tentative in range(max_retries):
try:
response = client.responses.create(
model=modele_principal,
input=input_msg,
timeout=30
)
return {
"reponse": response.output_text,
"modele_utilise": modele_principal,
"fallback": False
}
except Exception as e:
print(f"Attempt {tentative + 1} failed: {e}")
if tentative < max_retries - 1:
time.sleep(2 ** tentative) # backoff esponenzjali
# Riżerva
try:
response = client.responses.create(
model=modele_fallback,
input=input_msg
)
return {
"reponse": response.output_text,
"modele_utilise": modele_fallback,
"fallback": True
}
except Exception as e:
return {"erreur": str(e), "fallback": True}
Il-limitazzjoni tar-rata (rate limiting) teħtieġ trattament separat għax mhix telf ta’ servizz iżda regolamentazzjoni: il-mudelli mħarrġa sewwa jaqsmu l-istess limiti tar-rata bħall-mudelli bażi. RateLimitError sempliċiment titlobek tistenna, u l-istennija progressiva hawn taħt hija biżżejjed biex tassorbi pikku. Jekk iċ-ċiklu jilħaq is-soqfa tiegħu, madankollu, il-problema ma tibqax konġunturali u għandek tirrevedi l-kwota tiegħek.
from openai import RateLimitError
import time
def appel_avec_rate_limit(client, modele, input_msg, max_wait=60):
"""Tittratta l-limitazzjoni tar-rata b'istennija progressiva."""
wait = 1
while wait <= max_wait:
try:
return client.responses.create(
model=modele,
input=input_msg
)
except RateLimitError:
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
wait *= 2
raise Exception("Persistent rate limit — check your quotas")
Irreġistra dak li jimpotta
Il-logging strutturat ibiddel inċidenti opaki f’dijanjostiċi mgħaġġla. Għal kull sejħa, irreġistra l-mudell użat fil-fatt, il-volum tal-input u l-output, il-latency, u l-flag tar-riżerva. Din l-informazzjoni hija biżżejjed biex twieġeb il-mistoqsijiet li jqumu waqt inċident: kemm-il żmien il-latency qed tiddevja, iż-żieda fl-ispejjeż hija minħabba t-traffiku jew tweġibiet itwal, u kemm-il utent ġew serviti fil-fatt mill-mudell bażi.
import logging
import datetime
logger = logging.getLogger("fine_tuning_prod")
def log_appel(
modele: str,
input_msg: str,
output: str,
latence_ms: float,
fallback: bool
):
"""Logging strutturat għal kull sejħa tal-produzzjoni."""
logger.info(
"appel_modele",
extra={
"modele": modele,
"input_tokens": len(input_msg.split()),
"output_tokens": len(output.split()),
"latence_ms": latence_ms,
"fallback": fallback,
"timestamp": datetime.datetime.now().isoformat()
}
)
Fuq in-naħa tal-konfigurazzjoni, kollox imur f’fajl tal-ambjent li qatt m’għandu jidħol fir-repożitorju tiegħek: fih iċ-ċavetta tal-API tiegħek, u ċavetta ppubblikata hija ċavetta kompromessa.
# .env (tikkomittjax)
OPENAI_API_KEY=sk-...
OPENAI_FT_MODEL=ft:gpt-5.6-luna:org::suffix:abc12345
OPENAI_FT_MODEL_FALLBACK=gpt-5.6-luna
SYSTEM_PROMPT="You are a professional customer support assistant."
MAX_TOKENS=1024
TEMPERATURE=0.7
Qabel ma tiftaħ il-bibien
Qabel ma tesponi s-servizz lill-utenti tiegħek, għaddi miċ-ċekkijiet f’din il-lezzjoni waħda waħda. Il-mudell irid ikun ġie evalwat u approvat kontra l-limitu li ddefinixxejt minn qabel; ismu jrid jgħix f’varjabbli tal-ambjent u mkien ieħor mhux imwaħħal mal-kodiċi; mekkaniżmu ta’ riżerva jrid ikun fis-seħħ. Dawn it-tliet punti jikkundizzjonaw kollox ieħor, għax mingħajrhom qed tpoġġi online mudell li l-kwalità mkejla tiegħu, l-indirizz eżatt, u l-imġiba meta l-API tirrispondi ħażin huma mhux magħrufa.
Sussegwentement, iċċekkja l-istrumentazzjoni. Il-logging irid ikun attivat u jirreġistra mill-inqas il-mudell użat, il-latency, u t-tokens; il-limitazzjoni tar-rata trid tiġi ġestita minflok ma tiġi subita; l-allerti jridu jiġu kkonfigurati fuq ir-rata ta’ żball u l-latency P95, inkella l-ewwel utent mhux kuntent tiegħek se jwettaq ir-rwol tas-sonda. Fl-aħħar nett, ir-rollback irid ikun iddokumentat u testjabbli — rollback li qatt ma ġie eżegwit fil-fatt jibqa’ intenzjoni, mhux mekkaniżmu.
Punti Ewlenin
- Uża varjabbli tal-ambjent għall-isem tal-mudell
- Dejjem implimenta riżerva għall-mudell bażi
- Irreġistra kull sejħa bil-mudell użat u l-latency
- Immaniġġja l-limitazzjoni tar-rata b’backoff esponenzjali
- Ittestja l-mekkaniżmu ta’ riżerva tiegħek qabel id-dispjegament