Moderazzjoni u Sigurtà tal-Kontenut Viżiv
F'din il-paġna
- Moderazzjoni u Sigurtà tal-Kontenut Viżiv
- Is-Sistema ta’ Moderazzjoni Integrata
- Pre-iffiltrar tal-Prompts
- Iċċekkja wkoll l-Immaġni Ġġenerati
- Meta l-Utenti Jiktbu l-Prompts
- Reġistrazzjoni għar-Responsabbiltà
- Drittijiet tal-Awtur u Marki Kummerċjali
- Konformità mal-GDPR
- Qabel Ma Tiftaħ il-Komport
- Ittestja l-Għarfien Tiegħek
Aġġornat fit-3 ta’ Novembru 2026 abbażi tal-gwida Image generation ta’ OpenAI: Rifjut ta’ moderazzjoni jiġi identifikat b’
error.code == "moderation_blocked", b’oġġett fakultattivmoderation_details, mhux bil-preżenza tal-kliemsafetyjewcontent_policyfil-messaġġ ta’ żball; miżjud il-parametrumoderation(auto,low). Sors: Image generation.
Aġġornament tat-2 ta’ Novembru 2026 — Mudelli tal-Immaġni.
gpt-image-1, li fuqu kien miktub oriġinarjament dan il-kors, ġie interrott fit-23 ta’ Ottubru 2026, ugpt-image-1.5,gpt-image-1-mini, uchatgpt-image-latestse jiġu rtirati fl-1 ta’ Diċembru 2026. L-eżempji issa jużawgpt-image-2.5-sunburst, l-aktar preċiż għall-editjar;gpt-image-2.5-flarehuwa aktar mgħaġġel għall-ġenerazzjoni standard. It-tnejn jaċċettaw ukoll kwalitajietxhighumax. Il-mudelli GPT Image dejjem jirritornaw l-immaġni f’base64: il-parametruresponse_formatminn mudelli DALL·E aktar antiki mhuwiex aċċettat u tneħħa mill-kodiċi. Sors: Image generation (OpenAI).
Moderazzjoni u Sigurtà tal-Kontenut Viżiv
Sakemm tiġġenera immaġni għalik innifsek, il-moderazzjoni hija kwistjoni ta’ ġudizzju personali. Ladarba tiftaħ il-ġenerazzjoni għall-utenti, issir responsabbiltà legali u etika li torbotlek idejk. Din il-lezzjoni tkopri l-għodod ta’ moderazzjoni ta’ OpenAI, kif tgħaqqadhom f’filtri suċċessivi, u l-miżuri li jipproteġu kemm l-applikazzjoni tiegħek kif ukoll in-nies li jużawha.
Is-Sistema ta’ Moderazzjoni Integrata
GPT Image jirrifjuta ċertu kontenut waħdu—vjolenza, materjal sesswalment espliċitu, fost oħrajn—u jissinjala dan ir-rifjut b’żball speċifiku. Il-kodiċi tiegħek għandu għalhekk jiddistingwi bejn rifjut ta’ politika tal-kontenut u ħsara teknika, għax it-tnejn jitolbu reazzjonijiet opposti: l-ewwel tirriżulta f’messaġġ lill-utent, it-tieni f’allert lit-tim tiegħek. Id-dokumentazzjoni ta’ OpenAI tispeċifika d-diskriminatur li għandu jintuża: rifjut ta’ moderazzjoni jasal bħala BadRequestError b’error.code ugwali għal moderation_blocked (tip image_generation_user_error), u l-korp taż-żball jista’ jkun fih oġġett moderation_details li jispeċifika l-istadju (input, output, jew unknown) u kategoriji ġenerali (harassment, sexual, violence…). Tiftitx kliem fil-messaġġ ta’ żball: it-test tiegħu mhuwiex kuntratt, il-kodiċi huwa. Il-funzjoni hawn taħt terġa’ tpoġġi l-eċċezzjoni biss jekk mhix rifjut ta’ moderazzjoni.
from openai import OpenAI, BadRequestError
client = OpenAI()
def generate_with_moderation(prompt: str, output: str) -> dict:
"""Tiġġenera immaġni waqt li timmaniġġja rifjuti ta' moderazzjoni."""
try:
response = client.images.generate(
model="gpt-image-2.5-sunburst",
prompt=prompt,
size="1024x1024",
quality="medium",
)
import base64
data = base64.b64decode(response.data[0].b64_json)
with open(output, "wb") as f:
f.write(data)
return {"status": "ok", "path": output}
except BadRequestError as e:
if e.code != "moderation_blocked":
raise # ħsara teknika, kwota, talba invalida: immaniġġja band'oħra
body = e.body if isinstance(e.body, dict) else {}
details = body.get("moderation_details") or {}
return {
"status": "refused",
"reason": "Kontenut irrifjutat mill-politika ta' sigurtà",
"stage": details.get("moderation_stage"), # input, output jew unknown
"categories": details.get("categories") or [], # għal-loggs tiegħek
}
result = generate_with_moderation(
"A kitten playing with a ball of yarn",
"kitten.png"
)
print(result)
OpenAI tissuġġerixxi li żżomm messaġġ ġeneriku għall-utent finali u tirriżerva moderation_details għal-loggs u s-sostenn tiegħek. Dawn l-iżbalji ma jsolvux billi tipprova mill-ġdid: mingħajr ma timmodifika l-prompt jew l-immaġni pprovduti, l-istess talba se tiġi rrifjutata mill-ġdid. Innota fl-aħħar nett li s-severità tal-iffiltrar hija stabbilita mill-parametru moderation tal-mudelli GPT Image: auto (iffiltrar standard, default) jew low (inqas restrittiv).
Pre-iffiltrar tal-Prompts
Li tistenna li GPT Image jirrifjuta prompt qabel ma tiskopri li kien problematiku mhix soluzzjoni sodisfaċenti: diġà kkunsmajt is-sejħa tal-API, u ma titgħallem xejn speċifiku dwar ir-raġuni. L-API tal-Moderazzjoni, madankollu, hija b’xejn, mgħaġġla, u tirritorna kategoriji msemmija. Is-sejħa tagħha qabel il-ġenerazzjoni tippermettilek tirrifjuta b’mod nadif, tispjega lill-utent x’inħataf, u żżomm din l-informazzjoni għall-awditu tiegħek. Il-funzjoni verify_prompt testratti l-lista ta’ kategoriji attivati, u generate_safe_image sempliċiment tgħaqqad iż-żewġ passi: iċċekkja l-ewwel, iġġenera t-tieni.
from openai import OpenAI
client = OpenAI()
def verify_prompt(prompt: str) -> dict:
"""Tiċċekkja prompt bl-API tal-Moderazzjoni qabel il-ġenerazzjoni."""
moderation = client.moderations.create(
model="omni-moderation-latest",
input=prompt
)
result = moderation.results[0]
if result.flagged:
categories_flagged = [
cat for cat, flagged in result.categories.__dict__.items()
if flagged
]
return {
"allowed": False,
"categories": categories_flagged,
"message": "Dan il-prompt inħataf mis-sistema ta' moderazzjoni."
}
return {"allowed": True}
def generate_safe_image(prompt: str, output: str):
"""Pipeline sħiħa: moderazzjoni + ġenerazzjoni."""
# Pass 1: pre-iffiltrar
check = verify_prompt(prompt)
if not check["allowed"]:
print(f"Prompt irrifjutat: {check['message']}")
print(f"Kategoriji: {check['categories']}")
return None
# Pass 2: ġenerazzjoni
print("Prompt ivvalidat, qed tiġġenera...")
return generate_with_moderation(prompt, output)
# Test b'prompt innoċwu
generate_safe_image(
"A mountain landscape with a crystal clear lake",
"mountain.png"
)
Iċċekkja wkoll l-Immaġni Ġġenerati
Prompt innoċwu jista’ jipproduċi immaġni li mhix. Frażi mdawra, l-ambigwità ta’ terminu, jew sempliċiment interpretazzjoni sfortunata tal-mudell biżżejjed biex jipproduċu kontenut viżiv li ma tridx turi taħt il-logo tiegħek. Il-mudell omni-moderation-latest jaċċetta immaġni bħala input, u jippermettilek tagħlaq iċ-ċirkolu: l-istess mekkaniżmu ta’ kategoriji japplika għall-fajl iġġenerat. Il-pipeline sħiħa hawn taħt tgħaqqad it-tliet fażijiet—iċċekkjar tal-prompt, ġenerazzjoni, iċċekkjar tal-immaġni—u kruċjalment, f’każ ta’ flag, tħassar il-fajl mid-disk qabel ma tirritorna l-verdett tagħha. Immaġni problematika mħallija fuq is-server “waqt li nħarsu” hija immaġni li eventwalment se tnixxi.
from openai import OpenAI
import base64
client = OpenAI()
def moderate_generated_image(image_path: str) -> dict:
"""Tanalizza immaġni ġġenerata biex tiskopri kontenut problematiku."""
with open(image_path, "rb") as f:
image_b64 = base64.b64encode(f.read()).decode()
moderation = client.moderations.create(
model="omni-moderation-latest",
input=[
{
"type": "image_url",
"image_url": {
"url": f"data:image/png;base64,{image_b64}"
}
}
]
)
result = moderation.results[0]
if result.flagged:
categories_flagged = [
cat for cat, flagged in result.categories.__dict__.items()
if flagged
]
return {
"safe": False,
"categories": categories_flagged
}
return {"safe": True}
def secure_pipeline(prompt: str, output: str):
"""Pipeline sħiħa: moderazzjoni tal-prompt + ġenerazzjoni + moderazzjoni tal-immaġni."""
# 1. Iċċekkja l-prompt
check_prompt = verify_prompt(prompt)
if not check_prompt["allowed"]:
return {"status": "prompt_refused", "details": check_prompt}
# 2. Iġġenera l-immaġni
response = client.images.generate(
model="gpt-image-2.5-sunburst",
prompt=prompt,
size="1024x1024",
quality="medium",
)
data = base64.b64decode(response.data[0].b64_json)
with open(output, "wb") as f:
f.write(data)
# 3. Iċċekkja l-immaġni ġġenerata
check_image = moderate_generated_image(output)
if not check_image["safe"]:
import os
os.remove(output)
return {
"status": "image_deleted",
"reason": "L-immaġni ġġenerata nħatfet",
"categories": check_image["categories"]
}
return {"status": "ok", "path": output}
Meta l-Utenti Jiktbu l-Prompts
Kontenut iġġenerat mill-utent ibiddel in-natura tal-problema: m’intiex qed tiffaċċja goffness iżda, f’daqqa waħda, tentattivi deliberati biex tiġi evitata s-sistema. Il-klassi PromptModerator timmuntar erba’ difiżi ta’ naturi differenti, li huwa l-prinċipju stess ta’ protezzjoni serja. It-tindif ineħħi karattri ta’ kontroll li minnhom jgħaddu l-injezzjonijiet u jillimita t-tul għal ħames mitt karattru, jaqta’ qasir prompts ta’ għargħar iddisinjati biex jegħrqu l-istruzzjonijiet. Verifika lokali permezz ta’ lista ta’ kliem ipprojbit—mitluqa, biex timtela skont il-politika u s-settur tiegħek—tinterċetta b’kost żero dak li diġà taf. L-API tal-Moderazzjoni mbagħad tieħu f’idejha kollox li l-lista tiegħek ma tbassritx. Fl-aħħar nett, il-prefiss tas-sigurtà kkatinat qabel il-prompt finali jfakkar espliċitament lill-mudell fil-qafas mistenni, iċaqlaq il-fruntiera favurek għal każijiet limitu.
from openai import OpenAI
import re
client = OpenAI()
class PromptModerator:
"""Filtru multi-saff għal prompts tal-utenti."""
def __init__(self):
self.forbidden_words = [] # Imla skont il-politika tiegħek
self.security_prefix = (
"Safe and appropriate image for all audiences. "
"No violent, sexual, or discriminatory content. "
)
def clean(self, prompt: str) -> str:
"""Inaddaf u jinnormalizza prompt tal-utent."""
# Neħħi injezzjonijiet potenzjali
prompt = prompt.strip()
# Illimita t-tul
prompt = prompt[:500]
# Neħħi karattri ta' kontroll
prompt = re.sub(r'[\x00-\x1f\x7f-\x9f]', '', prompt)
return prompt
def check_words(self, prompt: str) -> bool:
"""Tiċċekkja n-nuqqas ta' kliem ipprojbit."""
prompt_lower = prompt.lower()
for word in self.forbidden_words:
if word in prompt_lower:
return False
return True
def secure(self, prompt: str) -> str:
"""Iżid prefiss ta' sigurtà mal-prompt."""
return f"{self.security_prefix}{prompt}"
def pipeline(self, raw_prompt: str) -> dict:
"""Pipeline sħiħa ta' moderazzjoni għal prompt tal-utent."""
# Pass 1: tindif
prompt = self.clean(raw_prompt)
# Pass 2: verifika lokali
if not self.check_words(prompt):
return {"allowed": False, "reason": "Kliem ipprojbit skopert"}
# Pass 3: moderazzjoni tal-API
check = verify_prompt(prompt)
if not check["allowed"]:
return {"allowed": False, "reason": check["message"]}
# Pass 4: żid prefiss ta' sigurtà
final_prompt = self.secure(prompt)
return {"allowed": True, "prompt": final_prompt}
moderator = PromptModerator()
# Simula prompt tal-utent
result = moderator.pipeline("A tabby cat sleeping on a red cushion")
if result["allowed"]:
print(f"Prompt sikur: {result['prompt']}")
else:
print(f"Irrifjutat: {result['reason']}")
Reġistrazzjoni għar-Responsabbiltà
Il-jum li immaġni problematika terġa’ tiġi fid-dieher, il-mistoqsija li ssirlek hija: min talabha, meta, u x’għamel is-sistema tiegħek. Mingħajr loggs, m’għandek l-ebda tweġiba. AuditLogger jikteb linja JSON waħda għal kull ġenerazzjoni f’fajl .jsonl—format li jippermetti biss miżjud (append-only) li jappoġġja kitba konkorrenti u jista’ jinqara linja b’linja mingħajr ma jitgħabba kollox fil-memorja. Kull entrata torbot ID tal-utent ma’ prompt imqassar, ir-riżultat tal-ġenerazzjoni, u, jekk applikabbli, ir-raġuni għar-rifjut. Il-metodu report imbagħad jiddeduċi r-rata ta’ aċċettazzjoni fuq l-aħħar mitt ġenerazzjoni u jiddettalja r-rifjuti: din hija d-dashboard li twissik jekk kont partikolari jakkumula flags.
import json
import os
from datetime import datetime
class AuditLogger:
"""Log tal-awditu għal ġenerazzjonijiet ta' immaġni."""
def __init__(self, log_file: str = "audit_images.jsonl"):
self.log_file = log_file
def log(
self,
prompt: str,
user_id: str,
result: str,
image_path: str = None,
refusal_reason: str = None
):
"""Jikteb entrata tal-awditu."""
entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"prompt": prompt[:200],
"result": result, # "ok", "prompt_refused", "image_deleted"
"image_path": image_path,
"refusal_reason": refusal_reason,
}
with open(self.log_file, "a") as f:
f.write(json.dumps(entry, ensure_ascii=False) + "\n")
def report(self, last_n: int = 100):
"""Tiġġenera rapport tal-ġenerazzjonijiet riċenti."""
if not os.path.exists(self.log_file):
print("L-ebda log ma nstab.")
return
entries = []
with open(self.log_file, "r") as f:
for line in f:
entries.append(json.loads(line))
recent = entries[-last_n:]
total = len(recent)
ok = sum(1 for e in recent if e["result"] == "ok")
refused = sum(1 for e in recent if e["result"] != "ok")
print(f"Rapport tal-aħħar {total} ġenerazzjonijiet:")
print(f" Aċċettati: {ok} ({100*ok/total:.1f}%)")
print(f" Irrifjutati: {refused} ({100*refused/total:.1f}%)")
if refused > 0:
print(f"\nDettalji tar-rifjut:")
for e in recent:
if e["result"] != "ok":
print(f" [{e['timestamp'][:10]}] {e['user_id']} : {e['refusal_reason']}")
logger = AuditLogger()
logger.report()
Drittijiet tal-Awtur u Marki Kummerċjali
GPT Image jaf jipproduċi immaġni li jqajmu l-istil ta’ artist jew l-identità viżiva ta’ marka, u din il-kapaċità hija eżattament dak li jesponik. Il-moderazzjoni teknika ma tipproteġikx fuq dan il-pjan: ma tiskoprix li poster jixbah ħafna lil dak ta’ kompetitur. Il-protezzjoni għalhekk hija kuntrattwali u organizzattiva, tieħu l-forma ta’ politika ta’ użu miktuba u infurzabbli li l-utenti tiegħek jaċċettaw u t-tim tiegħek japplika. Il-blokk PRODUCTION_RULES jagħti l-formulazzjoni minima, biex tintwera fid-dokumentazzjoni tiegħek kif ukoll titfakkar fit-termini tiegħek.
# L-aħjar prattiki biex tintegra fil-politika ta' użu tiegħek
PRODUCTION_RULES = """
1. Titlobx imitazzjoni tal-istil ta' artist ħaj bl-isem
2. Tirriproduċix logos jew marki rreġistrati
3. Tiġġenerax wiċċ ta' nies reali
4. Żid avviż "Immaġni ġġenerata mill-AI" meta meħtieġ
5. Żomm il-loggs tal-ġenerazzjoni għal mill-inqas 12-il xahar
6. Ħalli lill-utenti jirrapportaw kontenut problematiku
"""
def usage_warning():
"""Juri r-regoli ta' użu tal-produzzjoni."""
print("=" * 60)
print("REGOLI TAL-PRODUZZJONI — Ġenerazzjoni ta' Immaġni bl-AI")
print("=" * 60)
print(PRODUCTION_RULES)
Konformità mal-GDPR
Għal kumpanija Ewropea, il-perjodi ta’ ritenzjoni u l-kunsens mhumiex għażliet ta’ konfigurazzjoni iżda obbligi li r-rispett tagħhom irid ikun dimostrabbli. Li tirreġistrahom f’oġġett ta’ konfigurazzjoni espliċitu, minflok ma tferrixhom fil-kodiċi, jagħtik post wieħed biex turi waqt awditu. ComplianceConfig għalhekk jistabbilixxi r-ritenzjoni tal-loggs għal sena, ir-ritenzjoni tal-immaġni għal disgħin jum, u jagħmel l-avviż tal-AI u l-kunsens obbligatorji. Il-metodu add_ai_metadata jistħoqqilu attenzjoni speċjali: jikteb fil-PNG innifsu, permezz ta’ PngInfo, il-fatt li l-immaġni hija ġġenerata, l-għodda li pproduċietha, u d-data. Dawn il-metadejta jivvjaġġaw mal-fajl, inkluż barra mill-pjattaforma tiegħek, li l-ebda avviż muri fuq paġna web ma jagħmel.
class ComplianceConfig:
"""Konfigurazzjoni ta' konformità għall-ġenerazzjoni tal-immaġni."""
def __init__(self):
self.log_retention_days = 365
self.image_retention_days = 90
self.ai_notice_mandatory = True
self.consent_required = True
def verify_consent(self, user_id: str) -> bool:
"""Tivverifika li l-utent ta l-kunsens għall-ġenerazzjoni bl-AI."""
# Implimenta mas-sistema ta' ġestjoni tal-kunsens tiegħek
return True
def add_ai_metadata(self, image_path: str):
"""Iżid metadejta li tindika ġenerazzjoni bl-AI."""
from PIL import Image
from PIL.PngImagePlugin import PngInfo
img = Image.open(image_path)
metadata = PngInfo()
metadata.add_text("AI-Generated", "true")
metadata.add_text("Generator", "GPT Image via OpenAI API")
metadata.add_text("Date", datetime.now().isoformat())
img.save(image_path, pnginfo=metadata)
print(f"Metadejta tal-AI miżjuda: {image_path}")
Qabel Ma Tiftaħ il-Komport
Tmien dispożizzjonijiet iridu jkunu fis-seħħ il-jum li s-sistema tiegħek issir aċċessibbli, u huwa aktar onest li titlobhom qabel milli wara. Moderazzjoni l-ewwel, fiż-żewġ fażijiet tagħha: pre-iffiltrar tal-prompts u post-verifika tal-immaġni, kif jagħmel secure_pipeline. Imbagħad il-loggs, sħaħ, li jassoċjaw kull ġenerazzjoni mal-prompt, l-awtur u r-riżultat tagħha—din hija l-unika prova tiegħek f’każ ta’ tilwima, u trid tiġi salvata indipendentement mill-immaġni nfushom, inkella purga tal-ħażna tieħu t-traċċabbiltà tiegħek magħha.
Imbagħad tiġi n-naħa tal-utent. Limitu ta’ rata għal kull kont jipprevjeni li abbonat wieħed jikkonsma l-baġit mensili tiegħek f’lejl wieħed, volontarjament jew permezz ta’ skritt miktub ħażin. L-informazzjoni dwar in-natura ġġenerata tal-immaġni tirrigwarda kemm il-ġustizzja kif ukoll, dejjem aktar, ir-restrizzjoni regolatorja; hija rduppjata b’markar tekniku fil-metadejta PNG jew EXIF tal-fajl. Id-dritt għat-tħassir jassumi li tista’ ssib u tħassar id-data kollha ta’ utent fuq talba sempliċi, li huwa possibbli biss jekk l-entrati tal-awditu tiegħek iġorru user_id. Fl-aħħar nett, iftaħ kanal ta’ rappurtar: l-utenti tiegħek dejjem jaraw x’inhu problematiku qablek, u li tieħdilhom il-mezzi biex jgħidulek ma jgħibx il-problema.
Issa assembla kollox f’servizz wieħed ta’ ġenerazzjoni tal-immaġni: pre-iffiltrar tal-prompts permezz tal-API tal-Moderazzjoni u lista ta’ kliem, prefiss ta’ sigurtà, post-verifika tal-immaġni prodotta, logg tal-awditu, u metadejta tal-AI fuq kull fajl. Ittestjah b’ħames prompts varjati, li mill-inqas wieħed minnhom irid jiġi rrifjutat—din hija l-unika mod biex tivverifika li l-guardrails tiegħek effettivament jaħdmu minflok ma jkunu sempliċiment preżenti fil-kodiċi.
Ittestja l-Għarfien Tiegħek
Ġenerazzjoni viżiva permezz tal-API: ivvalida r-riflessi qabel il-produzzjoni.
1. X'jippermettu l-inpainting u l-outpainting?
Tweġiba: L-inpainting jimmodifika żona speċifika ta’ immaġni eżistenti (jissostitwixxi, jikkoreġi); l-outpainting jestendi l-immaġni lil hinn mill-qafas oriġinali tagħha—żewġ edits immirati mingħajr ma terġa’ tiġġenera kollox.
2. X'jagħmel prompt viżiv avvanzat tajjeb?
Tweġiba: Iddeskrivi s-suġġett, il-kompożizzjoni, id-dawl u l-prospettiva—mhux biss it-tema: aktar ma l-prompt jifforma x-xena bħal direttur tal-fotografija, aktar l-immaġni tobgħod.
3. Kif taħdem b'mod effettiv permezz ta' iterazzjonijiet?
Tweġiba: Ibda b’ġenerazzjoni bażi, imbagħad itlob varjazzjonijiet immirati (stil, qafas, dettall) minflok ma terġa’ tikteb il-prompt mill-bidu—żomm dak li jaħdem, ibiddel biss id-differenza.
4. Liema lievi biex tottimizza l-ispejjeż tal-ġenerazzjoni?
Tweġiba: Adatta l-kwalità u r-riżoluzzjoni għall-ħtieġa reali (abbozzi baxxi, finali għoljin), illimita l-iterazzjonijiet b’prompts aħjar, u uża cache/uża mill-ġdid viżwali vvalidati.
5. Għaliex il-moderazzjoni tal-kontenut viżiv hija essenzjali?
Tweġiba: Għax l-API u t-termini tiegħek jimponu limiti (kontenut ipprojbit, nies reali, marki): l-iffiltrar tal-prompts u l-kontroll tal-outputs jipproteġu lill-utenti tiegħek u l-applikazzjoni tiegħek.
Iffrejma, itera, immexxi l-ispejjeż u l-konformità: il-produzzjoni viżiva hija pipeline—mhux tfigħ tad-dadi.