Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Móidearálú agus Sábháilteacht Ábhair Infheicthe

Ceacht 12 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Móidearálú agus Sábháilteacht Ábhair Infheicthe
  2. An Córas Intheagtha Móidearálta
  3. Scagadh Prompts Roimh Lámh
  4. Seiceáil na hÍomhánna Ginte Chomh Maith
  5. Nuair a Scríobhann Úsáideoirí na Prompts
  6. Logáil le haghaidh Cuntasachta
  7. Cóipcheart agus Trádmharcanna
  8. Comhlíonadh GDPR
  9. Sula nOsclaíonn tú na Geataí Tuile
  10. Tástáil do Chuid Eolais

Nuashonraithe an 3 Samhain 2026 bunaithe ar an treoir Image generation de chuid OpenAI: aithnítear diúltú móidearálta le error.code == "moderation_blocked", le réad roghnach moderation_details, ní le láithreacht na bhfocal safety nó content_policy i dteachtaireacht na hearráide; cuireadh an paraiméadar moderation leis (auto, low). Foinse: Image generation.

Nuashonrú an 2 Samhain 2026 — múnlaí íomhá. Cuireadh deireadh le gpt-image-1, arbh eiseamláir an cúrsa seo bunaidh air, ar an 23 Deireadh Fómhair 2026, agus scuirfear gpt-image-1.5, gpt-image-1-mini agus chatgpt-image-latest ar an 1 Nollaig 2026. Úsáideann na heiseamláirí anois gpt-image-2.5-sunburst, atá is cruinne d’eagarthóireacht; tá gpt-image-2.5-flare níos tapúla don ghiniúint chaighdeánach. Glacann an dá cheann leo cáilíochtaí xhigh agus max chomh maith. Tugann múnlaí GPT Image an íomhá i mbase64 i gcónaí: ní ghlactar leis an bparaiméadar response_format ó shean-mhúnlaí DALL·E agus baineadh as an gcód é. Foinse: Image generation (OpenAI).

Móidearálú agus Sábháilteacht Ábhair Infheicthe

Fad is a ghineann tú íomhánna duit féin, ábhar breithiúnais phearsanta is ea móidearálú. A luaithe a osclaíonn tú an ghiniúint d’úsáideoirí, éiríonn sé ina fhreagracht dlíthiúil agus ethiciúil a cheanglaíonn ort. Cuimsíonn an cheacht seo uirlisí móidearálta OpenAI, conas iad a shlabhrú i scagairí as a chéile, agus na bearta a chosnaíonn d’iarratas agus na daoine a úsáideann é araon.

An Córas Intheagtha Móidearálta

Diúltaíonn GPT Image ábhair áirithe leis féin—foréigean, ábhar gnéasach soiléir, i measc cinn eile—agus comharraíonn sé an diúltú sin le hearráid ar leith. Dá bhrí sin ní mór do do chód idirdhealú a dhéanamh idir diúltú de bharr beartas sábháilteachta agus teip theicniúil, toisc go nglaonn an dá chás frithghníomhartha contrártha: mar fhreagra mar fhreagra air sin teachtaireacht don úsáideoir, agus mar fhreagra ar an dara ceann foláireamh d’fhoireann. Sonraíonn doiciméadacht OpenAI an t-idirdhealtóir le húsáid: tagann diúltú móidearálta mar BadRequestError a bhfuil error.code cothrom le moderation_blocked aige (cineál image_generation_user_error), agus is féidir go mbeidh réad moderation_details i gcorp na hearráide a shonraíonn an chéim (input, output, nó unknown) agus catagóirí ginearálta (harassment, sexual, violence…). Ná lorg focail i dteachtaireacht na hearráide: ní conradh é a téacs, is é an cód atá ann. Ath-mhúscailann an fheidhm thíos an eisceacht ach amháin mura diúltú móidearálta í.

from openai import OpenAI, BadRequestError

client = OpenAI()

def generate_with_moderation(prompt: str, output: str) -> dict:
    """Generates an image while handling moderation refusals."""
    try:
        response = client.images.generate(
            model="gpt-image-2.5-sunburst",
            prompt=prompt,
            size="1024x1024",
            quality="medium",
        )

        import base64
        data = base64.b64decode(response.data[0].b64_json)
        with open(output, "wb") as f:
            f.write(data)

        return {"status": "ok", "path": output}

    except BadRequestError as e:
        if e.code != "moderation_blocked":
            raise  # technical failure, quota, invalid request: handle elsewhere
        body = e.body if isinstance(e.body, dict) else {}
        details = body.get("moderation_details") or {}
        return {
            "status": "refused",
            "reason": "Content refused by safety policy",
            "stage": details.get("moderation_stage"),        # input, output or unknown
            "categories": details.get("categories") or [],  # for your logs
        }


result = generate_with_moderation(
    "A kitten playing with a ball of yarn",
    "kitten.png"
)
print(result)

Molann OpenAI teachtaireacht ghinearálta a choinneáil don úsáideoir deiridh agus moderation_details a chur in áirithe do do logaí agus don tacaíocht. Ní réitítear na hearráidí seo le triail eile: gan an prompt ná na híomhánna soláthartha a athrú, diúltfar don iarratas céanna arís. Tabhair faoi deara fosta go socraítear géire an scagaire leis an bparaiméadar moderation de chuid múnlaí GPT Image: auto (scagadh caighdeánach, an réamhshocrú) nó low (níos lú sriantúil).

Scagadh Prompts Roimh Lámh

Fan go dtí go ndiúltaíonn GPT Image prompt sula bhfaigheann tú amach go raibh sé fadhbúil — toradh neamhshásamhach é: tá an glaoch API ídithe agat cheana, agus ní fhoghlaimíonn tú aon rud sonrach faoin gcúis. Ach tá API Moderation saor, tapa, agus tugann sé catagóirí ainmnithe ar ais. Ceadaíonn glaoch air roimh ghiniúint duit diúltú glan, a mhíniú don úsáideoir cén rud a brathadh, agus an t-eolas sin a choinneáil d’iniúchadh. Baineann an fheidhm verify_prompt liosta na gcatagóirí spreagtha amach, agus slabhraíonn generate_safe_image an dá chéim go simplí: seiceáil ar dtús, giniúint sa dara háit.

from openai import OpenAI

client = OpenAI()

def verify_prompt(prompt: str) -> dict:
    """Checks a prompt with the Moderation API before generation."""
    moderation = client.moderations.create(
        model="omni-moderation-latest",
        input=prompt
    )

    result = moderation.results[0]

    if result.flagged:
        categories_flagged = [
            cat for cat, flagged in result.categories.__dict__.items()
            if flagged
        ]
        return {
            "allowed": False,
            "categories": categories_flagged,
            "message": "This prompt was flagged by the moderation system."
        }

    return {"allowed": True}


def generate_safe_image(prompt: str, output: str):
    """Complete pipeline: moderation + generation."""
    # Step 1: pre-filtering
    check = verify_prompt(prompt)

    if not check["allowed"]:
        print(f"Prompt refused: {check['message']}")
        print(f"Categories: {check['categories']}")
        return None

    # Step 2: generation
    print("Prompt validated, generating...")
    return generate_with_moderation(prompt, output)


# Test with a harmless prompt
generate_safe_image(
    "A mountain landscape with a crystal clear lake",
    "mountain.png"
)

Seiceáil na hÍomhánna Ginte Chomh Maith

Is féidir le prompt neamhchiontach íomhá nach neamhchiontach a thabhairt. Is leor foclóireacht chas, déchiallas téarma, nó léirmhíniú mí-ádhúil amháin ón múnla chun ábhar infheicthe nach mbeadh tú sásta a thaispeáin faoi do lógó a ghiniúint. Glacann an múnla omni-moderation-latest íomhánna mar ionchur, rud a ligeann duit an lúb a dhúnadh: baineann mheicnic na gcatagóirí céanna leis an gcomhad ginte. Slabhraíonn an phíobhlíne iomlán thíos na trí chéim—seiceáil an prompt, giniúint, seiceáil na híomhá—agus, rud ríthábhachtach, i gcás brataithe scriosann sí an comhad ón diosca sula bhfilleann sí ar a breithiúnas. Is íomhá a sceolfaidh sa deireadh í íomhá fhadhbúil a fhágáil ar an bhfreastalaí “fad is a fhéachaimid”.

from openai import OpenAI
import base64

client = OpenAI()

def moderate_generated_image(image_path: str) -> dict:
    """Analyzes a generated image to detect problematic content."""
    with open(image_path, "rb") as f:
        image_b64 = base64.b64encode(f.read()).decode()

    moderation = client.moderations.create(
        model="omni-moderation-latest",
        input=[
            {
                "type": "image_url",
                "image_url": {
                    "url": f"data:image/png;base64,{image_b64}"
                }
            }
        ]
    )

    result = moderation.results[0]

    if result.flagged:
        categories_flagged = [
            cat for cat, flagged in result.categories.__dict__.items()
            if flagged
        ]
        return {
            "safe": False,
            "categories": categories_flagged
        }

    return {"safe": True}


def secure_pipeline(prompt: str, output: str):
    """Complete pipeline: prompt moderation + generation + image moderation."""
    # 1. Check the prompt
    check_prompt = verify_prompt(prompt)
    if not check_prompt["allowed"]:
        return {"status": "prompt_refused", "details": check_prompt}

    # 2. Generate the image
    response = client.images.generate(
        model="gpt-image-2.5-sunburst",
        prompt=prompt,
        size="1024x1024",
        quality="medium",
    )

    data = base64.b64decode(response.data[0].b64_json)
    with open(output, "wb") as f:
        f.write(data)

    # 3. Check the generated image
    check_image = moderate_generated_image(output)
    if not check_image["safe"]:
        import os
        os.remove(output)
        return {
            "status": "image_deleted",
            "reason": "Generated image was flagged",
            "categories": check_image["categories"]
        }

    return {"status": "ok", "path": output}

Nuair a Scríobhann Úsáideoirí na Prompts

Athraíonn ábhar a ghineann úsáideoirí nádúr na faidhbe: níl tú os comhair botún bocht a thuilleadh ach, uaireanta, iarrthanna socraithe chun na srianta a sheachaint. Carnann an class PromptModerator ceithre chosaint de nádúir éagsúla, agus sin díreach prionsabal cosanta dáiríre. Baineann an ghlanadh na carachtáil rialaithe a dtarchuireann instealltaí tríothu agus cuireann sé teorainn leis an fhad ag cuig chéad carachtar, rud a ghearrann deireadh le prompts tuile atá deartha chun treoracha a bhatháil. Gabhann an fhíordheimhniú áitiúil trí liosta focal toirmiscthe—fág folamh é, le líonadh de réir do pholasaí agus d’earnála—na rudaí a bhfuil a fhios agat cheana, gan chostas ar bith. Ansin glacann API Moderation léi gach nár thuar an liosta. Faoi dheireadh, cuimhníonn an réimír slándála a chuirtear roimh an prompt deiridh go follasach ar an gcreat atá ag teastáil ar an múnla, agus aistríonn sé an teorainn i do fhabhar in imeallchásanna.

from openai import OpenAI
import re

client = OpenAI()

class PromptModerator:
    """Multi-layer filter for user prompts."""

    def __init__(self):
        self.forbidden_words = []  # Fill according to your policy
        self.security_prefix = (
            "Safe and appropriate image for all audiences. "
            "No violent, sexual, or discriminatory content. "
        )

    def clean(self, prompt: str) -> str:
        """Cleans and normalizes a user prompt."""
        # Remove potential injections
        prompt = prompt.strip()
        # Limit length
        prompt = prompt[:500]
        # Remove control characters
        prompt = re.sub(r'[\x00-\x1f\x7f-\x9f]', '', prompt)
        return prompt

    def check_words(self, prompt: str) -> bool:
        """Checks for absence of forbidden words."""
        prompt_lower = prompt.lower()
        for word in self.forbidden_words:
            if word in prompt_lower:
                return False
        return True

    def secure(self, prompt: str) -> str:
        """Adds a security prefix to the prompt."""
        return f"{self.security_prefix}{prompt}"

    def pipeline(self, raw_prompt: str) -> dict:
        """Complete moderation pipeline for a user prompt."""
        # Step 1: cleaning
        prompt = self.clean(raw_prompt)

        # Step 2: local verification
        if not self.check_words(prompt):
            return {"allowed": False, "reason": "Forbidden word detected"}

        # Step 3: API moderation
        check = verify_prompt(prompt)
        if not check["allowed"]:
            return {"allowed": False, "reason": check["message"]}

        # Step 4: add security prefix
        final_prompt = self.secure(prompt)

        return {"allowed": True, "prompt": final_prompt}


moderator = PromptModerator()

# Simulate a user prompt
result = moderator.pipeline("A tabby cat sleeping on a red cushion")
if result["allowed"]:
    print(f"Secure prompt: {result['prompt']}")
else:
    print(f"Refused: {result['reason']}")

Logáil le haghaidh Cuntasachta

An lá a dtagfaidh íomhá fhadhbúil chun solais arís, seo an cheist a chuirfí ort: cé a d’iarr í, cathain, agus cad a rinne do chóras. Gan logaí, níl freagra ar bith agat. Scríobann AuditLogger líne JSON amháin in aghaidh gach giniúna in comhad .jsonl—formáid append-only a tacaíonn le scríobh comhthreomhar agus is féidir a léamh líne ar líne gan gach rud a luchtú isteach sa chuimhne. Nascann gach iontráil aitheantóir úsáideora le prompt gearrtha, le toradh na giniúna, agus, más gá, le cúis an diúltaithe. Díorthaíonn an modh report ansin an ráta glactha thar na céad ghiniúna is déanaí agus sonraíonn sé na diúltuithe: seo é an deais-chlár a chuirfidh foláireamh ort má charnann cuntas ar leith brataithe.

import json
import os
from datetime import datetime

class AuditLogger:
    """Audit log for image generations."""

    def __init__(self, log_file: str = "audit_images.jsonl"):
        self.log_file = log_file

    def log(
        self,
        prompt: str,
        user_id: str,
        result: str,
        image_path: str = None,
        refusal_reason: str = None
    ):
        """Logs an audit entry."""
        entry = {
            "timestamp": datetime.now().isoformat(),
            "user_id": user_id,
            "prompt": prompt[:200],
            "result": result,  # "ok", "prompt_refused", "image_deleted"
            "image_path": image_path,
            "refusal_reason": refusal_reason,
        }

        with open(self.log_file, "a") as f:
            f.write(json.dumps(entry, ensure_ascii=False) + "\n")

    def report(self, last_n: int = 100):
        """Generates a report of recent generations."""
        if not os.path.exists(self.log_file):
            print("No logs found.")
            return

        entries = []
        with open(self.log_file, "r") as f:
            for line in f:
                entries.append(json.loads(line))

        recent = entries[-last_n:]

        total = len(recent)
        ok = sum(1 for e in recent if e["result"] == "ok")
        refused = sum(1 for e in recent if e["result"] != "ok")

        print(f"Report of last {total} generations:")
        print(f"  Accepted: {ok} ({100*ok/total:.1f}%)")
        print(f"  Refused   : {refused} ({100*refused/total:.1f}%)")

        if refused > 0:
            print(f"\nRefusal details:")
            for e in recent:
                if e["result"] != "ok":
                    print(f"  [{e['timestamp'][:10]}] {e['user_id']} : {e['refusal_reason']}")


logger = AuditLogger()
logger.report()

Cóipcheart agus Trádmharcanna

Tá a fhios ag GPT Image íomhánna a chruthú a thagann chun cuimhne stíl ealaíontóra nó céannacht infheicthe branda, agus is é an cumas sin díreach a nochtann thú. Ní chosnaíonn móidearálú teicniúil thú ar an talamh seo: ní bhrathann sé go bhfuil poster an-chosúil le poster iomaitheora. Mar sin, is cosaint chonarthach agus eagraíochtúil atá ann, i bhfoirm polasaí úsáide scríofa, in-fhorghníomhaithe a nglacann d’úsáideoirí leis agus a chuireann d’fhoireann i bhfeidhm. Tugann an bloc PRODUCTION_RULES an fhoirmiú is lú, le taispeáint i do dhoiciméadacht chomh maith lena lua i do théarmaí úsáide.

# Best practices to integrate into your usage policy

PRODUCTION_RULES = """
1. Do not request imitation of a living artist's style by name
2. Do not reproduce logos or registered trademarks
3. Do not generate faces of real people
4. Add an "AI-generated image" notice when required
5. Retain generation logs for at least 12 months
6. Allow users to report problematic content
"""

def usage_warning():
    """Displays production usage rules."""
    print("=" * 60)
    print("PRODUCTION RULES — AI Image Generation")
    print("=" * 60)
    print(PRODUCTION_RULES)

Comhlíonadh GDPR

I gcuideachta Eorpach, ní roghanna cumraíochta iad tréimhsí coinneála agus toilithe ach oibleagáidí a gcaithfear a n-urram a chruthú. Nuair a chuirtear i réad cumraíochta soiléir iad, in ionad iad a scaipeadh ar fud an chóid, faigheann tú áit amháin le taispeáint le linn iniúchta. Socraíonn ComplianceConfig mar sin coinneáil logaí ag bliain, coinneáil íomhánna ag nocha lá, agus déanann an fógra AI agus an toliú éigeantach. Is fiú aire ar leith an modh add_ai_metadata: scríobhann sé isteach sa PNG féin, trí PngInfo, go bhfuil an íomhá ghinte, an uirlis a tháirg í, agus an dáta. Taistealaíonn na meiteashonraí seo leis an gcomhad, fiú amháin lasmuigh d’ardán, rud nach dhéanann aon fhógra a thaispeántar ar leathanach gréasáin.

class ComplianceConfig:
    """Compliance configuration for image generation."""

    def __init__(self):
        self.log_retention_days = 365
        self.image_retention_days = 90
        self.ai_notice_mandatory = True
        self.consent_required = True

    def verify_consent(self, user_id: str) -> bool:
        """Verifies that the user has consented to AI generation."""
        # Implement with your consent management system
        return True

    def add_ai_metadata(self, image_path: str):
        """Adds metadata indicating AI generation."""
        from PIL import Image
        from PIL.PngImagePlugin import PngInfo

        img = Image.open(image_path)
        metadata = PngInfo()
        metadata.add_text("AI-Generated", "true")
        metadata.add_text("Generator", "GPT Image via OpenAI API")
        metadata.add_text("Date", datetime.now().isoformat())
        img.save(image_path, pnginfo=metadata)
        print(f"AI metadata added: {image_path}")

Sula nOsclaíonn tú na Geataí Tuile

Ní mór ocht gcéim a bheith ar bun an lá éiríonn do chóras inrochtana, agus is macánta iarracht a dhéanamh orthu roimh am seachas i ndiaidh ama. Móidearálú ar dtús, ina dhá chéim: réamhscagadh prompts agus iarfhíordheimhniú íomhánna, mar a dhéanann secure_pipeline. Logáil ina dhiaidh sin, iomlán, a nascann gach giniúna lena prompt, lena húdar agus lena toradh—sin an t-aon chruthúnas atá agat i gcás conspóide, agus ní mór é a shábháil go neamhspleách ar na híomhánna féin, ar shlí eile imróidh glanadh stórais d’in-riantheacht leis.

Tagann taobh an úsáideora ansin. Cuireann teorainn ráta in aghaidh an chuntais cosc ar sintiúsóir amháin do bhuisnéad míosúil a ídi thar oíche amháin, de thoil féin nó trí script dro-chumtha. Baineann eolas faoi nádúr ginte na n-íomhánna le honóir agus, níos mó agus níos mó, le sriant rialúil; déantar é a dhúbailt le marcáil theicniúil i meiteashonraí PNG nó EXIF an chomhaid. Glacann an ceart scriosta de go bhfuil tú in ann gach sonra úsáideora a aimsiú agus a scriosadh ar iarratas simplí, rud nach bhfuil indéanta ach amháin má iompraíonn d’iontrálacha iniúchta user_id. Ar deireadh, oscail cainéal tuairisciúcháin: feicfidh d’úsáideoirí an rud atá fadhbúil sula bhfeicfidh tú féin é, agus ní chuireann an uirlis a thógáil uathu chun é a insint duit an fhadhb as radharc.

Anois cuir an t-iomlán le chéile i seirbhís amháin giniúna íomhánna: réamhscagadh prompts trí API Moderation agus trí liosta focal, réimír slándála, iarfhíordheimhniú na híomhá táirgthe, loga iniúchta, agus meiteashonraí AI ar gach comhad. Tástáil le cúig prompt éagsúla é, ceann acu ar a laghad a dhiúltófar—sin an t-aon bhealach chun a fhíorú go n-oibríonn do ghreiminní sábháilteachta i ndáiríre seachas a bheith le feiceáil sa gcód amháin.

Tástáil do Chuid Eolais

Giniúint infheicthe trí API: bailíochtaigh frithghníomhartha roimh tháirgeadh.

1. Cad a cheadaíonn inpainting agus outpainting?

Freagra: Athraíonn inpainting réigiún ar leith in íomhá atá ann cheana (ionadaigh, ceartaigh); leathnaíonn outpainting an íomhá thar a fráma bunaidh—dhá chur in eagar spriocdhírithe gan gach rud a ghiniúint arís.

2. Cad a dhéanann an-deas prompt infheicthe forasraithe?

Freagra: Tabhair cur síos ar an ábhar, ar an gcomhdhéanamh, ar an soilsiú agus ar an peirspictíocht—ní ar an téama amháin: dá gcosúla an prompt le treoir ó stiúrthóir grianghraif, is amhlaidh is mó a leanann an íomhá thú.

3. Conas a oibríonn tú go héifeachtach trí athruithe?

Freagra: Tosaigh le giniúint bhunúsach, ansin iarr athróga spriocdhírithe (stíl, frámiú, mionsonra) in ionad an prompt a athscríobh ó bhun—coimeád an méid a n-oibríonn, agus gan ach an bhearn a choigeartú.

4. Cén sleasa a úsáidfí chun costais ghiniúna a bharrfheabhsú?

Freagra: Oiriúnaigh an cháilíocht agus an taifeach don fhíorghá (dréachtaí ag íseal, leaganacha deiridh ag ard), teorainn leis na hathráite le prompts níos fearr, agus taisceanaigh/athúsáid na hábhair infheicthe a cheadaíodh.

5. Cén fáth a bhfuil móidearálú ábhair infheicthe bunúsach?

Freagra: Toisc go gcuireann an API agus do théarmaí teorainneacha air (ábhar toirmiscthe, daoine fíora, brandaí): cosnaíonn scagadh na bprompt agus rialú na n-aschur d’úsáideoirí agus d’iarratas araon.

Creat, athruithe, smacht ar chostais agus ar chomhlíonadh: píobhlíne í táirgeadh infheicthe—ní caitheamh dísle.