Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Sainigh do Bheartas Ábhair

Ceacht 9 as 12 Nuashonraithe 29 Iúil 2026 Forbróir
Ar an leathanach seo
  1. Cén fáth a dteastaíonn Beartas Ábhair Foirmiúil uait
  2. Tairseacha a Oiriúnú do Chomhthéacs an Fheidhmchláir
  3. An Beartas a Fhoirmiú mar Dhoiciméad
  4. Bainistíocht Ilfheidhmchlár
  5. Athbhreithniú agus Nuashonruithe
  6. Príomhphointí

Nuashonraithe an 3 Samhain, 2026. Bhain polasaithe roimhe seo úsáid as trí chatagóir nach raibh ann (hate, violence, unpredictable) agus d’fhág siad dangerous ar lár. Tá siad ailínithe anois leis an aon eochair déag ó mistral-moderation-2603. Tiontaíonn modh anois beartas go formáid oifigiúil an pharaiméadair guardrails, rud a chinntíonn go gcuirtear tairseacha comhsheasmhacha i bhfeidhm roimh ghiniúint. Foinse: Moderation & Guardrailing · SDK mistralai 3.7.0.

Cén fáth a dteastaíonn Beartas Ábhair Foirmiúil uait

Ní roghanna teicniúla treallacha iad tairseacha measúnaithe. Is léiriú iad ar bheartas ábhair—tacar rialacha a shainíonn cad a cheadaíonn agus a chuireann do fheidhmchlár in απαγορεύ. Gan beartas foirmiúil, déanann gach forbróir a chinntí féin, agus cailleann do chóras slándála comhsheasmhacht: críochnaíonn dhá sheirbhís laistigh den chomhlacht céanna ag blocáil ábhair éagsúla, gan a fhios ag aon duine cén fáth.

Ligeann beartas scríofa duit cinntí measúnaithe a chosaint do úsáideoirí agus do rialálaithe araon, tairseacha a chomhchuibhiú thar fhoirne agus feidhmchláir, comhlíonadh an chórais a iniúchadh, agus athruithe a dhéanamh ar bhealach struchtúrtha de réir mar a athraíonn riachtanais. An lá a dhéanann úsáideoir dúshlán ar bhlocáil, is difríocht ollmhór atá idir “tá an tairseach socraithe ag 0.1” agus “socraíonn ár mBeartas Poiblí v1.2 an tairseach seo ar an gcúis seo”.

Tairseacha a Oiriúnú do Chomhthéacs an Fheidhmchláir

D’fhéadfadh an t-ábhar céanna a bheith inghlactha i gcomhthéacs amháin agus contúirteach i gcomhthéacs eile. Caithfidh do bheartas na nuansaí seo a léiriú. Is é an bealach is fearr chun é seo a bhaint amach ná gach próifíl a chur síos mar oibiacht ainmnithe, dátaithe agus doiciméadaithe, seachas foclóir gan ainm a chailltear sa chód.

I gcás chatbot atá oscailte don phobal, tá an riail simplí: dian ar gach rud, leis an tsábháilteacht mar phríomhthosaíocht. Níl a fhios agat faoin duine ar an taobh eile, agus d’fhéadfadh mionaoisigh a bheith i láthair.

# Policy: Strict on everything, safety first
POLICY_PUBLIC = {
    "name": "Public-Facing",
    "description": "Chatbot accessible to all, including minors",
    "thresholds": {
        "sexual": 0.1,
        "hate_and_discrimination": 0.1,
        "violence_and_threats": 0.1,
        "dangerous": 0.1,
        "criminal": 0.1,
        "selfharm": 0.1,
        "health": 0.2,
        "financial": 0.2,
        "law": 0.2,
        "pii": 0.1,
        "jailbreaking": 0.1,
    },
    "block_action": "generic_message",
    "logging": "full"
}

Athraíonn cúntóir inmheánach an cluiche ar phointe amháin: tá úsáideoirí fíoraithe, rud a chiallaíonn go bhfuil siad inaitheanta agus cuntasach. Ligeann sé seo do thairseacha níos solúbtha, go háirithe ar financial agus law socraithe ag 0.6, ós rud é nach bhfuil i bhfostaí ag cur ceisteanna don chúntóir faoi struchtúr conartha ach a chuid oibre a dhéanamh.

# Policy: Balanced, identified users
POLICY_INTERNAL = {
    "name": "Internal B2B",
    "description": "Assistant for authenticated employees",
    "thresholds": {
        "sexual": 0.2,
        "hate_and_discrimination": 0.15,
        "violence_and_threats": 0.3,
        "dangerous": 0.2,
        "criminal": 0.15,
        "selfharm": 0.15,
        "health": 0.5,
        "financial": 0.6,
        "law": 0.6,
        "pii": 0.3,
        "jailbreaking": 0.15,
    },
    "block_action": "detailed_message",
    "logging": "full"
}

Tugann uirlis speisialaithe—leighis, dlíthiúil nó airgeadais—an loighic seo chun críche: an-liobrálach laistigh dá fearann, dian ar gach áit eile. Sa sampla leighis, éiríonn health go 0.85 toisc gurb é feidhm na huirlise díospóireacht a dhéanamh ar dhiagnóisí, cé go dtiteann pii go 0.15 toisc nach mór do shonraí othair dul i gciorcal riamh. Cuirtear dhá eilimint nach raibh i mbeartais roimhe seo leis anseo: mód blocála le atreorú agus séanadh sainráite.

# Policy: Permissive on domain, strict elsewhere
POLICY_MEDICAL = {
    "name": "Medical Assistant",
    "description": "Tool for healthcare professionals",
    "thresholds": {
        "sexual": 0.2,
        "hate_and_discrimination": 0.1,
        "violence_and_threats": 0.3,
        "dangerous": 0.1,
        "criminal": 0.1,
        "selfharm": 0.3,
        "health": 0.85,    # Very permissive: legitimate domain
        "financial": 0.3,
        "law": 0.4,
        "pii": 0.15,       # Strict: patient data
        "jailbreaking": 0.1,
    },
    "block_action": "detailed_message_with_redirect",
    "logging": "full_with_audit",
    "disclaimer": "This tool does not replace medical advice."
}

An Beartas a Fhoirmiú mar Dhoiciméad

Caithfidh do bheartas ábhair a bheith ina dhoiciméad leaganaithe atá inrochtana ag gach foireann. I bPython, aistrítear é seo go dtí aicme a iompraíonn an uimhir leagain agus an dáta athbhreithnithe in éineacht leis na tairseacha, agus atá in ann scóir a mheas agus an teachtaireacht bhlocála a ghiniúint a fhreagraíonn don mhód dearbhaithe.

from mistralai.client.models import GuardrailConfigTypedDict


class ContentPolicy:
    """Structured representation of a content policy."""

    def __init__(self, config: dict):
        self.name = config["name"]
        self.description = config["description"]
        self.thresholds = config["thresholds"]
        self.block_action = config["block_action"]
        self.logging = config["logging"]
        self.version = config.get("version", "1.0.0")
        self.revision_date = config.get("revision_date", "2026-04-01")

    def evaluate(self, scores: dict) -> dict:
        """Evaluates scores against the policy."""
        violations = []
        for cat, threshold in self.thresholds.items():
            score = scores.get(cat, 0)
            if score > threshold:
                violations.append({
                    "category": cat,
                    "score": round(score, 3),
                    "threshold": threshold
                })

        return {
            "policy": self.name,
            "version": self.version,
            "allowed": len(violations) == 0,
            "violations": violations
        }

    def block_message(self, violations: list) -> str:
        """Generates an appropriate blocking message."""
        if self.block_action == "generic_message":
            return "This content cannot be processed."
        elif self.block_action == "detailed_message":
            cats = ", ".join(v["category"] for v in violations)
            return (f"Content blocked for the following reasons: "
                    f"{cats}. Please rephrase your request.")
        return "Content blocked."

    def to_guardrails(self) -> list[GuardrailConfigTypedDict]:
        """Translates the policy into the guardrails parameter for the Mistral API."""
        return [
            {
                "block_on_error": True,
                "moderation_llm_v2": {
                    "custom_category_thresholds": self.thresholds,
                    "ignore_other_categories": False,
                    "action": "block",
                },
            }
        ]

Déanann an modh to_guardrails an beartas a thiontú ina fhoinse amháin fírinne do guardrails: client.chat.complete(..., guardrails=policy.to_guardrails()) nó client.beta.agents.create(..., guardrails=policy.to_guardrails()). Ní féidir le tairseacha a chuirtear i bhfeidhm roimh agus tar éis giniúna teacht chun bheith difriúil a thuilleadh.

Tabhair faoi deara freisin go n-áirítear ainm agus leagan an bheartais a cuireadh i bhfeidhm i dtorthaí evaluate. Ligeann an mionsonra seo duit, sé mhí ina dhiaidh sin, cinneadh conspóideach a athsheinm ag fiosrú go beacht faoi cé acu réimeas ar rinneadh é.

Bainistíocht Ilfheidhmchlár

Má bhainistíonn do chomhlacht ilfheidhmchlár, déan bainistíocht an bheartais a lárnú. Déanann an bainisteoir thíos dhá rud úsáideach: diúltaíonn sé go sainráite freastal ar fheidhmchlár gan beartas dearbhaithe, rud a chuireann cosc ar imlonnú gan líonraí sábháilteachta, agus táirgeann sé tuarascáil chomhlíontachta a liostaíonn leagan gach feidhmchláir agus an dáta athbhreithnithe deireanach—go díreach an rud a iarrfaidh iniúchóir.

class PolicyManager:
    """Manages content policies for multiple applications."""

    def __init__(self):
        self.policies = {}

    def register(self, app_id: str, policy: ContentPolicy):
        """Registers a policy for an application."""
        self.policies[app_id] = policy

    def get(self, app_id: str) -> ContentPolicy:
        """Retrieves the policy for an application."""
        if app_id not in self.policies:
            raise ValueError(f"No policy for {app_id}")
        return self.policies[app_id]

    def compliance_report(self) -> dict:
        """Generates a global compliance report."""
        return {
            app_id: {
                "name": pol.name,
                "version": pol.version,
                "revision_date": pol.revision_date,
                "categories_covered": len(pol.thresholds)
            }
            for app_id, pol in self.policies.items()
        }

# Usage
manager = PolicyManager()
manager.register("chatbot-public",
    ContentPolicy(POLICY_PUBLIC))
manager.register("assistant-medical",
    ContentPolicy(POLICY_MEDICAL))

Athbhreithniú agus Nuashonruithe

Níl do bheartas cloíte i gcloch. Is é an botún is coitianta ná é a scríobh uair amháin agus ansin dearmad a dhéanamh air. Socraigh rithim: gach seachtain, déan anailís ar dheimhneacha bréagacha agus ar dhiúltacha bréagacha a tuairiscíodh i do logaí; gach mí, coigeartaigh tairseacha bunaithe ar mhéadrachtaí carntha; gach ráithe, déan athbhreithniú iomlán le geallsealbhóirí gnó, dlí agus táirge. Cuir leis seo riail neamh-idirbheartaithe: tar éis gach teagmhais, déan iar-mhartan agus cuir ceartú láithreach i bhfeidhm, gan fanacht leis an gcéad athbhreithniú sceidealta eile.

Príomhphointí

  • Aistríonn beartas ábhair do thairseacha teicniúla go rialacha gnó
  • Oiriúnaigh tairseacha don chomhthéacs: oscailte don phobal, inmheánach, speisialaithe
  • Foirmigh an beartas i ndoiciméad leaganaithe
  • Lárnaigh an bhainistíocht má tá ilfheidhmchlár agat
  • Déan athbhreithniú go rialta—caithfidh an beartas éabhlóidiú in éineacht le do tháirge