Sainigh do Bheartas Ábhair
Ar an leathanach seo
Nuashonraithe an 3 Samhain, 2026. Bhain polasaithe roimhe seo úsáid as trí chatagóir nach raibh ann (
hate,violence,unpredictable) agus d’fhág siaddangerousar lár. Tá siad ailínithe anois leis an aon eochair déag ómistral-moderation-2603. Tiontaíonn modh anois beartas go formáid oifigiúil an pharaiméadairguardrails, rud a chinntíonn go gcuirtear tairseacha comhsheasmhacha i bhfeidhm roimh ghiniúint. Foinse: Moderation & Guardrailing · SDKmistralai3.7.0.
Cén fáth a dteastaíonn Beartas Ábhair Foirmiúil uait
Ní roghanna teicniúla treallacha iad tairseacha measúnaithe. Is léiriú iad ar bheartas ábhair—tacar rialacha a shainíonn cad a cheadaíonn agus a chuireann do fheidhmchlár in απαγορεύ. Gan beartas foirmiúil, déanann gach forbróir a chinntí féin, agus cailleann do chóras slándála comhsheasmhacht: críochnaíonn dhá sheirbhís laistigh den chomhlacht céanna ag blocáil ábhair éagsúla, gan a fhios ag aon duine cén fáth.
Ligeann beartas scríofa duit cinntí measúnaithe a chosaint do úsáideoirí agus do rialálaithe araon, tairseacha a chomhchuibhiú thar fhoirne agus feidhmchláir, comhlíonadh an chórais a iniúchadh, agus athruithe a dhéanamh ar bhealach struchtúrtha de réir mar a athraíonn riachtanais. An lá a dhéanann úsáideoir dúshlán ar bhlocáil, is difríocht ollmhór atá idir “tá an tairseach socraithe ag 0.1” agus “socraíonn ár mBeartas Poiblí v1.2 an tairseach seo ar an gcúis seo”.
Tairseacha a Oiriúnú do Chomhthéacs an Fheidhmchláir
D’fhéadfadh an t-ábhar céanna a bheith inghlactha i gcomhthéacs amháin agus contúirteach i gcomhthéacs eile. Caithfidh do bheartas na nuansaí seo a léiriú. Is é an bealach is fearr chun é seo a bhaint amach ná gach próifíl a chur síos mar oibiacht ainmnithe, dátaithe agus doiciméadaithe, seachas foclóir gan ainm a chailltear sa chód.
I gcás chatbot atá oscailte don phobal, tá an riail simplí: dian ar gach rud, leis an tsábháilteacht mar phríomhthosaíocht. Níl a fhios agat faoin duine ar an taobh eile, agus d’fhéadfadh mionaoisigh a bheith i láthair.
# Policy: Strict on everything, safety first
POLICY_PUBLIC = {
"name": "Public-Facing",
"description": "Chatbot accessible to all, including minors",
"thresholds": {
"sexual": 0.1,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.1,
"dangerous": 0.1,
"criminal": 0.1,
"selfharm": 0.1,
"health": 0.2,
"financial": 0.2,
"law": 0.2,
"pii": 0.1,
"jailbreaking": 0.1,
},
"block_action": "generic_message",
"logging": "full"
}
Athraíonn cúntóir inmheánach an cluiche ar phointe amháin: tá úsáideoirí fíoraithe, rud a chiallaíonn go bhfuil siad inaitheanta agus cuntasach. Ligeann sé seo do thairseacha níos solúbtha, go háirithe ar financial agus law socraithe ag 0.6, ós rud é nach bhfuil i bhfostaí ag cur ceisteanna don chúntóir faoi struchtúr conartha ach a chuid oibre a dhéanamh.
# Policy: Balanced, identified users
POLICY_INTERNAL = {
"name": "Internal B2B",
"description": "Assistant for authenticated employees",
"thresholds": {
"sexual": 0.2,
"hate_and_discrimination": 0.15,
"violence_and_threats": 0.3,
"dangerous": 0.2,
"criminal": 0.15,
"selfharm": 0.15,
"health": 0.5,
"financial": 0.6,
"law": 0.6,
"pii": 0.3,
"jailbreaking": 0.15,
},
"block_action": "detailed_message",
"logging": "full"
}
Tugann uirlis speisialaithe—leighis, dlíthiúil nó airgeadais—an loighic seo chun críche: an-liobrálach laistigh dá fearann, dian ar gach áit eile. Sa sampla leighis, éiríonn health go 0.85 toisc gurb é feidhm na huirlise díospóireacht a dhéanamh ar dhiagnóisí, cé go dtiteann pii go 0.15 toisc nach mór do shonraí othair dul i gciorcal riamh. Cuirtear dhá eilimint nach raibh i mbeartais roimhe seo leis anseo: mód blocála le atreorú agus séanadh sainráite.
# Policy: Permissive on domain, strict elsewhere
POLICY_MEDICAL = {
"name": "Medical Assistant",
"description": "Tool for healthcare professionals",
"thresholds": {
"sexual": 0.2,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.3,
"dangerous": 0.1,
"criminal": 0.1,
"selfharm": 0.3,
"health": 0.85, # Very permissive: legitimate domain
"financial": 0.3,
"law": 0.4,
"pii": 0.15, # Strict: patient data
"jailbreaking": 0.1,
},
"block_action": "detailed_message_with_redirect",
"logging": "full_with_audit",
"disclaimer": "This tool does not replace medical advice."
}
An Beartas a Fhoirmiú mar Dhoiciméad
Caithfidh do bheartas ábhair a bheith ina dhoiciméad leaganaithe atá inrochtana ag gach foireann. I bPython, aistrítear é seo go dtí aicme a iompraíonn an uimhir leagain agus an dáta athbhreithnithe in éineacht leis na tairseacha, agus atá in ann scóir a mheas agus an teachtaireacht bhlocála a ghiniúint a fhreagraíonn don mhód dearbhaithe.
from mistralai.client.models import GuardrailConfigTypedDict
class ContentPolicy:
"""Structured representation of a content policy."""
def __init__(self, config: dict):
self.name = config["name"]
self.description = config["description"]
self.thresholds = config["thresholds"]
self.block_action = config["block_action"]
self.logging = config["logging"]
self.version = config.get("version", "1.0.0")
self.revision_date = config.get("revision_date", "2026-04-01")
def evaluate(self, scores: dict) -> dict:
"""Evaluates scores against the policy."""
violations = []
for cat, threshold in self.thresholds.items():
score = scores.get(cat, 0)
if score > threshold:
violations.append({
"category": cat,
"score": round(score, 3),
"threshold": threshold
})
return {
"policy": self.name,
"version": self.version,
"allowed": len(violations) == 0,
"violations": violations
}
def block_message(self, violations: list) -> str:
"""Generates an appropriate blocking message."""
if self.block_action == "generic_message":
return "This content cannot be processed."
elif self.block_action == "detailed_message":
cats = ", ".join(v["category"] for v in violations)
return (f"Content blocked for the following reasons: "
f"{cats}. Please rephrase your request.")
return "Content blocked."
def to_guardrails(self) -> list[GuardrailConfigTypedDict]:
"""Translates the policy into the guardrails parameter for the Mistral API."""
return [
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": self.thresholds,
"ignore_other_categories": False,
"action": "block",
},
}
]
Déanann an modh to_guardrails an beartas a thiontú ina fhoinse amháin fírinne do guardrails: client.chat.complete(..., guardrails=policy.to_guardrails()) nó client.beta.agents.create(..., guardrails=policy.to_guardrails()). Ní féidir le tairseacha a chuirtear i bhfeidhm roimh agus tar éis giniúna teacht chun bheith difriúil a thuilleadh.
Tabhair faoi deara freisin go n-áirítear ainm agus leagan an bheartais a cuireadh i bhfeidhm i dtorthaí evaluate. Ligeann an mionsonra seo duit, sé mhí ina dhiaidh sin, cinneadh conspóideach a athsheinm ag fiosrú go beacht faoi cé acu réimeas ar rinneadh é.
Bainistíocht Ilfheidhmchlár
Má bhainistíonn do chomhlacht ilfheidhmchlár, déan bainistíocht an bheartais a lárnú. Déanann an bainisteoir thíos dhá rud úsáideach: diúltaíonn sé go sainráite freastal ar fheidhmchlár gan beartas dearbhaithe, rud a chuireann cosc ar imlonnú gan líonraí sábháilteachta, agus táirgeann sé tuarascáil chomhlíontachta a liostaíonn leagan gach feidhmchláir agus an dáta athbhreithnithe deireanach—go díreach an rud a iarrfaidh iniúchóir.
class PolicyManager:
"""Manages content policies for multiple applications."""
def __init__(self):
self.policies = {}
def register(self, app_id: str, policy: ContentPolicy):
"""Registers a policy for an application."""
self.policies[app_id] = policy
def get(self, app_id: str) -> ContentPolicy:
"""Retrieves the policy for an application."""
if app_id not in self.policies:
raise ValueError(f"No policy for {app_id}")
return self.policies[app_id]
def compliance_report(self) -> dict:
"""Generates a global compliance report."""
return {
app_id: {
"name": pol.name,
"version": pol.version,
"revision_date": pol.revision_date,
"categories_covered": len(pol.thresholds)
}
for app_id, pol in self.policies.items()
}
# Usage
manager = PolicyManager()
manager.register("chatbot-public",
ContentPolicy(POLICY_PUBLIC))
manager.register("assistant-medical",
ContentPolicy(POLICY_MEDICAL))
Athbhreithniú agus Nuashonruithe
Níl do bheartas cloíte i gcloch. Is é an botún is coitianta ná é a scríobh uair amháin agus ansin dearmad a dhéanamh air. Socraigh rithim: gach seachtain, déan anailís ar dheimhneacha bréagacha agus ar dhiúltacha bréagacha a tuairiscíodh i do logaí; gach mí, coigeartaigh tairseacha bunaithe ar mhéadrachtaí carntha; gach ráithe, déan athbhreithniú iomlán le geallsealbhóirí gnó, dlí agus táirge. Cuir leis seo riail neamh-idirbheartaithe: tar éis gach teagmhais, déan iar-mhartan agus cuir ceartú láithreach i bhfeidhm, gan fanacht leis an gcéad athbhreithniú sceidealta eile.
Príomhphointí
- Aistríonn beartas ábhair do thairseacha teicniúla go rialacha gnó
- Oiriúnaigh tairseacha don chomhthéacs: oscailte don phobal, inmheánach, speisialaithe
- Foirmigh an beartas i ndoiciméad leaganaithe
- Lárnaigh an bhainistíocht má tá ilfheidhmchlár agat
- Déan athbhreithniú go rialta—caithfidh an beartas éabhlóidiú in éineacht le do tháirge