Na 11 Chatagóir Moderála
Ar an leathanach seo
Nuashonraithe an 3 Samhain, 2026. Liostaíodh trí eochair nach bhfuil ann (
hate,violence,unpredictable) sa tábla catagóirí roimhe seo, agus d’fhág siaddangerousar lár. Léiríonn an t-aon eochair déag thíosmistral-moderation-2603, bunaithe ar an doiciméadú agus ar na cineálacha ón SDKmistralai3.7.0; leanann na cur síos sainmhínithe Mistral. Ba shamplaí léiritheacha iad luachanna aschuir a cuireadh i láthair mar shonraí tomhaiste, agus tá siad lipéadaithe go soiléir anois mar sin. Foinse: Moderation & Guardrailing · Mistral Moderation 2411 (múnla dímheasta).
Tuiscint a fháil ar Chatagóirí Riosca
Déanann an múnla Moderála Mistral anailís ar ábhar thar 11 chatagóir ar leith. Clúdaíonn gach catagóir cineál sonrach riosca agus filleann sé scór neamhspleách idir 0.0 agus 1.0. Tá sé ríthábhachtach tuiscint bheacht a bheith agat ar an méid a bhrathann gach catagóir chun tairseacha bríocha a shocrú. Gan an soiléiriú seo, ní bheidh tú ach ag tomhas uimhreacha agus ag fiafraí díot féin cén fáth a gcuirtear bac ar ábhar gan choinne.
Soláthraíonn an tábla thíos an eochair API cruinn do gach catagóir, an méid a chlúdaíonn sé, agus na cineálacha cásanna a ghabhann sé i gcleachtas.
| Catagóir | Eochair API | An méid a áiríonn Mistral |
|---|---|---|
| Ábhar gnéasach | sexual | Gníomhaíochtaí gnéasacha, nochtacht, nó seirbhísí gnéasacha a thuairiscítear nó a churtha chun cinn go follasach; tá ábhar oideachasúil nó leighis nach bhfuil follasach saor go ginearálta |
| Fuath agus idirdhealú | hate_and_discrimination | Claonadh, naimhdeas, nó glaonna ar idirdhealú bunaithe ar shaintréithe cosanta, lena n-áirítear ciapadh |
| Foréigean agus bagairtí | violence_and_threats | Foréigean fisiceach a thuairiscítear, a ghlóirítear, a spreagtar nó a bhagraítear, agus treoracha chun é a dhéanamh |
| Ábhar contúirteach | dangerous | Iompraíochtaí an-chontúirteacha a bhfuil riosca ard dochar fisiciigh ag baint leo |
| Gníomhaíochtaí coiriúla | criminal | Gníomhaíochtaí mídhleathacha a thuairiscítear nó a churtha chun cinn |
| Féin-dhochar | selfharm | Féin-dhochar, féinmharú, neamhord itheacháin: modhanna, glóiriú, rún, dúshláin chontúirteacha |
| Sláinte | health | Iarratais ar chomhairle leighis mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin |
| Airgeadas | financial | Iarratais ar chomhairle airgeadais mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin |
| Dlí | law | Iarratais ar chomhairle dhlíthiúil mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin |
| Sonraí pearsanta | pii | Iarratais, comhroinnt, nó iarrachtaí chun sonraí aitheantais a fháil: ainm iomlán, seoladh, uimhir theileafóin, uimhir slándála sóisialta, sonraí bainc |
| Jailbreak | jailbreaking | Iarrachtaí chun rialacha an mhúnla a shárú trí láimhseáil pras, rólghlacadh, nó teicnící eile |
Tháinig na catagóirí dangerous, criminal, agus jailbreaking le mistral-moderation-2603. Chumaisc an múnla roimhe seo, mistral-moderation-2411, a dímheastar an 31 Márta 2026, an dá cheann sin faoi eochair amháin, dangerous_and_criminal_content, agus níor bhrath sé jailbreaks. Taispeánann roinnt samplaí freagartha sa doiciméadú an briseadh síos níos sine fós: léigh na heochracha a fhillfidh an API i gcónaí seachas iad a ghlacadh leis.
Catagóirí “Crua” vs Catagóirí “Bog”
I gcleachtas, titann na 11 gcatagóir seo isteach i dhá ghrúpa bunaithe ar chriticiúlacht, agus tiomáineann an t-idirdhealú seo do straitéis tairsí ar fad.
Catagóirí crua — sexual, hate_and_discrimination, violence_and_threats, dangerous, criminal, agus selfharm — léiríonn siad rioscaí tromchúiseacha ina bhféadfadh diúltach bréagach (teip ar ábhar contúirteach a bhrath) tionchair dhian a bheith acu. Baineann riosca dlíthiúil agus oibleagáidí chun mionaoisigh a chosaint le hábhar gnéasach; nochtann caint fuatha tú do dhamáiste suntasach don chlú agus do dhliteanas dlíthiúil; baineann foréigean le spreagadh agus bagairtí; clúdaíonn na catagóirí contúirteacha agus coiriúla iompraíochtaí ard-riosca agus gníomhaíochtaí mídhleathacha; baineann féin-dhochar le sábháilteacht úsáideora agus cásanna a bhagairt an saol. Do na sé chatagóir seo, tá tairseacha ísle 0.1 go 0.2 údaraithe beag beann ar do tháirge, agus glacann tú go hintinne le roinnt dearfach bréagach.
Braitheann catagóirí boga go mór ar chomhthéacs d’iarratais, le tairseacha inchoigeartaithe idir 0.3 agus 0.8. Caithfidh chatbot leighis dlisteanach plé le health, teastaíonn ó aip fintech comhráite a chumhdaítear faoi financial, déileálann cúntóir dlíthiúil go héigeantach le law, agus bailíonn roinnt feidhmchlár go dlíthiúil sonraí a thiteann faoi pii. Léitear cás amháin go difriúil: ní bhraitheann jailbreaking ar an ábhar ach ar an rún an múnla a láimhseáil, agus fanann sé criticiúil d’aon iarratas atá oscailte don phobal.
Anailís a dhéanamh ar Scóir i bPython
Tiontaíonn an fheidhm seo glaonna API amha go breithiúnas inléite: aonraíonn sí catagóirí a sháraíonn 0.3, aithníonn sí an scór uasta agus a chatagóir, agus filleann sí táscaire safe is féidir leat a úsáid go díreach i do loighic feidhmchláir.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def analyze_content(text: str) -> dict:
"""Anailís a dhéanamh ar théacs agus catagóirí riosca a fhilleadh."""
response = client.classifiers.moderate(
model="mistral-moderation-2603",
inputs=[text]
)
scores = response.results[0].category_scores or {}
# Catagóirí riosca a scaradh
risks = {}
for category, score in scores.items():
if score > 0.3:
risks[category] = round(score, 3)
return {
"text": text[:100],
"risks": risks,
"max_score": max(scores.values(), default=0.0),
"max_category": max(scores, key=lambda c: scores[c], default=None),
"safe": len(risks) == 0
}
print(analyze_content("Hello, how are you?"))
print(analyze_content("What dose of acetaminophen for a 20 kg child?"))
Tá category_scores roghnach sa SDK, dá bhrí sin an or {}. Rith an dá shampla ar do chuntas: ba chóir go bhfanfadh an beannú an-íseal ar fud an bhoird, cé ba chóir don cheist dáileog buaic a bhaint amach ar health. Níl sé seo ina ábhar “contúirteach” sa chiall choitianta—is ábhar é nach mór duit a chinneadh an dtagann sé laistigh de do raon feidhme.
Catagóirí Iolracha: Is Féidir le Téacs Amháin Roinnt Foláirimh a Spreagadh
Is féidir le téacs amháin scóir arda a bheith aige i roinnt catagóirí ag an am céanna – buailfidh iarratas ar chabhair le calaois chánach criminal, financial, agus law go léir ag an am céanna. Caithfidh do loighic cinnteoireachta cur san áireamh an iliomad seo, agus os cionn gach rud, tosaíocht a thabhairt: déanann an fheidhm thíos sáruithe a shórtáil de réir mhéid shárú na tairsí, ag insint duit cé acu catagóir a thiomáin an bac i ndáiríre.
def evaluate_global_risk(scores: dict, thresholds: dict) -> dict:
"""Meastóireacht a dhéanamh ar riosca domhanda ag cur gach catagóire san áireamh."""
violations = []
for category, threshold in thresholds.items():
score = scores.get(category, 0)
if score > threshold:
violations.append({
"category": category,
"score": score,
"threshold": threshold,
"excess": round(score - threshold, 3)
})
return {
"blocked": len(violations) > 0,
"violations": sorted(violations,
key=lambda v: v["excess"],
reverse=True),
"violation_count": len(violations)
}
# Cumraíocht de réir próifíle
strict_thresholds = {
"sexual": 0.1, "hate_and_discrimination": 0.1, "violence_and_threats": 0.15,
"dangerous": 0.1, "criminal": 0.1, "selfharm": 0.1,
"health": 0.3, "financial": 0.3, "law": 0.3,
"pii": 0.15, "jailbreaking": 0.1,
}
Leanann an phróifíl strict_thresholds go díreach an loighic crua/bog a leagadh amach thuas: tairseacha 0.1 go 0.15 ar na sé chatagóir chriticiúla agus ar jailbreak, fulaingt ag 0.3 do cheantarra comhthéacsúla. Coinnigh an struchtúr seo mar do phointe tosaigh agus déan doiciméadú ar aon imeachtaí a thugann tú isteach.
Príomhphointí
- Déanann
mistral-moderation-2603anailís ar ábhar thar 11 chatagóir le heochracha seasta; nílhate,violence, náunpredictableann - Filleann gach catagóir scór ó 0.0 go 1.0
- Teastaíonn tairseacha ísle do chatagóirí “crua” (
sexual,hate_and_discrimination,violence_and_threats,dangerous,criminal,selfharm) - Coigeartaítear catagóirí “boga” (sláinte, airgeadas, dlí) bunaithe ar chomhthéacs d’iarratais
- Is féidir le téacs amháin roinnt catagóirí a spreagadh ag an am céanna
- Úsáid scóir amha (
category_scores) seachas booleáin réamhshocraithe