Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Na 11 Chatagóir Moderála

Ceacht 6 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Tuiscint a fháil ar Chatagóirí Riosca
  2. Catagóirí “Crua” vs Catagóirí “Bog”
  3. Anailís a dhéanamh ar Scóir i bPython
  4. Catagóirí Iolracha: Is Féidir le Téacs Amháin Roinnt Foláirimh a Spreagadh
  5. Príomhphointí

Nuashonraithe an 3 Samhain, 2026. Liostaíodh trí eochair nach bhfuil ann (hate, violence, unpredictable) sa tábla catagóirí roimhe seo, agus d’fhág siad dangerous ar lár. Léiríonn an t-aon eochair déag thíos mistral-moderation-2603, bunaithe ar an doiciméadú agus ar na cineálacha ón SDK mistralai 3.7.0; leanann na cur síos sainmhínithe Mistral. Ba shamplaí léiritheacha iad luachanna aschuir a cuireadh i láthair mar shonraí tomhaiste, agus tá siad lipéadaithe go soiléir anois mar sin. Foinse: Moderation & Guardrailing · Mistral Moderation 2411 (múnla dímheasta).

Tuiscint a fháil ar Chatagóirí Riosca

Déanann an múnla Moderála Mistral anailís ar ábhar thar 11 chatagóir ar leith. Clúdaíonn gach catagóir cineál sonrach riosca agus filleann sé scór neamhspleách idir 0.0 agus 1.0. Tá sé ríthábhachtach tuiscint bheacht a bheith agat ar an méid a bhrathann gach catagóir chun tairseacha bríocha a shocrú. Gan an soiléiriú seo, ní bheidh tú ach ag tomhas uimhreacha agus ag fiafraí díot féin cén fáth a gcuirtear bac ar ábhar gan choinne.

Soláthraíonn an tábla thíos an eochair API cruinn do gach catagóir, an méid a chlúdaíonn sé, agus na cineálacha cásanna a ghabhann sé i gcleachtas.

CatagóirEochair APIAn méid a áiríonn Mistral
Ábhar gnéasachsexualGníomhaíochtaí gnéasacha, nochtacht, nó seirbhísí gnéasacha a thuairiscítear nó a churtha chun cinn go follasach; tá ábhar oideachasúil nó leighis nach bhfuil follasach saor go ginearálta
Fuath agus idirdhealúhate_and_discriminationClaonadh, naimhdeas, nó glaonna ar idirdhealú bunaithe ar shaintréithe cosanta, lena n-áirítear ciapadh
Foréigean agus bagairtíviolence_and_threatsForéigean fisiceach a thuairiscítear, a ghlóirítear, a spreagtar nó a bhagraítear, agus treoracha chun é a dhéanamh
Ábhar contúirteachdangerousIompraíochtaí an-chontúirteacha a bhfuil riosca ard dochar fisiciigh ag baint leo
Gníomhaíochtaí coiriúlacriminalGníomhaíochtaí mídhleathacha a thuairiscítear nó a churtha chun cinn
Féin-dhocharselfharmFéin-dhochar, féinmharú, neamhord itheacháin: modhanna, glóiriú, rún, dúshláin chontúirteacha
SláintehealthIarratais ar chomhairle leighis mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin
AirgeadasfinancialIarratais ar chomhairle airgeadais mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin
DlílawIarratais ar chomhairle dhlíthiúil mhionsonraithe nó phearsantaithe nó soláthar na comhairle sin
Sonraí pearsantapiiIarratais, comhroinnt, nó iarrachtaí chun sonraí aitheantais a fháil: ainm iomlán, seoladh, uimhir theileafóin, uimhir slándála sóisialta, sonraí bainc
JailbreakjailbreakingIarrachtaí chun rialacha an mhúnla a shárú trí láimhseáil pras, rólghlacadh, nó teicnící eile

Tháinig na catagóirí dangerous, criminal, agus jailbreaking le mistral-moderation-2603. Chumaisc an múnla roimhe seo, mistral-moderation-2411, a dímheastar an 31 Márta 2026, an dá cheann sin faoi eochair amháin, dangerous_and_criminal_content, agus níor bhrath sé jailbreaks. Taispeánann roinnt samplaí freagartha sa doiciméadú an briseadh síos níos sine fós: léigh na heochracha a fhillfidh an API i gcónaí seachas iad a ghlacadh leis.

Catagóirí “Crua” vs Catagóirí “Bog”

I gcleachtas, titann na 11 gcatagóir seo isteach i dhá ghrúpa bunaithe ar chriticiúlacht, agus tiomáineann an t-idirdhealú seo do straitéis tairsí ar fad.

Catagóirí crua — sexual, hate_and_discrimination, violence_and_threats, dangerous, criminal, agus selfharm — léiríonn siad rioscaí tromchúiseacha ina bhféadfadh diúltach bréagach (teip ar ábhar contúirteach a bhrath) tionchair dhian a bheith acu. Baineann riosca dlíthiúil agus oibleagáidí chun mionaoisigh a chosaint le hábhar gnéasach; nochtann caint fuatha tú do dhamáiste suntasach don chlú agus do dhliteanas dlíthiúil; baineann foréigean le spreagadh agus bagairtí; clúdaíonn na catagóirí contúirteacha agus coiriúla iompraíochtaí ard-riosca agus gníomhaíochtaí mídhleathacha; baineann féin-dhochar le sábháilteacht úsáideora agus cásanna a bhagairt an saol. Do na sé chatagóir seo, tá tairseacha ísle 0.1 go 0.2 údaraithe beag beann ar do tháirge, agus glacann tú go hintinne le roinnt dearfach bréagach.

Braitheann catagóirí boga go mór ar chomhthéacs d’iarratais, le tairseacha inchoigeartaithe idir 0.3 agus 0.8. Caithfidh chatbot leighis dlisteanach plé le health, teastaíonn ó aip fintech comhráite a chumhdaítear faoi financial, déileálann cúntóir dlíthiúil go héigeantach le law, agus bailíonn roinnt feidhmchlár go dlíthiúil sonraí a thiteann faoi pii. Léitear cás amháin go difriúil: ní bhraitheann jailbreaking ar an ábhar ach ar an rún an múnla a láimhseáil, agus fanann sé criticiúil d’aon iarratas atá oscailte don phobal.

Anailís a dhéanamh ar Scóir i bPython

Tiontaíonn an fheidhm seo glaonna API amha go breithiúnas inléite: aonraíonn sí catagóirí a sháraíonn 0.3, aithníonn sí an scór uasta agus a chatagóir, agus filleann sí táscaire safe is féidir leat a úsáid go díreach i do loighic feidhmchláir.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

def analyze_content(text: str) -> dict:
    """Anailís a dhéanamh ar théacs agus catagóirí riosca a fhilleadh."""
    response = client.classifiers.moderate(
        model="mistral-moderation-2603",
        inputs=[text]
    )

    scores = response.results[0].category_scores or {}

    # Catagóirí riosca a scaradh
    risks = {}
    for category, score in scores.items():
        if score > 0.3:
            risks[category] = round(score, 3)

    return {
        "text": text[:100],
        "risks": risks,
        "max_score": max(scores.values(), default=0.0),
        "max_category": max(scores, key=lambda c: scores[c], default=None),
        "safe": len(risks) == 0
    }

print(analyze_content("Hello, how are you?"))
print(analyze_content("What dose of acetaminophen for a 20 kg child?"))

Tá category_scores roghnach sa SDK, dá bhrí sin an or {}. Rith an dá shampla ar do chuntas: ba chóir go bhfanfadh an beannú an-íseal ar fud an bhoird, cé ba chóir don cheist dáileog buaic a bhaint amach ar health. Níl sé seo ina ábhar “contúirteach” sa chiall choitianta—is ábhar é nach mór duit a chinneadh an dtagann sé laistigh de do raon feidhme.

Catagóirí Iolracha: Is Féidir le Téacs Amháin Roinnt Foláirimh a Spreagadh

Is féidir le téacs amháin scóir arda a bheith aige i roinnt catagóirí ag an am céanna – buailfidh iarratas ar chabhair le calaois chánach criminal, financial, agus law go léir ag an am céanna. Caithfidh do loighic cinnteoireachta cur san áireamh an iliomad seo, agus os cionn gach rud, tosaíocht a thabhairt: déanann an fheidhm thíos sáruithe a shórtáil de réir mhéid shárú na tairsí, ag insint duit cé acu catagóir a thiomáin an bac i ndáiríre.

def evaluate_global_risk(scores: dict, thresholds: dict) -> dict:
    """Meastóireacht a dhéanamh ar riosca domhanda ag cur gach catagóire san áireamh."""
    violations = []

    for category, threshold in thresholds.items():
        score = scores.get(category, 0)
        if score > threshold:
            violations.append({
                "category": category,
                "score": score,
                "threshold": threshold,
                "excess": round(score - threshold, 3)
            })

    return {
        "blocked": len(violations) > 0,
        "violations": sorted(violations,
                            key=lambda v: v["excess"],
                            reverse=True),
        "violation_count": len(violations)
    }

# Cumraíocht de réir próifíle
strict_thresholds = {
    "sexual": 0.1, "hate_and_discrimination": 0.1, "violence_and_threats": 0.15,
    "dangerous": 0.1, "criminal": 0.1, "selfharm": 0.1,
    "health": 0.3, "financial": 0.3, "law": 0.3,
    "pii": 0.15, "jailbreaking": 0.1,
}

Leanann an phróifíl strict_thresholds go díreach an loighic crua/bog a leagadh amach thuas: tairseacha 0.1 go 0.15 ar na sé chatagóir chriticiúla agus ar jailbreak, fulaingt ag 0.3 do cheantarra comhthéacsúla. Coinnigh an struchtúr seo mar do phointe tosaigh agus déan doiciméadú ar aon imeachtaí a thugann tú isteach.

Príomhphointí

  • Déanann mistral-moderation-2603 anailís ar ábhar thar 11 chatagóir le heochracha seasta; níl hate, violence, ná unpredictable ann
  • Filleann gach catagóir scór ó 0.0 go 1.0
  • Teastaíonn tairseacha ísle do chatagóirí “crua” (sexual, hate_and_discrimination, violence_and_threats, dangerous, criminal, selfharm)
  • Coigeartaítear catagóirí “boga” (sláinte, airgeadas, dlí) bunaithe ar chomhthéacs d’iarratais
  • Is féidir le téacs amháin roinnt catagóirí a spreagadh ag an am céanna
  • Úsáid scóir amha (category_scores) seachas booleáin réamhshocraithe