Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

API Moderation Mistral

Ceacht 5 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Aicmiú ábhair tar éis giniúna
  2. An múnla Mistral Moderation 2
  3. An pointe deiridh /v1/moderations
  4. Struchtúr na freagartha
  5. Il-téacsanna a mhoderáil i mbaisc
  6. Garda-ráillí vs API Moderation: cathain úsáid a bhaint as cad
  7. Sampla: píblíne iomlán
  8. Príomhphointí

Nuashonraithe an 3 Samhain 2026. Bhí eochracha nach raibh ann (hate, violence, unpredictable) san sampla freagartha roimhe seo; léiríonn sé anois an t-aon chatagóir dhéag ó mistral-moderation-2603. Úsáideadh formáid garda-ráille cumtha (enabled) sa phíblíne deiridh roimhe seo, agus braitear blocanna trí “403” a chuardach sa teachtaireacht earráide: leanann sé anois an formáid oifigiúil agus seiceálann sé e.status_code. Tá cur i láthair an mhúnla bunaithe ar a bhileog sonraí oifigiúil, agus tugtar isteach Shieldstral 1.0, an múnla moderation atá i réamhamharc poiblí ó Lúnasa 2026. Fíoraíodh an cód i gcoinne cineálacha SDK mistralai leagan 3.7.0. Foinsí: Moderation & Guardrailing · Mistral Moderation 2 · Shieldstral 1.0.

Aicmiú ábhair tar éis giniúna

Scagann garda-ráillí (guardrails) leideanna ionchuir. Ach cad faoi ábhar a ghin an múnla? Is féidir le leid neamhchiontach freagra fadhbach a tháirgeadh: d’fhéadfadh ceist ó dhalta meánscoile faoin Dara Cogadh Domhanda cur síos a thabhairt nach dteastaíonn uait a thaispeáint gan rabhaidh. Sin ról an API Moderation: ábhar a anailísiú tar éis an fhíric agus scóir riosca a shannadh de réir catagóire.

Is é an API Moderation do dara líne cosanta—comhlánaíonn sé garda-ráillí chun ailtireacht shlándála iomlán a chruthú, le difríocht amháin mhór: ní bhacann sé aon rud leis féin; cuireann sé ar an eolas thú.

An múnla Mistral Moderation 2

Is é mistral-moderation-2603 (Mistral Moderation 2, leagan Márta 2026) an múnla moderation tiomnaithe. Is aicmitheoir speisialaithe é, ar leithligh ó mhúnlaí giniúna: ní scríobhann sé téacs, sannann sé scóir. Cuireann a bhileog sonraí oifigiúil béim ar fhuinneog chomhthéacs 128,000 token, braitear jailbreak, agus feidhmíocht láidir ar ábhar ilteangach casta, lena n-áirítear comhráite fada. Tagann sé in ionad mistral-moderation-2411, a dí-chódaíodh an 31 Márta 2026.

Sannann sé scór do gach téacs thar 11 chatagóir, le scór ó 0.0 go 1.0 in aghaidh na catagóire. Glacann sé le dhá mhód ionchuir, gnáth-théacs nó comhráiteach, agus bíonn tionchar ag an roghnú eatarthu ar cháilíocht na dtorthaí níos mó ná mar a shílfeá.

Tá dara múnla moderation ann ón 4 Lúnasa 2026, i réamhamharc poiblí: Shieldstral 1.0. Oibríonn sé go difriúil: dlúth (3.8 billiún paraiméadar) agus ilmhódach, déanann sé aicmiú ar théacs agus íomhónna bunaithe ar cheisteas beartais arna bhfoirmliú i dteanga nádúrtha, ag freagairt sea nó ní hea. Foilsítear a mheáchain faoi cheadúnas Apache 2.0, rud a ligeann duit féin-óstáil a dhéanamh. Fad is atá sé i réamhamharc, is é mistral-moderation-2603 an múnla táirgeachta, agus is é an ceann a úsáidtear le haghaidh garda-ráillí.

An pointe deiridh /v1/moderations

Is é mód an ghnáth-théacs an ceann is simplí: seolann tú téacs amháin nó níos mó le haicmiú, gan comhthéacs breise.

from mistralai.client import Mistral
import os

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

# Moderate simple text
response = client.classifiers.moderate(
    model="mistral-moderation-2603",
    inputs=["Text to analyze for moderation"]
)

# Access results
for result in response.results:
    print(f"Categories: {result.categories}")
    print(f"Scores: {result.category_scores}")

Chun malartuithe iomlána a mhoderáil, an leid agus an freagra le chéile, tugann an mód comhráite don aicmitheoir an rud a bhí in easnamh air: snáithe an phlé.

# Moderate a complete conversation
response = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        [
            {"role": "user", "content": "How do I treat a headache?"},
            {"role": "assistant", "content": "Take 1g of paracetamol..."}
        ]
    ]
)

# The classifier evaluates the full context
for result in response.results:
    print(f"Health score: {(result.category_scores or {}).get('health', 0)}")

Is é an mód comhráite, a ghlaonn ar an bpointe deiridh /v1/chat/moderations, an rud a mholann Mistral do mhalartú: oiliúint a tugadh don mhúnla chun an casadh deireanach den chomhrá a aicmiú i bhfianaise na gcinn roimhe. Chun freagra do chúntóra a mhoderáil, cuir é deireanach. Ligeann an liosta liostaí sa sampla roinnt comhráite a sheoladh ag an am céanna; is leor liosta simplí teachtaireachtaí do cheann amháin. Mar sin, is féidir leis an téacs céanna scór difriúil a fháil ag brath ar an bhfreagraíonn sé ceist dhlisteanach nó mhailíseach—níl an stádas céanna ag dáileog a luaitear mar fhreagra ar iarratas faisnéise agus atá ag an dáileog chéanna a shleamhnaítear isteach i malartú faoi féin-leigheas rioscach.

Struchtúr na freagartha

Do gach téacs arna anailísiú, tá dhá bhloc comhthreomhara sa fhreagra: categories, booleanna a ríomhtar le tairseacha socraithe ag Mistral bunaithe ar a thacar tástála inmheánach, agus category_scores, na scóir amh ó 0.0 go 1.0. Tá an sampla thíos léiritheach, le luachanna slánaithe; taispeánann roinnt samplaí doiciméadachta fós na naoi gcatagóir den tsean-mhúnla, áit ar chumaisc dangerous_and_criminal_content dangerous agus criminal. Úsáidfidh tú na cinn dheireanacha toisc go ligeann siad duit do theorainneacha féin a shocrú.

{
  "id": "mod-abc123",
  "model": "mistral-moderation-2603",
  "results": [
    {
      "categories": {
        "sexual": false,
        "hate_and_discrimination": false,
        "violence_and_threats": false,
        "dangerous": false,
        "criminal": false,
        "selfharm": false,
        "health": true,
        "financial": false,
        "law": false,
        "pii": false,
        "jailbreaking": false
      },
      "category_scores": {
        "sexual": 0.01,
        "hate_and_discrimination": 0.02,
        "violence_and_threats": 0.03,
        "dangerous": 0.02,
        "criminal": 0.01,
        "selfharm": 0.01,
        "health": 0.72,
        "financial": 0.05,
        "law": 0.08,
        "pii": 0.02,
        "jailbreaking": 0.01
      }
    }
  ]
}

Sa sampla seo, níl ach health marcáilte true, le 0.72. D’fheicfeadh cúntóir atá dírithe ar thomhaltóirí é seo mar chomhartha blocála; ligeadh uirlis atá beartaithe do chógaiseoirí dó gan leisce. An scór céanna, dhá chinneadh contrártha, agus sin díreach an fáth a n-oibríonn tú le scóir seachas le booleanna.

Il-téacsanna a mhoderáil i mbaisc

Glacann an API le roinnt téacsanna in aon iarratas amháin, rud a athraíonn gach rud maidir le próiseáil baisce: bíonn sé ina oibríocht réasúnach ó thaobh líon na nglaonna de staire comhrá nó bunachar sonraí tráchtanna a anailísiú go hiarchúlach.

# Moderate multiple texts in a single request
texts = [
    "First text to analyze",
    "Second text to analyze",
    "Third text to analyze"
]

response = client.classifiers.moderate(
    model="mistral-moderation-2603",
    inputs=texts
)

# Each text has its own result
for i, result in enumerate(response.results):
    scores = result.category_scores or {}
    max_cat = max(scores, key=lambda c: scores[c])
    max_score = scores[max_cat]
    print(f"Text {i+1}: max score = {max_score:.2f} ({max_cat})")

Garda-ráillí vs API Moderation: cathain úsáid a bhaint as cad

GnéGarda-ráillí SaincheapthaAPI Moderation
UainiúROIMH ghiniúintTAR ÉIS ghiniúint
GníomhBacann go huathoibríoch (403)Tugann scóir ar ais (tusa a chinneann)
RialúDo thairseacha in aghaidh na catagóire, curtha i bhfeidhm ag MistralScóir amh, loighic shaor
GlaonnaParaiméadar den iarratas giniúnaGlaonna ar leith chuig /v1/moderations
Cás úsáideScag leideanna contúirteachaAicmiú freagraí

Sampla: píblíne iomlán

Taispeánann an phíblíne thíos seicheamhú an dá mheicníocht. Cosnaítear an ghiniúint le garda-ráille atá dírithe ar jailbreaking; déantar an freagra a aicmiú ansin in éineacht leis an gceist a tháirg é, agus tagann cinneadh saincheaptha i bhfeidhm a luaithe a sháraíonn scór 0.5. Tabhair faoi deara go dtugann an dá chéim stádas ar leithligh ar ais—blocked_input agus blocked_output—ionas go n-insíonn do logaí go soiléir cáinar stopadh an t-iarratas.

from mistralai.client import errors
from mistralai.client.models import GuardrailConfigTypedDict

GUARDRAIL_JAILBREAK: list[GuardrailConfigTypedDict] = [
    {
        "block_on_error": True,
        "moderation_llm_v2": {
            "custom_category_thresholds": {"jailbreaking": 0.1},
            "action": "block",
        },
    }
]


def secure_pipeline(user_message: str) -> dict:
    """Pipeline with guardrails (input) and moderation (output)."""
    # Step 1: generate with guardrails
    try:
        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[{"role": "user", "content": user_message}],
            guardrails=GUARDRAIL_JAILBREAK,
        )
    except errors.SDKError as e:
        if e.status_code == 403:
            return {"status": "blocked_input", "content": None}
        raise

    generated = response.choices[0].message.content
    if not isinstance(generated, str):
        return {"status": "error", "content": None}

    # Step 2: moderate the output, in the context of the question
    moderation = client.classifiers.moderate_chat(
        model="mistral-moderation-2603",
        inputs=[
            {"role": "user", "content": user_message},
            {"role": "assistant", "content": generated},
        ],
    )

    scores = moderation.results[0].category_scores or {}
    if max(scores.values(), default=0.0) > 0.5:
        return {"status": "blocked_output", "scores": scores}

    return {"status": "ok", "content": generated, "scores": scores}

Príomhphointí

  • Úsáideann an API Moderation an múnla mistral-moderation-2603 chun ábhar a aicmiú
  • Tá dhá mhód ar fáil: gnáth-théacs agus comhráiteach
  • Rangaíonn scóir ó 0.0 go 1.0—socraíonn tusa do thairseacha cinnteoireachta féin
  • Tá an mód comhráite níos cruinne toisc go gcuireann sé san áireamh an comhthéacs
  • Comhcheangail garda-ráillí (ionchur) + moderation (aschur) le haghaidh cosanta i doimhneacht