API Moderation Mistral
Ar an leathanach seo
Nuashonraithe an 3 Samhain 2026. Bhí eochracha nach raibh ann (
hate,violence,unpredictable) san sampla freagartha roimhe seo; léiríonn sé anois an t-aon chatagóir dhéag ómistral-moderation-2603. Úsáideadh formáid garda-ráille cumtha (enabled) sa phíblíne deiridh roimhe seo, agus braitear blocanna trí “403” a chuardach sa teachtaireacht earráide: leanann sé anois an formáid oifigiúil agus seiceálann sée.status_code. Tá cur i láthair an mhúnla bunaithe ar a bhileog sonraí oifigiúil, agus tugtar isteach Shieldstral 1.0, an múnla moderation atá i réamhamharc poiblí ó Lúnasa 2026. Fíoraíodh an cód i gcoinne cineálacha SDKmistralaileagan 3.7.0. Foinsí: Moderation & Guardrailing · Mistral Moderation 2 · Shieldstral 1.0.
Aicmiú ábhair tar éis giniúna
Scagann garda-ráillí (guardrails) leideanna ionchuir. Ach cad faoi ábhar a ghin an múnla? Is féidir le leid neamhchiontach freagra fadhbach a tháirgeadh: d’fhéadfadh ceist ó dhalta meánscoile faoin Dara Cogadh Domhanda cur síos a thabhairt nach dteastaíonn uait a thaispeáint gan rabhaidh. Sin ról an API Moderation: ábhar a anailísiú tar éis an fhíric agus scóir riosca a shannadh de réir catagóire.
Is é an API Moderation do dara líne cosanta—comhlánaíonn sé garda-ráillí chun ailtireacht shlándála iomlán a chruthú, le difríocht amháin mhór: ní bhacann sé aon rud leis féin; cuireann sé ar an eolas thú.
An múnla Mistral Moderation 2
Is é mistral-moderation-2603 (Mistral Moderation 2, leagan Márta 2026) an múnla moderation tiomnaithe. Is aicmitheoir speisialaithe é, ar leithligh ó mhúnlaí giniúna: ní scríobhann sé téacs, sannann sé scóir. Cuireann a bhileog sonraí oifigiúil béim ar fhuinneog chomhthéacs 128,000 token, braitear jailbreak, agus feidhmíocht láidir ar ábhar ilteangach casta, lena n-áirítear comhráite fada. Tagann sé in ionad mistral-moderation-2411, a dí-chódaíodh an 31 Márta 2026.
Sannann sé scór do gach téacs thar 11 chatagóir, le scór ó 0.0 go 1.0 in aghaidh na catagóire. Glacann sé le dhá mhód ionchuir, gnáth-théacs nó comhráiteach, agus bíonn tionchar ag an roghnú eatarthu ar cháilíocht na dtorthaí níos mó ná mar a shílfeá.
Tá dara múnla moderation ann ón 4 Lúnasa 2026, i réamhamharc poiblí: Shieldstral 1.0. Oibríonn sé go difriúil: dlúth (3.8 billiún paraiméadar) agus ilmhódach, déanann sé aicmiú ar théacs agus íomhónna bunaithe ar cheisteas beartais arna bhfoirmliú i dteanga nádúrtha, ag freagairt sea nó ní hea. Foilsítear a mheáchain faoi cheadúnas Apache 2.0, rud a ligeann duit féin-óstáil a dhéanamh. Fad is atá sé i réamhamharc, is é mistral-moderation-2603 an múnla táirgeachta, agus is é an ceann a úsáidtear le haghaidh garda-ráillí.
An pointe deiridh /v1/moderations
Is é mód an ghnáth-théacs an ceann is simplí: seolann tú téacs amháin nó níos mó le haicmiú, gan comhthéacs breise.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
# Moderate simple text
response = client.classifiers.moderate(
model="mistral-moderation-2603",
inputs=["Text to analyze for moderation"]
)
# Access results
for result in response.results:
print(f"Categories: {result.categories}")
print(f"Scores: {result.category_scores}")
Chun malartuithe iomlána a mhoderáil, an leid agus an freagra le chéile, tugann an mód comhráite don aicmitheoir an rud a bhí in easnamh air: snáithe an phlé.
# Moderate a complete conversation
response = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
[
{"role": "user", "content": "How do I treat a headache?"},
{"role": "assistant", "content": "Take 1g of paracetamol..."}
]
]
)
# The classifier evaluates the full context
for result in response.results:
print(f"Health score: {(result.category_scores or {}).get('health', 0)}")
Is é an mód comhráite, a ghlaonn ar an bpointe deiridh /v1/chat/moderations, an rud a mholann Mistral do mhalartú: oiliúint a tugadh don mhúnla chun an casadh deireanach den chomhrá a aicmiú i bhfianaise na gcinn roimhe. Chun freagra do chúntóra a mhoderáil, cuir é deireanach. Ligeann an liosta liostaí sa sampla roinnt comhráite a sheoladh ag an am céanna; is leor liosta simplí teachtaireachtaí do cheann amháin. Mar sin, is féidir leis an téacs céanna scór difriúil a fháil ag brath ar an bhfreagraíonn sé ceist dhlisteanach nó mhailíseach—níl an stádas céanna ag dáileog a luaitear mar fhreagra ar iarratas faisnéise agus atá ag an dáileog chéanna a shleamhnaítear isteach i malartú faoi féin-leigheas rioscach.
Struchtúr na freagartha
Do gach téacs arna anailísiú, tá dhá bhloc comhthreomhara sa fhreagra: categories, booleanna a ríomhtar le tairseacha socraithe ag Mistral bunaithe ar a thacar tástála inmheánach, agus category_scores, na scóir amh ó 0.0 go 1.0. Tá an sampla thíos léiritheach, le luachanna slánaithe; taispeánann roinnt samplaí doiciméadachta fós na naoi gcatagóir den tsean-mhúnla, áit ar chumaisc dangerous_and_criminal_content dangerous agus criminal. Úsáidfidh tú na cinn dheireanacha toisc go ligeann siad duit do theorainneacha féin a shocrú.
{
"id": "mod-abc123",
"model": "mistral-moderation-2603",
"results": [
{
"categories": {
"sexual": false,
"hate_and_discrimination": false,
"violence_and_threats": false,
"dangerous": false,
"criminal": false,
"selfharm": false,
"health": true,
"financial": false,
"law": false,
"pii": false,
"jailbreaking": false
},
"category_scores": {
"sexual": 0.01,
"hate_and_discrimination": 0.02,
"violence_and_threats": 0.03,
"dangerous": 0.02,
"criminal": 0.01,
"selfharm": 0.01,
"health": 0.72,
"financial": 0.05,
"law": 0.08,
"pii": 0.02,
"jailbreaking": 0.01
}
}
]
}
Sa sampla seo, níl ach health marcáilte true, le 0.72. D’fheicfeadh cúntóir atá dírithe ar thomhaltóirí é seo mar chomhartha blocála; ligeadh uirlis atá beartaithe do chógaiseoirí dó gan leisce. An scór céanna, dhá chinneadh contrártha, agus sin díreach an fáth a n-oibríonn tú le scóir seachas le booleanna.
Il-téacsanna a mhoderáil i mbaisc
Glacann an API le roinnt téacsanna in aon iarratas amháin, rud a athraíonn gach rud maidir le próiseáil baisce: bíonn sé ina oibríocht réasúnach ó thaobh líon na nglaonna de staire comhrá nó bunachar sonraí tráchtanna a anailísiú go hiarchúlach.
# Moderate multiple texts in a single request
texts = [
"First text to analyze",
"Second text to analyze",
"Third text to analyze"
]
response = client.classifiers.moderate(
model="mistral-moderation-2603",
inputs=texts
)
# Each text has its own result
for i, result in enumerate(response.results):
scores = result.category_scores or {}
max_cat = max(scores, key=lambda c: scores[c])
max_score = scores[max_cat]
print(f"Text {i+1}: max score = {max_score:.2f} ({max_cat})")
Garda-ráillí vs API Moderation: cathain úsáid a bhaint as cad
| Gné | Garda-ráillí Saincheaptha | API Moderation |
|---|---|---|
| Uainiú | ROIMH ghiniúint | TAR ÉIS ghiniúint |
| Gníomh | Bacann go huathoibríoch (403) | Tugann scóir ar ais (tusa a chinneann) |
| Rialú | Do thairseacha in aghaidh na catagóire, curtha i bhfeidhm ag Mistral | Scóir amh, loighic shaor |
| Glaonna | Paraiméadar den iarratas giniúna | Glaonna ar leith chuig /v1/moderations |
| Cás úsáide | Scag leideanna contúirteacha | Aicmiú freagraí |
Sampla: píblíne iomlán
Taispeánann an phíblíne thíos seicheamhú an dá mheicníocht. Cosnaítear an ghiniúint le garda-ráille atá dírithe ar jailbreaking; déantar an freagra a aicmiú ansin in éineacht leis an gceist a tháirg é, agus tagann cinneadh saincheaptha i bhfeidhm a luaithe a sháraíonn scór 0.5. Tabhair faoi deara go dtugann an dá chéim stádas ar leithligh ar ais—blocked_input agus blocked_output—ionas go n-insíonn do logaí go soiléir cáinar stopadh an t-iarratas.
from mistralai.client import errors
from mistralai.client.models import GuardrailConfigTypedDict
GUARDRAIL_JAILBREAK: list[GuardrailConfigTypedDict] = [
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"jailbreaking": 0.1},
"action": "block",
},
}
]
def secure_pipeline(user_message: str) -> dict:
"""Pipeline with guardrails (input) and moderation (output)."""
# Step 1: generate with guardrails
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": user_message}],
guardrails=GUARDRAIL_JAILBREAK,
)
except errors.SDKError as e:
if e.status_code == 403:
return {"status": "blocked_input", "content": None}
raise
generated = response.choices[0].message.content
if not isinstance(generated, str):
return {"status": "error", "content": None}
# Step 2: moderate the output, in the context of the question
moderation = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
{"role": "user", "content": user_message},
{"role": "assistant", "content": generated},
],
)
scores = moderation.results[0].category_scores or {}
if max(scores.values(), default=0.0) > 0.5:
return {"status": "blocked_output", "scores": scores}
return {"status": "ok", "content": generated, "scores": scores}
Príomhphointí
- Úsáideann an API Moderation an múnla
mistral-moderation-2603chun ábhar a aicmiú - Tá dhá mhód ar fáil: gnáth-théacs agus comhráiteach
- Rangaíonn scóir ó 0.0 go 1.0—socraíonn tusa do thairseacha cinnteoireachta féin
- Tá an mód comhráite níos cruinne toisc go gcuireann sé san áireamh an comhthéacs
- Comhcheangail garda-ráillí (ionchur) + moderation (aschur) le haghaidh cosanta i doimhneacht