Cumraigh cosaintí i bPython
Ar an leathanach seo
An ceacht athscríofa an 3 Samhain, 2026. Sa leagan roimhe seo, chumraítí cosaintí ag baint úsáide as foclóir bréige (
enabled), catagóirí nach raibh ann (hate,violence,unpredictable), agus maíodh go gcoinníodh catagóirí gan liosta “tairseacha réamhshocraithe”. Chuaigh sé i muiníne.status_code == 3201freisin, cé gur cód earráide sa chorp freagartha é3201, seachas stádas HTTP. Leanann an chumraíocht anois an formáid oifigiúil, agus tá an cód fíoraithe i gcoinne cineálacha SDKmistralai3.7.0. Foinse: Moderation & Guardrailing · mistralai Python SDK.
Ón teoiric go dtí an cód
Tuigeann tú anois conas a oibríonn cosaintí. Sa cheacht seo, cumraífidh tú go beacht iad: roghnaigh do chatagóirí, sainigh do thairseacha, agus láimhseáil bacainní i do chód Python.
Tosaigh leis an SDK Mistral suiteáilte (éilíonn cosaintí leagan 2 nó níos déanaí) agus eochair API luchtaithe ón timpeallacht seachas a bheith crua-chódaithe.
pip install "mistralai>=2"
import os
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
An paraiméadar guardrails go mion
Is liosta é an paraiméadar guardrails. Péireálann gach mír an rogha block_on_error le cumraíocht moderation_llm_v2, ina bhfuil tairseacha, an rogha ignore_other_categories, agus an gníomh:
from mistralai.client.models import GuardrailConfigTypedDict
GUARDRAILS: list[GuardrailConfigTypedDict] = [
{
# Bac má theipeann ar an meastóireacht féin
"block_on_error": True,
"moderation_llm_v2": {
# Tairseacha in aghaidh na catagóire, ó 0 go 1 (cuireann 1 an chatagóir as feidhm)
"custom_category_thresholds": {
"sexual": 0.2,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.3,
"dangerous": 0.2,
"criminal": 0.1,
"selfharm": 0.1,
"health": 0.5,
"financial": 0.5,
"law": 0.5,
"pii": 0.2,
"jailbreaking": 0.1,
},
"ignore_other_categories": False,
# Gníomh nuair a sháraítear an tairseach
"action": "block",
},
}
]
Is é mistral-moderation-2603 an tsamhail mhodhnúcháin réamhshocraithe; ligeann an eochair roghnach model_name duit ceann difriúil a shonrú.
Níl an nóta cineáil list[GuardrailConfigTypedDict] riachtanach, ach fiú é a úsáid: déanann an SDK cur síos ar gach eochair atá ceadaithe, mar sin cuirfidh seiceálaí cineáil cosúil le pyright nó mypy in iúl duit má tá catagóir mílitrithe agat (violence in ionad violence_and_threats) rud nach mbraithfeadh an API féin.
custom_category_thresholds
Seo croílár na cumraíochta. Faigheann gach catagóir tairseach idir 0 agus 1, a ndéantar comparáid idir é agus an scór a thugann an t-aicmitheoir don leid. Dá ísle an tairseach, is ea is mó a bhacann an scagaire, ach tá an baol ann go ndiúltófar iarratais dlisteanacha. Cuireann tairseach de 1 an chatagóir as feidhm go sonrach. Ní fhoilsíonn Mistral greille luachanna molta: caithfidh tú iad seo a chalabrú ar do shamplaí féin (ceacht 7).
Níl ciall ag luachanna ach i gcomhthéacs d’iarratais. Glasálann chatbot poiblí catagóirí íogair ag na socruithe is ísle, cé go gcaithfidh uirlis inmheánach do ghairmithe cúraim sláinte ceisteanna leighis a cheadú agus a bheith dian fós ar shonraí pearsanta.
# Chatbot poiblí: tairseacha an-íseal
public_thresholds = {
"sexual": 0.1,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.1,
"criminal": 0.1,
"selfharm": 0.1,
}
# Uirlis leighis inmheánach: sláinte as feidhm, PII faoi mhaoirseacht fós
medical_thresholds = {
"sexual": 0.2,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.3,
"health": 1, # cuireann sé an chatagóir as feidhm: is é feidhm lárnach na huirlise ná ceisteanna leighis
"pii": 0.1,
}
Catagóirí nach liostaíonn tú
Cad a tharlaíonn do chatagóirí atá in easnamh ó custom_category_thresholds? Ní luaitear go soiléir é sa doiciméadú, ach tá sampla blocála insinteach: feictear catagóirí gan liosta ann le tairseach de 1.0, luaite ach gan éifeacht. Ná bíodh muinín agat as tairseach réamhshocraithe: liostaigh gach catagóir ar chóir bac a chur uirthi.
Rialaíonn an rogha ignore_other_categories cad a dhéantar meastóireacht air agus cad a fhilltear. Nuair a shocraítear ar False, feictear gach catagóir a rinneadh meastóireacht uirthi sa toradh; nuair a shocraítear ar True, ní dhéantar meastóireacht ach ar na cinn a liostaigh tú.
TARGETED_GUARDRAILS: list[GuardrailConfigTypedDict] = [
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.2,
},
"ignore_other_categories": True, # ní dhéantar meastóireacht ach ar an dá chatagóir seo
"action": "block",
},
}
]
Rabhadh: leis an gcumraíocht seo, rachadh iarracht jailbreak nó iarratas ar shonraí pearsanta tríd gan seiceáil. Srian an liosta ach amháin ar chúis shonrach.
Sampla iomlán: chatbot le cosaintí
Seo feidhm íosta: seolann sí an teachtaireacht leis an gcumraíocht iomlán agus tiontaíonn sí bac ina fhreagra inléite don úsáideoir.
from mistralai.client import errors
def chat_securise(message_utilisateur: str) -> str:
"""Seolann teachtaireacht atá cosanta ag cosaintí."""
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": "You are a professional assistant."},
{"role": "user", "content": message_utilisateur},
],
guardrails=GUARDRAILS,
)
except errors.SDKError as e:
if e.status_code == 403:
return "Tá brón orm, ní féidir an t-iarratas seo a phróiseáil."
raise
contenu = response.choices[0].message.content
return contenu if isinstance(contenu, str) else ""
print(chat_securise("Mínigh foghlaim mheaisín dom"))
Dá nóta. Is féidir le message.content a bheith ina shreang nó ina liosta páirteanna ag brath ar an tsamhail, dá bhrí sin an seiceáil isinstance. Agus ní nochtann an freagra ó chat.complete() scóir cosanta in SDK 3.7.0: chun iad a logáil, úsáid an Conversations API, a iompraíonn iad sa réimse guardrails ina fhreagra.
Láimhseáil earráidí blocála go glan
Caithfidh tú idirdhealú a dhéanamh idir dhá theip nach éilíonn an teachtaireacht chéanna ná an t-aláram céanna: bac polasaí ábhair, a fhilltear stádas HTTP 403, agus teip meastóireachta modhnúcháin le block_on_error cumasaithe, a chuireann corp an fhreagra in iúl leis an gcód 3201. Tagann an dá cheann mar errors.SDKError, ina bhfuil an JSON a fhill an API sa réimse body:
import json
from typing import Any
from mistralai.client import errors
def chat_avec_gestion_erreurs(message_utilisateur: str) -> dict[str, Any]:
"""Comhrá a dhéanann idirdhealú idir bacainní polasaí agus teipeanna modhnúcháin."""
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": message_utilisateur}],
guardrails=GUARDRAILS,
)
except errors.SDKError as e:
try:
corps = json.loads(e.body)
except json.JSONDecodeError:
raise e
if corps.get("code") == 3201:
return {
"status": "error",
"content": "Níl an tseirbhís modhnúcháin ar fáil. Cuireadh bac ar an iarratas mar réamhchúram.",
}
if e.status_code == 403:
decisions = corps["guardrails"]["results"]["moderation_llm_v2"]["decisions"]
return {
"status": "blocked",
"content": "Bacadh do theachtaireacht de bhár ár bpolasaí slándála.",
"categories": [nom for nom, d in decisions.items() if d["violated"]],
}
raise
return {"status": "ok", "content": response.choices[0].message.content}
Seiceáil cód 3201 ar dtús, toisc nach sonraíonn an doiciméadú an stádas HTTP don earráid seo. Tagann catagóirí sáraithe ó decisions, á a dtugann gach iontráil threshold, score, agus violated: seo an rud a logálfaidh tú chun bac a mhíniú.
Dea-chleachtais chumraíochta
Tosaigh go sriantach, ansin scaoil beagán. Cuidíonn tairseacha ísle ag am seolta leat bréag-dheimhnithe a aimsiú agus tá an toirt fós inbhainistithe, agus déantar gach méadú bunaithe ar chásanna breathnaithe seachas ar intuíocht:
# Céim 1: seoladh (an-sriantach)
phase1 = {"hate_and_discrimination": 0.1, "violence_and_threats": 0.1, "criminal": 0.1}
# Céim 2: tar éis anailís a dhéanamh ar bhréag-dheimhnithe
phase2 = {"hate_and_discrimination": 0.15, "violence_and_threats": 0.25, "criminal": 0.1}
# Céim 3: táirgeadh cobhsaí
phase3 = {"hate_and_discrimination": 0.2, "violence_and_threats": 0.3, "criminal": 0.15}
Léiríonn na luachanna seo an cur chuige; tiocfaidh do chuid féin ó do thomhais féin. Coinnigh block_on_error socraithe ar True sa táirgeadh: is é False a luach réamhshocraithe san SDK, agus ansin ligfeadh teip modhnúcháin ábhar gan fhíorú tríd. Ar deireadh, rabhaidh an doiciméadú go n-éabhlóidíonn an tsamhail mhodhnúcháin: d’fhéadfadh polasaithe bunaithe ar scóir athchalabrú a éileamh.
Príomhphointí
- Is liosta é
guardrailsd’objeict{"block_on_error": ..., "moderation_llm_v2": {...}} - Laistigh de
moderation_llm_v2:custom_category_thresholds,ignore_other_categories,action, agus go roghnachmodel_name - Tairseacha ó
0go1; is ea is ísle is ea is sriantaí; cuireann1catagóir as feidhm. Liostaigh gach catagóir ar chóir bac a chur uirthi - Ardaíonn bac
errors.SDKErrorlestatus_code == 403; iompraíonn teip leblock_on_errorcód3201sa chorp - Coinnigh
block_on_error=Truesa táirgeadh, mar is éFalsean luach réamhshocraithe