Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Cumraigh cosaintí i bPython

Ceacht 3 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Ón teoiric go dtí an cód
  2. An paraiméadar guardrails go mion
  3. Sampla iomlán: chatbot le cosaintí
  4. Láimhseáil earráidí blocála go glan
  5. Dea-chleachtais chumraíochta
  6. Príomhphointí

An ceacht athscríofa an 3 Samhain, 2026. Sa leagan roimhe seo, chumraítí cosaintí ag baint úsáide as foclóir bréige (enabled), catagóirí nach raibh ann (hate, violence, unpredictable), agus maíodh go gcoinníodh catagóirí gan liosta “tairseacha réamhshocraithe”. Chuaigh sé i muinín e.status_code == 3201 freisin, cé gur cód earráide sa chorp freagartha é 3201, seachas stádas HTTP. Leanann an chumraíocht anois an formáid oifigiúil, agus tá an cód fíoraithe i gcoinne cineálacha SDK mistralai 3.7.0. Foinse: Moderation & Guardrailing · mistralai Python SDK.

Ón teoiric go dtí an cód

Tuigeann tú anois conas a oibríonn cosaintí. Sa cheacht seo, cumraífidh tú go beacht iad: roghnaigh do chatagóirí, sainigh do thairseacha, agus láimhseáil bacainní i do chód Python.

Tosaigh leis an SDK Mistral suiteáilte (éilíonn cosaintí leagan 2 nó níos déanaí) agus eochair API luchtaithe ón timpeallacht seachas a bheith crua-chódaithe.

pip install "mistralai>=2"
import os

from mistralai.client import Mistral

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

An paraiméadar guardrails go mion

Is liosta é an paraiméadar guardrails. Péireálann gach mír an rogha block_on_error le cumraíocht moderation_llm_v2, ina bhfuil tairseacha, an rogha ignore_other_categories, agus an gníomh:

from mistralai.client.models import GuardrailConfigTypedDict

GUARDRAILS: list[GuardrailConfigTypedDict] = [
    {
        # Bac má theipeann ar an meastóireacht féin
        "block_on_error": True,
        "moderation_llm_v2": {
            # Tairseacha in aghaidh na catagóire, ó 0 go 1 (cuireann 1 an chatagóir as feidhm)
            "custom_category_thresholds": {
                "sexual": 0.2,
                "hate_and_discrimination": 0.1,
                "violence_and_threats": 0.3,
                "dangerous": 0.2,
                "criminal": 0.1,
                "selfharm": 0.1,
                "health": 0.5,
                "financial": 0.5,
                "law": 0.5,
                "pii": 0.2,
                "jailbreaking": 0.1,
            },
            "ignore_other_categories": False,
            # Gníomh nuair a sháraítear an tairseach
            "action": "block",
        },
    }
]

Is é mistral-moderation-2603 an tsamhail mhodhnúcháin réamhshocraithe; ligeann an eochair roghnach model_name duit ceann difriúil a shonrú.

Níl an nóta cineáil list[GuardrailConfigTypedDict] riachtanach, ach fiú é a úsáid: déanann an SDK cur síos ar gach eochair atá ceadaithe, mar sin cuirfidh seiceálaí cineáil cosúil le pyright nó mypy in iúl duit má tá catagóir mílitrithe agat (violence in ionad violence_and_threats) rud nach mbraithfeadh an API féin.

custom_category_thresholds

Seo croílár na cumraíochta. Faigheann gach catagóir tairseach idir 0 agus 1, a ndéantar comparáid idir é agus an scór a thugann an t-aicmitheoir don leid. Dá ísle an tairseach, is ea is mó a bhacann an scagaire, ach tá an baol ann go ndiúltófar iarratais dlisteanacha. Cuireann tairseach de 1 an chatagóir as feidhm go sonrach. Ní fhoilsíonn Mistral greille luachanna molta: caithfidh tú iad seo a chalabrú ar do shamplaí féin (ceacht 7).

Níl ciall ag luachanna ach i gcomhthéacs d’iarratais. Glasálann chatbot poiblí catagóirí íogair ag na socruithe is ísle, cé go gcaithfidh uirlis inmheánach do ghairmithe cúraim sláinte ceisteanna leighis a cheadú agus a bheith dian fós ar shonraí pearsanta.

# Chatbot poiblí: tairseacha an-íseal
public_thresholds = {
    "sexual": 0.1,
    "hate_and_discrimination": 0.1,
    "violence_and_threats": 0.1,
    "criminal": 0.1,
    "selfharm": 0.1,
}

# Uirlis leighis inmheánach: sláinte as feidhm, PII faoi mhaoirseacht fós
medical_thresholds = {
    "sexual": 0.2,
    "hate_and_discrimination": 0.1,
    "violence_and_threats": 0.3,
    "health": 1,   # cuireann sé an chatagóir as feidhm: is é feidhm lárnach na huirlise ná ceisteanna leighis
    "pii": 0.1,
}

Catagóirí nach liostaíonn tú

Cad a tharlaíonn do chatagóirí atá in easnamh ó custom_category_thresholds? Ní luaitear go soiléir é sa doiciméadú, ach tá sampla blocála insinteach: feictear catagóirí gan liosta ann le tairseach de 1.0, luaite ach gan éifeacht. Ná bíodh muinín agat as tairseach réamhshocraithe: liostaigh gach catagóir ar chóir bac a chur uirthi.

Rialaíonn an rogha ignore_other_categories cad a dhéantar meastóireacht air agus cad a fhilltear. Nuair a shocraítear ar False, feictear gach catagóir a rinneadh meastóireacht uirthi sa toradh; nuair a shocraítear ar True, ní dhéantar meastóireacht ach ar na cinn a liostaigh tú.

TARGETED_GUARDRAILS: list[GuardrailConfigTypedDict] = [
    {
        "block_on_error": True,
        "moderation_llm_v2": {
            "custom_category_thresholds": {
                "hate_and_discrimination": 0.1,
                "violence_and_threats": 0.2,
            },
            "ignore_other_categories": True,  # ní dhéantar meastóireacht ach ar an dá chatagóir seo
            "action": "block",
        },
    }
]

Rabhadh: leis an gcumraíocht seo, rachadh iarracht jailbreak nó iarratas ar shonraí pearsanta tríd gan seiceáil. Srian an liosta ach amháin ar chúis shonrach.

Sampla iomlán: chatbot le cosaintí

Seo feidhm íosta: seolann sí an teachtaireacht leis an gcumraíocht iomlán agus tiontaíonn sí bac ina fhreagra inléite don úsáideoir.

from mistralai.client import errors


def chat_securise(message_utilisateur: str) -> str:
    """Seolann teachtaireacht atá cosanta ag cosaintí."""
    try:
        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[
                {"role": "system", "content": "You are a professional assistant."},
                {"role": "user", "content": message_utilisateur},
            ],
            guardrails=GUARDRAILS,
        )
    except errors.SDKError as e:
        if e.status_code == 403:
            return "Tá brón orm, ní féidir an t-iarratas seo a phróiseáil."
        raise

    contenu = response.choices[0].message.content
    return contenu if isinstance(contenu, str) else ""


print(chat_securise("Mínigh foghlaim mheaisín dom"))

Dá nóta. Is féidir le message.content a bheith ina shreang nó ina liosta páirteanna ag brath ar an tsamhail, dá bhrí sin an seiceáil isinstance. Agus ní nochtann an freagra ó chat.complete() scóir cosanta in SDK 3.7.0: chun iad a logáil, úsáid an Conversations API, a iompraíonn iad sa réimse guardrails ina fhreagra.

Láimhseáil earráidí blocála go glan

Caithfidh tú idirdhealú a dhéanamh idir dhá theip nach éilíonn an teachtaireacht chéanna ná an t-aláram céanna: bac polasaí ábhair, a fhilltear stádas HTTP 403, agus teip meastóireachta modhnúcháin le block_on_error cumasaithe, a chuireann corp an fhreagra in iúl leis an gcód 3201. Tagann an dá cheann mar errors.SDKError, ina bhfuil an JSON a fhill an API sa réimse body:

import json
from typing import Any

from mistralai.client import errors


def chat_avec_gestion_erreurs(message_utilisateur: str) -> dict[str, Any]:
    """Comhrá a dhéanann idirdhealú idir bacainní polasaí agus teipeanna modhnúcháin."""
    try:
        response = client.chat.complete(
            model="mistral-large-latest",
            messages=[{"role": "user", "content": message_utilisateur}],
            guardrails=GUARDRAILS,
        )
    except errors.SDKError as e:
        try:
            corps = json.loads(e.body)
        except json.JSONDecodeError:
            raise e

        if corps.get("code") == 3201:
            return {
                "status": "error",
                "content": "Níl an tseirbhís modhnúcháin ar fáil. Cuireadh bac ar an iarratas mar réamhchúram.",
            }
        if e.status_code == 403:
            decisions = corps["guardrails"]["results"]["moderation_llm_v2"]["decisions"]
            return {
                "status": "blocked",
                "content": "Bacadh do theachtaireacht de bhár ár bpolasaí slándála.",
                "categories": [nom for nom, d in decisions.items() if d["violated"]],
            }
        raise

    return {"status": "ok", "content": response.choices[0].message.content}

Seiceáil cód 3201 ar dtús, toisc nach sonraíonn an doiciméadú an stádas HTTP don earráid seo. Tagann catagóirí sáraithe ó decisions, á a dtugann gach iontráil threshold, score, agus violated: seo an rud a logálfaidh tú chun bac a mhíniú.

Dea-chleachtais chumraíochta

Tosaigh go sriantach, ansin scaoil beagán. Cuidíonn tairseacha ísle ag am seolta leat bréag-dheimhnithe a aimsiú agus tá an toirt fós inbhainistithe, agus déantar gach méadú bunaithe ar chásanna breathnaithe seachas ar intuíocht:

# Céim 1: seoladh (an-sriantach)
phase1 = {"hate_and_discrimination": 0.1, "violence_and_threats": 0.1, "criminal": 0.1}

# Céim 2: tar éis anailís a dhéanamh ar bhréag-dheimhnithe
phase2 = {"hate_and_discrimination": 0.15, "violence_and_threats": 0.25, "criminal": 0.1}

# Céim 3: táirgeadh cobhsaí
phase3 = {"hate_and_discrimination": 0.2, "violence_and_threats": 0.3, "criminal": 0.15}

Léiríonn na luachanna seo an cur chuige; tiocfaidh do chuid féin ó do thomhais féin. Coinnigh block_on_error socraithe ar True sa táirgeadh: is é False a luach réamhshocraithe san SDK, agus ansin ligfeadh teip modhnúcháin ábhar gan fhíorú tríd. Ar deireadh, rabhaidh an doiciméadú go n-éabhlóidíonn an tsamhail mhodhnúcháin: d’fhéadfadh polasaithe bunaithe ar scóir athchalabrú a éileamh.

Príomhphointí

  • Is liosta é guardrails d’objeict {"block_on_error": ..., "moderation_llm_v2": {...}}
  • Laistigh de moderation_llm_v2: custom_category_thresholds, ignore_other_categories, action, agus go roghnach model_name
  • Tairseacha ó 0 go 1; is ea is ísle is ea is sriantaí; cuireann 1 catagóir as feidhm. Liostaigh gach catagóir ar chóir bac a chur uirthi
  • Ardaíonn bac errors.SDKError le status_code == 403; iompraíonn teip le block_on_error cód 3201 sa chorp
  • Coinnigh block_on_error=True sa táirgeadh, mar is é False an luach réamhshocraithe