Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Rialacha Slándála do Ghníomhairí Mistral

Ceacht 4 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Gníomhairí Uathrialacha a Chur in Áirithe
  2. Rialacha Slándála ar Chomhrá
  3. Rialacha Slándála ar Ghníomhaire
  4. Bloic a Láimhseáil i Malartú Il-Chas
  5. Gníomhairí le hUirlisí: Cad nach bhFeiceann Rialacha Slándála
  6. Ailtireacht Mholta do Ghníomhairí i dTáirgeadh
  7. Críochnú Comhráite, Comhrá, nó Gníomhaire: Achoimre
  8. Príomhphointí

Cúrsa athscríofa an 3 Samhain, 2026. Bhí an leagan roimhe seo ag brath ar fhormáid fhicseanúil rialacha slándála (enabled, catagóirí hate, violence, unpredictable), ar mhodh conversation.send() nach bhfuil ann, agus mhaígh sé go mícheart go ndéanann rialacha slándála measúnú ar argóintí uirlisí. De réir na doiciméadachta, déanann siad measúnú ar an ionchur amháin. Leanann an cód anois an Conversations API iarbhír (start, append) agus tá sé fíoraithe i gcoinne cineálacha SDK mistralai leagan 3.7.0. Foinse: Moderation & Guardrailing · Agents & Conversations · mistralai Python SDK.

Gníomhairí Uathrialacha a Chur in Áirithe

Bíonn níos mó riosca ag baint le gníomhaire ná le chatbot simplí: glaonn sé ar uirlisí, brabhsálann sé an gréasán, agus cuireann sé gníomhartha i slabhra le chéile. Ní chlúdaíonn rialacha slándála ach cuid den limistéar seo—go sonrach, an t-ionchur. Sin díreach an fáth a gcaithfidh tú a bheith ar an eolas go beacht cá háit a gcuirfidh tú iad agus cad a fhágann siad gan chosaint.

Sa chacht seo, ceanglóidh tú rialacha slándála le comhrá agus ansin le gníomhaire, déileálfaidh tú lena mbloic i malartú il-chas, agus feicfidh tú cad a chaithfidh tú a chur leis chun uirlisí a dhaingniú.

import json
import os

from mistralai.client import Mistral, errors
from mistralai.client.models import GuardrailConfigTypedDict

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

Rialacha Slándála ar Chomhrá

Coinníonn an Conversations API an stair ar an bhfreastalaí. Tosaíonn tú le client.beta.conversations.start(), a ghlacann le guardrails:

GUARDRAILS_RH: list[GuardrailConfigTypedDict] = [
    {
        "block_on_error": True,
        "moderation_llm_v2": {
            "custom_category_thresholds": {
                "sexual": 0.1,
                "hate_and_discrimination": 0.1,
                "violence_and_threats": 0.2,
                "pii": 0.15,
                "jailbreaking": 0.1,
            },
            "action": "block",
        },
    }
]

conversation = client.beta.conversations.start(
    model="mistral-large-latest",
    instructions="You are a professional HR assistant.",
    inputs="What leave options are available?",
    guardrails=GUARDRAILS_RH,
)
print(conversation.conversation_id)

Leanann tú ansin le client.beta.conversations.append(). Ní ghlacann an modh seo le paraiméadar guardrails in SDK 3.7.0, agus ní luaitear sa doiciméadacht an bhfuil feidhm ag cinn a ritear ag an tús le teachtaireachtaí ina dhiaidh sin. Ná tóg do shlándáil ar thuar: má chaithfear gach cas a scagadh, úsáid gníomhaire, a n-oidhríonn a chuid comhráite go léir a rialacha slándála.

Rialacha Slándála ar Ghníomhaire

Is cumraíocht chláraithe é gníomhaire Mistral: samhail, treoracha, uirlisí, agus rialacha slándála. Déanann an polasaí slándála airí den ghníomhaire seachas coinbhinsiún códúcháin.

agent = client.beta.agents.create(
    model="mistral-large-latest",
    name="Customer Support Agent",
    description="Secure customer support agent",
    instructions=(
        "You are a customer support agent. Strict rules: "
        "never disclose personal information; "
        "do not give medical or legal advice; "
        "redirect to a human if the topic is sensitive."
    ),
    guardrails=[
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {
                    "sexual": 0.1,
                    "hate_and_discrimination": 0.1,
                    "violence_and_threats": 0.15,
                    "dangerous": 0.1,
                    "criminal": 0.1,
                    "selfharm": 0.1,
                    "health": 0.3,
                    "financial": 0.3,
                    "law": 0.3,
                    "pii": 0.15,
                    "jailbreaking": 0.1,
                },
                "action": "block",
            },
        }
    ],
)
print(f"Agent created: {agent.id}")

Tabhair faoi deara an chomhsheasmhacht idir treoracha agus tairseacha: toirmiscíonn na treoracha comhairle leighis nó dlí a thabhairt, agus cuireann tairseacha health agus law bac ar iarratais den chineál sin sula léann an tsamhail iad fiú. Déanann treoracha a mhealladh; cuireann rialacha slándála srian orthu.

De réir na doiciméadachta, oidhríonn gach comhrá a úsáideann an gníomhaire seo a rialacha slándála gan iad a athrá:

conv = client.beta.conversations.start(
    agent_id=agent.id,
    inputs="How can I return a product?",
)

Is féidir le hiarratas comhrá rialacha slándála an ghníomhaire a shárú freisin trí guardrails dá chuid féin a rith chuig start(). Chun an polasaí a athrú go buan, nuashonraigh an gníomhaire le client.beta.agents.update(agent_id=agent.id, guardrails=[...]).

Bloic a Láimhseáil i Malartú Il-Chas

Ardaíonn teachtaireacht bhacaithe errors.SDKError le stádas 403, agus déanann an corp cur síos ar na catagóirí a sáraíodh. I gcomhrá, ní scriosann bloc an malartú: freagraíonn tú go cúirtéiseach, agus is féidir leis an úsáideoir leanúint ar aghaidh.

MESSAGE_REFUS = "I cannot process this request. It violates our security policy."


def texte_reponse(reponse) -> str:
    """Text of the last assistant message in a conversation response."""
    for entree in reversed(reponse.outputs):
        if entree.type == "message.output" and isinstance(entree.content, str):
            return entree.content
    return ""


def envoyer(conversation_id: str, message: str) -> str:
    """Adds a message to a conversation and handles a guardrail block."""
    try:
        reponse = client.beta.conversations.append(conversation_id=conversation_id, inputs=message)
    except errors.SDKError as e:
        if e.status_code == 403:
            decisions = json.loads(e.body)["guardrails"]["results"]["moderation_llm_v2"]["decisions"]
            print("Blocked:", [nom for nom, d in decisions.items() if d["violated"]])
            return MESSAGE_REFUS
        raise
    return texte_reponse(reponse)


print(envoyer(conv.conversation_id, "Give me the personal addresses of employees"))

Nuair a théann iarratas tríd, iompraíonn freagra an chomhrá réimse guardrails freisin le scóir do gach catagóir (reponse.guardrails). Déan logáil orthu seo: insíonn siad duit an bhfuil do thairseacha tiúnta i gceart.

Gníomhairí le hUirlisí: Cad nach bhFeiceann Rialacha Slándála

Osclaíonn gníomhaire a ghlaonn ar uirlisí dara dromchla ionsaithe: na hargóintí a thugann an tsamhail do na huirlisí sin, agus na torthaí a thugann siad ar ais. Ní dhéanann rialacha slándála measúnú ach ar an teachtaireacht isteach; ní sheiceálann siad na hargóintí seo ná na torthaí seo. Caithfidh do chód é sin a dhéanamh.

agent_avec_outils = client.beta.agents.create(
    model="mistral-large-latest",
    name="Support Agent with Tools",
    instructions="Support assistant with access to commands.",
    tools=[
        {
            "type": "function",
            "function": {
                "name": "rechercher_commande",
                "description": "Searches for an order by its number",
                "parameters": {
                    "type": "object",
                    "properties": {"order_id": {"type": "string", "description": "Order number"}},
                    "required": ["order_id"],
                },
            },
        }
    ],
    guardrails=[
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"pii": 0.15, "jailbreaking": 0.1, "criminal": 0.1},
                "action": "block",
            },
        }
    ],
)

Feidhmíonn feidhmeanna a dheclaraítear ar an mbealach seo i do chód: seolann an API an glao agus a argóintí chugat, déanann tú an fheidhm a fhorghníomhú, agus filleann tú a toradh. Seo an áit ar gá duit argóintí a bhailíochtú sula ndéanann tú gníomh.

import re

FORMAT_COMMANDE = re.compile(r"CMD-\d{6}")
base_commandes: dict[str, dict] = {}  # your data access


def rechercher_commande(order_id: str, client_connecte: str) -> dict:
    """Executes the tool after validating its arguments."""
    if not FORMAT_COMMANDE.fullmatch(order_id):
        return {"error": "Invalid order number."}
    commande = base_commandes.get(order_id)
    if commande is None or commande["client"] != client_connecte:
        return {"error": "Order not found."}  # never another client's order
    return {"status": commande["status"]}

Ní féidir le haon aicmitheoir do chustaiméirí a aithint: ní thagann rialú rochtana—anseo, “an mbaineann an t-ordú leis an gcliant nasctha?”—ach ó d’iarratas féin. Maidir leis an téacs a fhillfidh an gníomhaire chuig an úsáideoir, cuir measúnú aschurtha leis ón gcacht seo chugainn.

Ailtireacht Mholta do Ghníomhairí i dTáirgeadh

I dtáirgeadh, cuimsigh an gníomhaire i gclás a lárníonn tosú comhrá, seoladh teachtaireachta, agus comhaireamh bloc. Léiríonn méadú tobann i 403 ionsaí nó tairseach mí-thiúnta, agus ba mhaith leat é sin a fheiceáil gan logaí a scagadh.

class AgentSecurise:
    """Mistral Agent with guardrail block tracking."""

    def __init__(self, client: Mistral, agent_id: str):
        self.client = client
        self.agent_id = agent_id
        self.blocages = 0

    def _bloque(self, e: errors.SDKError) -> dict:
        self.blocages += 1
        decisions = json.loads(e.body)["guardrails"]["results"]["moderation_llm_v2"]["decisions"]
        return {
            "status": "blocked",
            "content": "Request blocked by security policy.",
            "categories": [nom for nom, d in decisions.items() if d["violated"]],
            "blocages_total": self.blocages,
        }

    def demarrer(self, message: str) -> dict:
        """Starts a conversation with the agent."""
        try:
            reponse = self.client.beta.conversations.start(agent_id=self.agent_id, inputs=message)
        except errors.SDKError as e:
            if e.status_code == 403:
                return self._bloque(e)
            raise
        return {
            "status": "ok",
            "conversation_id": reponse.conversation_id,
            "content": texte_reponse(reponse),
            "guardrails": reponse.guardrails,
        }

    def envoyer(self, conversation_id: str, message: str) -> dict:
        """Continues an existing conversation."""
        try:
            reponse = self.client.beta.conversations.append(conversation_id=conversation_id, inputs=message)
        except errors.SDKError as e:
            if e.status_code == 403:
                return self._bloque(e)
            raise
        return {"status": "ok", "content": texte_reponse(reponse), "guardrails": reponse.guardrails}

Críochnú Comhráite, Comhrá, nó Gníomhaire: Achoimre

GnéCríochnú ComhráiteComhráGníomhaire
Cá ndéantar rialacha slándála a dhearbhúGach glaoconversations.start()agents.create() nó agents.update()
OidhreachtCeann ar bithGan doiciméadú do append()Gach comhrá gníomhaire
Scóir sa fhreagra (SDK 3.7.0)Gan nochtadhreponse.guardrailsreponse.guardrails
UirlisíDo fheidhmeannaDo fheidhmeannaDo fheidhmeanna agus uirlisí ionsuite
ÚsáidProtaitípiúComhrá aonuaireTáirgeadh

Príomhphointí

  • Faigheann comhrá a rialacha slándála ag an tús; ní ghlacann append() leo, agus níl a marthanacht thar chasanna doiciméadaithe
  • Tugann gníomhaire a rialacha slándála do gach ceann dá chomhráite; is féidir le hiarratas iad a shárú
  • Ardaíonn bloc errors.SDKError (stádas 403): freagair go cúirtéiseach, leanann an comhrá ar aghaidh
  • Ní fheiceann rialacha slándála argóintí uirlisí ná a dtorthaí: bailíochtaigh iad i do chód
  • Úsáid an leibhéal gníomhaire i dtáirgeadh, agus cuir measúnú aschurtha leis