Slánú gníomhairí le gardaí
Ar an leathanach seo
Nuashonraithe an 3 Samhain 2026. D’úsáid an dá shampla roimhe seo
guardrails={"enabled": True}, formáid nach bhfuil ann: is liosta de chumraíochtaímoderation_llm_v2é an paraiméadar oifigiúil, le tairseach in aghaidh na catagóire. Déanann an téacs soiléiriú freisin ar an méid a deir an doiciméadacht faoina raon feidhme: ní dhéanann siad ach an teachtaireacht isteach a mhodhnú. Foinse: Moderation & Guardrailing · Agents & Conversations · SDKmistralai3.7.0.
Níl slándáil gníomhairí roghnach
Cuirtear gníomhaire uathrialaitheach a úsáideann uirlisí, a rochtaineann an t-idirlíon, agus a fhorghníomhaíonn cód i mbaol mura bhfuil srian ar a ghníomhaíochtaí. Is bunúsach an difríocht idir é agus glao críochnaithe simplí, ní hamháin ceist céime: is féidir téacs a tháirgeann samhalt a cheartú tar éis athbhreithnithe, ach tá gníomh déanta ag gníomhaire a ghníomhaíonn cheana féin. Is iad na gardaí an tacar meicníochtaí a shainíonn teorainneacha an rud is féidir le gníomhaire a dhéanamh agus nach féidir. Níl aon cheann acu leordhóthanach leis féin; is é an sraitheáil a chuireann cosaint ar fáil.
An paraiméadar guardrails
Dearbhaítear an chéad leibhéal agus an gníomhaire á chruthú.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Secure Agent",
description="Agent with guardrails enabled.",
instructions="""You are a professional assistant.
- Never share personal information
- Never generate inappropriate content
- Refuse out-of-scope requests
- If in doubt, ask for clarification""",
tools=[{"type": "web_search"}],
guardrails=[
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {
"sexual": 0.1,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.2,
"criminal": 0.1,
"selfharm": 0.1,
"pii": 0.2,
"jailbreaking": 0.2,
},
"action": "block",
},
}
],
)
Faigheann gach catagóir atá liostaithe tairseach ó 0 go 1: thar an bpointe sin, diúltaítear do theachtaireacht an úsáideora le hearráid 403 sula sroicheann sí an samhalt, agus diúltaíonn block_on_error don iarratas freisin má theipeann ar an luacháil féin. De réir na doiciméadachta, déanann gach comhrá don ghníomhaire na gardaí seo a oidhreacht. Ní dhéanann siad ach an t-ionchur a mhodhnú: ní dhéantar seiceáil orthu ar thorthaí cuardaigh gréasáin ná ar fhreagra an ghníomhaire.
Glactar leis an bparaiméadar céanna ag leibhéal an chomhrá, áit a sáraíonn sé cumraíocht an ghníomhaire. Ligeann sé seo duit iompraíocht gníomhaire roinnte a dhéanamh níos doichte go sealadach gan dara leagan den ghníomhaire sin a chruthú le haghaidh cás úsáide amháin.
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="Analyze this confidential document.",
guardrails=[ # replaces the agent's guardrails for this conversation
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"pii": 0.05, "jailbreaking": 0.1},
"action": "block",
},
}
],
)
Treoracha: do chéad líne cosanta
Fanann an chóras-leide mar an luamhán is éifeachtaí toisc go ngníomhaíonn sé roimh aon chinneadh samhalt. Scarann leide slándála dea-thógtha go soiléir an ról, an raon feidhme, na toirmisc, agus an formáid a bhfuiltear ag súil léi.
instructions = """## Role
You are a legal assistant specializing in French labor law.
## Scope
- ONLY French labor labor law
- Refuse any out-of-scope questions (tax, real estate, criminal law, etc.)
## Strict Prohibitions
- NEVER give definitive legal advice
- NEVER draft legal documents without a disclaimer
- NEVER share information about other clients
- ALWAYS mention that a lawyer must validate
## Format
- Cite relevant legal articles
- Clearly state the limits of your response
- Always propose consulting a professional"""
Tabhair faoi deara cad a dhéanann an roinn “Scope”: ní deir sí ach cad a láimhseálann an gníomhaire; ainmníonn sí go sainráite na fearainn chóngaracha ar chóir di diúltú. Gan an liostú seo, d’fhéadfadh ceist chánach a bhaineann le scaoileadh teacht tríd toisc go bhfuil sí cosúil go leor le dlí saothair don samhalt dul i mbun plé. Leanann an roinn “Strict Prohibitions” an loighic chéanna: foirmlíonn sí diúltuithe, ní moltaí. Déanann gníomhaire a insítear a bheith “cautious” a chuid cúraim féin a chalabrú; cuireann gníomhaire a toirmisceadh dréachtú gan disclaimer riail i bhfeidhm.
Prionsabal na pribhléide is lú
Is cumas é gach uirlis dhearbhaithe is féidir leis an ngníomhaire a ghluaiseacht ag an am mícheart. Déan comparáid idir an dá chumraíocht seo.
# Too many tools — large attack surface
dangerous_agent = client.beta.agents.create(
model="mistral-large-latest",
name="do-it-all-agent",
tools=[
{"type": "web_search"},
{"type": "code_interpreter"},
{"type": "image_generation"},
{"type": "document_library", "library_ids": [lib.id]}
]
)
# Principle of least privilege — only what is necessary
secure_agent = client.beta.agents.create(
model="mistral-large-latest",
name="documentation-agent",
tools=[{"type": "document_library", "library_ids": [lib.id]}]
)
Ní féidir leis an dara gníomhaire dul ar líne chun faisnéis atá in easnamh ó do dhoiciméid a fháil, ná cód a fhorghníomhú ar ábhar nár athbhreithnigh tú. Ní teorannú é seo a fhulaingíonn tú; is ráthaíocht é go dtagann a chuid freagraí ó do bhunachar eolais agus ó áit ar bith eile. Cuir ceist ort féin uirlis ar uirlis—mura féidir leat cás a aimsiú ina bhfuil gá ag an ngníomhaire leis, bain é.
Scagadh aistrithe
I gcóras il-ghníomhaire, tugann mód an chliaint vetó duit ar gach aistriú. Is leor liosta bán chun cosc a chur ar ghníomhaire amháin teacht ar ghníomhaire eile trí chonair nár thuar tú.
response = client.beta.conversations.start(
agent_id=router.id,
inputs=user_query,
handoff_execution="client"
)
ALLOWED_AGENTS = {research.id, analyst.id} # Whitelist
for entry in response.outputs:
if entry.type == "agent.handoff":
if entry.next_agent_id not in ALLOWED_AGENTS:
print(f"BLOCKED: unauthorized handoff to {entry.next_agent_id}")
continue
# Continue with the authorized agent
Tá an liosta bán i do chód, ní i gcumraíocht an ghníomhaire: fanann sé bailí fiú má chuireann duine éigin sprioc aistrithe leis an ródaire gan tú a chur ar an eolas.
Ná stóráil an rud nach gá a stóráil
Maidir le sonraí íogaire, is é an chosaint is fearr gan aon rud a stóráil.
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="Confidential data: Q1 2026 financial report...",
store=False # Nothing persists
)
Cinntear an socruithe seo in aghaidh an chomhrá, rud a ligeann duit stair malartuithe gnácha a choinneáil agus ábhar rúnda a phróiseáil i mód sealadach.
Modhnú suas an sruth
Is leagan galánta é gníomhaire modhnaithe a chur ag ceann na slabhra: déanann sé scrúdú ar an iarratas agus ní aistríonn sé chuig an speisialtóir é ach amháin má tá sé inghlactha.
moderator = client.beta.agents.create(
model="mistral-large-latest",
name="moderator",
description="Checks that requests are appropriate.",
instructions="""Analyze the user request:
- If appropriate: transfer to the specialist
- If inappropriate: politely reply that the request is not supported
- If ambiguous: ask for clarification"""
)
specialist = client.beta.agents.create(
model="mistral-large-latest",
name="specialist",
description="Handles validated requests.",
tools=[{"type": "web_search"}]
)
moderator = client.beta.agents.update(
agent_id=moderator.id,
handoffs=[specialist.id]
)
Tá luach an phatrúin seo sa scaradh róil: níl aon uirlisí ag an modhnóir agus ní dhéanann sé ach rud amháin, mar sin ní shroicheann iarratas mailíseach a dhiúltaíonn sé riamh an gníomhaire a bhfuil a fhios aige conas gníomhú.
Tiúniú giniúna
Cuireann paraiméadair chríochnaithe le slándáil freisin ar chúis shimplí: is riosca é freagra hallúcinithe, agus is é an chruthaitheacht a thalamh póraithe.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Factual Agent",
description="Factual and conservative agent.",
completion_args={
"temperature": 0.1, # Very low creativity
"top_p": 0.85, # Restricted nucleus
"max_tokens": 1024 # Short responses
}
)
Fágann teocht 0.1 péireáilte le top_p de 0.85 an-little saoirse ag an samhalt: le haghaidh ceiste a bhfuil a freagra i do dhoiciméid, faigheann sé é in ionat leagan a bhróidniú. Imríonn an cap 1024-tócan ról cosúil, toisc go dteipeann ar fhreagra a fhásann ró-fhada deireadh a chur leis an raon feidhme doiciméadaithe agus líonadh a tháirgeadh. Ní oiriúnaíonn na socruithe seo go soiléir do ghníomhaire cruthaitheach, ach is iad an chumraíocht réamhshocraithe do ghníomhaire ar bith a bhfuiltear ag súil go ndéarfaidh sé fíricí—cúntóir dlí, tacaíocht theicniúil, saineolaí táirge.
Sula dtéann tú go dtí an táirgeadh
Níl na meicníochtaí seo bailí ach nuair a shraitheáiltear iad, agus tagann an seiceáil deiridh anuas ar roinnt fíoruithe. Caithfidh treoracha raon feidhme agus toirmisc a shainiú go sainráite, agus ní mór nach mbeadh ag an ngníomhaire ach na huirlisí atá riachtanach go docht dá thasc. Fíoraigh go bhfuil gardaí cumasaithe, agus go ritheann sreabha oibre criticiúla i mód cliant ionas nach ndéantar aon aistriú gan do chead. Déan cinnte go mbíonn store=False in éineacht le haon chomhrá a bhaineann le sonraí íogaire, agus go bhfanann an teocht íseal áit a bhfuiltear ag súil go bhfanfaidh an gníomhaire fíriciúil. Ar deireadh, cuir gníomhaire modhnaithe os comhair na slabhra ionas nach sroicheann iarratais dofhorghlactha riamh na gníomhairí a bhfuil a fhios acu conas gníomhú.
Príomhphointí
- Cumraítear gardaí ag leibhéal an ghníomhaire agus/nó an chomhrá
- Is í do chéad líne cosanta iad na treoracha—bí sainráite faoi thoirmsc
- Cuir prionsabal na pribhléide is lú i bhfeidhm: ná tabhair ach na huirlisí is gá
- Ligeann mód an chliaint duit aistrithe neamhúdaraithe a bhailíochtú agus a bhlocáil
- Sa táirgeadh: modhnú suas an sruth, logáil, liosta bán gníomhairí, store=False do shonraí íogaire