Ασφάλιση πρακτόρων με δικλείδες ασφαλείας
Σε αυτήν τη σελίδα
- Η ασφάλεια των πρακτόρων δεν είναι προαιρετική
- Η παράμετρος guardrails
- Οδηγίες: η πρώτη σας γραμμή άμυνας
- Η αρχή του ελάχιστου προνομίου
- Φιλτράρισμα των handoffs
- Μην αποθηκεύετε ό,τι δεν χρειάζεται να αποθηκευτεί
- Moderation upstream (ανάντη)
- Ρύθμιση της παραγωγής (Tune generation)
- Πριν πάτε σε παραγωγή
- Βασικά σημεία
Ενημερώθηκε στις 3 Νοεμβρίου 2026. Και τα δύο παραδείγματα περνούσαν προηγουμένως την παράμετρο
guardrails={"enabled": True}, μια μορφή που δεν υπάρχει: η επίσημη παράμετρος είναι μια λίστα διαμορφώσεωνmoderation_llm_v2, με ένα κατώφλι ανά κατηγορία. Το κείμενο διευκρινίζει επίσης τι αναφέρει η τεκμηρίωση σχετικά με το πεδίο εφαρμογής τους: moderάρουν μόνο το εισερχόμενο μήνυμα. Πηγές: Moderation & Guardrailing · Agents & Conversations · SDKmistralai3.7.0.
Η ασφάλεια των πρακτόρων δεν είναι προαιρετική
Ένας αυτόνομος πράκτορας που χρησιμοποιεί εργαλεία, έχει πρόσβαση στο διαδίκτυο και εκτελεί κώδικα ενέχει κίνδυνο εάν οι ενέργειές του δεν είναι περιορισμένες. Η διαφορά από μια απλή κλήση ολοκλήρωσης (completion) είναι θεμελιώδης, όχι απλώς θέμα βαθμού: ένα μοντέλο που παράγει κείμενο μπορεί να διορθωθεί κατά την αναθεώρηση, αλλά ένας πράκτορας που ενεργεί έχει ήδη δράσει. Οι δικλείδες ασφαλείας (guardrails) είναι το σύνολο των μηχανισμών που ορίζουν τα όρια του τι μπορεί και τι δεν μπορεί να κάνει ένας πράκτορας. Κανένας από αυτούς δεν αρκεί από μόνος του· είναι η στρωματοποίησή τους που παρέχει προστασία.
Η παράμετρος guardrails
Το πρώτο επίπεδο δηλώνεται κατά τη δημιουργία του πράκτορα.
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Secure Agent",
description="Agent with guardrails enabled.",
instructions="""You are a professional assistant.
- Never share personal information
- Never generate inappropriate content
- Refuse out-of-scope requests
- If in doubt, ask for clarification""",
tools=[{"type": "web_search"}],
guardrails=[
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {
"sexual": 0.1,
"hate_and_discrimination": 0.1,
"violence_and_threats": 0.2,
"criminal": 0.1,
"selfharm": 0.1,
"pii": 0.2,
"jailbreaking": 0.2,
},
"action": "block",
},
}
],
)
Κάθε αναφερόμενη κατηγορία λαμβάνει ένα κατώφλι από 0 έως 1: πέρα από αυτό το σημείο, το μήνυμα του χρήστη απορρίπτεται με σφάλμα 403 πριν φτάσει στο μοντέλο, και το block_on_error απορρίπτει επίσης το αίτημα εάν αποτύχει η ίδια η αξιολόγηση. Σύμφωνα με την τεκμηρίωση, όλες οι συνομιλίες για τον πράκτορα κληρονομούν αυτές τις δικλείδες ασφαλείας. Αυτές moderάρουν μόνο την είσοδο: ούτε τα αποτελέσματα της αναζήτησης στον ιστό ούτε η απάντηση του πράκτορα ελέγχονται από αυτές.
Η ίδια παράμετρος γίνεται δεκτή και στο επίπεδο της συνομιλίας, όπου παρακάμπτει τη διαμόρφωση του πράκτορα. Αυτό σας επιτρέπει να σφίξετε προσωρινά τη συμπεριφορά ενός κοινόχρηστου πράκτορα χωρίς να δημιουργήσετε μια δεύτερη έκδοση αυτού του πράκτορα για μια μεμονωμένη περίπτωση χρήσης.
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="Analyze this confidential document.",
guardrails=[ # replaces the agent's guardrails for this conversation
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"pii": 0.05, "jailbreaking": 0.1},
"action": "block",
},
}
],
)
Οδηγίες: η πρώτη σας γραμμή άμυνας
Το prompt συστήματος παραμένει ο πιο αποτελεσματικός μοχλός επειδή δρα πριν από οποιαδήποτε απόφαση του μοντέλου. Ένα καλά δομημένο prompt ασφαλείας διαχωρίζει σαφώς τον ρόλο, το πεδίο εφαρμογής, τις απαγορεύσεις και την αναμενόμενη μορφή.
instructions = """## Role
You are a legal assistant specializing in French labor law.
## Scope
- ONLY French labor law
- Refuse any out-of-scope questions (tax, real estate, criminal law, etc.)
## Strict Prohibitions
- NEVER give definitive legal advice
- NEVER draft legal documents without a disclaimer
- NEVER share information about other clients
- ALWAYS mention that a lawyer must validate
## Format
- Cite relevant legal articles
- Clearly state the limits of your response
- Always propose consulting a professional"""
Παρατηρήστε τι κάνει η ενότητα «Scope»: δεν λέει απλώς τι χειρίζεται ο πράκτορας· ονομάζει ρητά τις adjacent περιοχές που πρέπει να απορρίψει. Χωρίς αυτή την απαρίθμηση, μια φορολογική ερώτηση σχετική με μια απόλυση θα μπορούσε να περάσει επειδή μοιάζει αρκετά με το εργατικό δίκαιο ώστε το μοντέλο να εμπλακεί. Η ενότητα «Strict Prohibitions» ακολουθεί την ίδια λογική: διατυπώνει απορρίψεις, όχι συστάσεις. Ένας πράκτορας στον οποίο λέγεται να είναι «προσεκτικός» βαθμονομεί μόνος του την προσοχή του· ένας πράκτορας στον οποίο απαγορεύεται η σύνταξη χωρίς αποποίηση ευθύνης εφαρμόζει έναν κανόνα.
Η αρχή του ελάχιστου προνομίου
Κάθε δηλωμένο εργαλείο είναι μια ικανότητα που ο πράκτορας μπορεί να κινητοποιήσει την λάθος στιγμή. Συγκρίνετε αυτές τις δύο διαμορφώσεις.
# Too many tools — large attack surface
dangerous_agent = client.beta.agents.create(
model="mistral-large-latest",
name="do-it-all-agent",
tools=[
{"type": "web_search"},
{"type": "code_interpreter"},
{"type": "image_generation"},
{"type": "document_library", "library_ids": [lib.id]}
]
)
# Principle of least privilege — only what is necessary
secure_agent = client.beta.agents.create(
model="mistral-large-latest",
name="documentation-agent",
tools=[{"type": "document_library", "library_ids": [lib.id]}]
)
Ο δεύτερος πράκτορας δεν μπορεί να συνδεθεί online για να ανακτήσει πληροφορίες που λείπουν από τα έγγραφά σας, ούτε να εκτελέσει κώδικα σε περιεχόμενο που δεν έχετε αναθεωρήσει. Αυτό δεν είναι ένας περιορισμός που υφίσταστε· είναι η εγγύηση ότι οι απαντήσεις του προέρχονται από τη βάση γνώσεών σας και από πουθενά αλλού. Ρωτήστε τον εαυτό σας εργαλείο προς εργαλείο—αν δεν μπορείτε να βρείτε ένα σενάριο όπου ο πράκτορας το χρειάζεται, αφαιρέστε το.
Φιλτράρισμα των handoffs
Σε ένα σύστημα πολλαπλών πρακτόρων, η λειτουργία client (πελάτη) σας δίνει δικαίωμα veto σε κάθε handoff. Μια λευκή λίστα (whitelist) αρκεί για να αποτρέψει έναν πράκτορα από το να φτάσει σε έναν άλλον μέσω μιας διαδρομής που δεν προβλέψατε.
response = client.beta.conversations.start(
agent_id=router.id,
inputs=user_query,
handoff_execution="client"
)
ALLOWED_AGENTS = {research.id, analyst.id} # Whitelist
for entry in response.outputs:
if entry.type == "agent.handoff":
if entry.next_agent_id not in ALLOWED_AGENTS:
print(f"BLOCKED: unauthorized handoff to {entry.next_agent_id}")
continue
# Continue with the authorized agent
Η λευκή λίστα ζει στον κώδικά σας, όχι στη διαμόρφωση του πράκτορα: παραμένει έγκυρη ακόμα και αν κάποιος προσθέσει έναν στόχο handoff στον δρομολογητή χωρίς να σας ειδοποιήσει.
Μην αποθηκεύετε ό,τι δεν χρειάζεται να αποθηκευτεί
Για ευαίσθητα δεδομένα, η καλύτερη προστασία είναι να μην αποθηκεύετε τίποτα.
response = client.beta.conversations.start(
agent_id=agent.id,
inputs="Confidential data: Q1 2026 financial report...",
store=False # Nothing persists
)
Αυτή η ρύθμιση αποφασίζεται ανά συνομιλία, κάτι που σας επιτρέπει να διατηρείτε το ιστορικό των συνηθισμένων ανταλλαγών ενώ επεξεργάζεστε εμπιστευτικό περιεχόμενο σε εφήμερη λειτουργία.
Moderation upstream (ανάντη)
Μια κομψή παραλλαγή είναι η τοποθέτηση ενός πράκτορα moderation στην κεφαλή της αλυσίδας: εξετάζει το αίτημα και το μεταφέρει στον ειδικό μόνο εάν είναι αποδεκτό.
moderator = client.beta.agents.create(
model="mistral-large-latest",
name="moderator",
description="Checks that requests are appropriate.",
instructions="""Analyze the user request:
- If appropriate: transfer to the specialist
- If inappropriate: politely reply that the request is not supported
- If ambiguous: ask for clarification"""
)
specialist = client.beta.agents.create(
model="mistral-large-latest",
name="specialist",
description="Handles validated requests.",
tools=[{"type": "web_search"}]
)
moderator = client.beta.agents.update(
agent_id=moderator.id,
handoffs=[specialist.id]
)
Η αξία αυτού του μοτίβου έγκειται στον διαχωρισμό των ρόλων: ο moderator δεν έχει εργαλεία και κάνει μόνο ένα πράγμα, έτσι ένα κακόβουλο αίτημα που απορρίπτει δεν φτάνει ποτέ στον πράκτορα που ξέρει πώς να δράσει.
Ρύθμιση της παραγωγής (Tune generation)
Οι παράμετροι ολοκλήρωσης συμβάλλουν επίσης στην ασφάλεια για έναν απλό λόγο: μια παραισθησιογόνα (hallucinated) απάντηση είναι κίνδυνος, και η δημιουργικότητα είναι το έδαφος αναπαραγωγής της.
agent = client.beta.agents.create(
model="mistral-large-latest",
name="Factual Agent",
description="Factual and conservative agent.",
completion_args={
"temperature": 0.1, # Very low creativity
"top_p": 0.85, # Restricted nucleus
"max_tokens": 1024 # Short responses
}
)
Μια θερμοκρασία 0.1 σε συνδυασμό με top_p 0.85 αφήνει στο μοντέλο πολύ μικρό περιθώριο ελιγμών: για μια ερώτηση της οποίας η απάντηση εμφανίζεται στα έγγραφά σας, την ανακτά αντί να κεντήσει μια παραλλαγή. Το όριο των 1024 token παίζει παρόμοιο ρόλο, επειδή μια απάντηση που μεγαλώνει υπερβολικά τελικά αποκλίνει από το τεκμηριωμένο πεδίο εφαρμογής και παράγει περιττό περιεχόμενο (filler). Αυτές οι ρυθμίσεις προφανώς δεν ταιριάζουν σε έναν δημιουργικό πράκτορα, αλλά αποτελούν την προεπιλεγμένη διαμόρφωση για οποιονδήποτε πράκτορα αναμένεται να διατυπώνει γεγονότα—νομικός σύμβουλος, τεχνική υποστήριξη, ειδικός προϊόντος.
Πριν πάτε σε παραγωγή
Αυτοί οι μηχανισμοί ισχύουν μόνο όταν είναι στρωματοποιημένοι, και ο τελικός έλεγχος ανάγεται σε μερικές επαληθεύσεις. Οι οδηγίες πρέπει να ορίζουν ρητά το πεδίο εφαρμογής και τις απαγορεύσεις, και ο πράκτορας πρέπει να έχει μόνο τα εργαλεία που είναι αυστηρά απαραίτητα για το έργο του. Επαληθεύστε ότι οι δικλείδες ασφαλείας (guardrails) είναι ενεργοποιημένες και ότι οι κρίσιμες ροές εργασίας εκτελούνται σε λειτουργία client, ώστε κανένα handoff να μην εκτελείται χωρίς την έγκρισή σας. Βεβαιωθείτε ότι το store=False συνοδεύει κάθε συνομιλία που περιλαμβάνει ευαίσθητα δεδομένα και ότι η θερμοκρασία παραμένει χαμηλή όπου αναμένεται ο πράκτορας να παραμείνει πραγματικός. Τέλος, τοποθετήστε έναν πράκτορα moderation μπροστά από την αλυσίδα, ώστε τα απαράδεκτα αιτήματα να μην φτάνουν ποτέ στους πράκτορες που ξέρουν πώς να δράσουν.
Βασικά σημεία
- Οι δικλείδες ασφαλείας (guardrails) διαμορφώνονται στο επίπεδο του πράκτορα και/ή της συνομιλίας
- Οι οδηγίες είναι η πρώτη σας γραμμή άμυνας—να είστε ρητοί σχετικά με τις απαγορεύσεις
- Εφαρμόστε την αρχή του ελάχιστου προνομίου: δώστε μόνο τα απαραίτητα εργαλεία
- Η λειτουργία client σας επιτρέπει να επικυρώνετε και να μπλοκάρετε μη εξουσιοδοτημένα handoffs
- Σε παραγωγή: upstream moderation, καταγραφή (logging), λευκή λίστα πρακτόρων, store=False για ευαίσθητα δεδομένα