Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Guardrails: Επικύρωση Εισόδων και Εξόδων

Μάθημα 6 / 14 Ενημερώθηκε 28 Ιουλίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Τι είναι ένα guardrail;
  2. Μια αρχιτεκτονική αγωγού (pipeline)
  3. Τρία τυπικά guardrails
  4. Συναρμολόγηση του συνόλου
  5. Όταν ο κανόνας δεν μπορεί να γραφτεί σε regex
  6. Βασικά σημεία

Τι είναι ένα guardrail;

Ένα guardrail είναι ένα στρώμα επικύρωσης που παρεμβάλλεται μεταξύ του χρήστη και του μοντέλου κατά την είσοδο, ή μεταξύ του μοντέλου και του χρήστη κατά την έξοδο. Η διάκριση από τη δια moderation που συζητήθηκε στο προηγούμενο κεφάλαιο είναι σαφής και πρέπει να τη διατηρήσετε: η δια moderation απαντά στο ερώτημα «Είναι αυτό το περιεχόμενο προσβλητικό;»—μια καθολική ερώτηση της οποίας η απάντηση δεν εξαρτάται από την επιχείρησή σας. Τα guardrails απαντούν σε ερωτήματα που μόνο εσείς μπορείτε να διατυπώσετε: Βρίσκεται το μήνυμα εντός του αναμενόμενου πεδίου εφαρμογής; Περιέχει η απάντηση απαγορευμένες πληροφορίες; Είναι η ζητούμενη ενέργεια εξουσιοδοτημένη για αυτόν τον ρόλο; Ένας βοηθός τράπεζας και ένας βοηθός βιβλιοπωλείου μοιράζονται την ίδια δια moderation, αλλά δεν έχουν κοινά guardrails.

Μέχρι το 2026, τα guardrails έχουν καταστεί τυπικό συστατικό των αρχιτεκτονικών πρακτόρων ΤΝ, απαραίτητα όποτε ένα μοντέλο έχει πρόσβαση σε εργαλεία ή ευαίσθητα δεδομένα.

Μια αρχιτεκτονική αγωγού (pipeline)

Η δομική επιλογή είναι να αντιμετωπίζετε κάθε guardrail ως ένα ανεξάρτητο αντικείμενο με μία και μοναδική ευθύνη, και στη συνέχεια να τα συνδέετε σε μια επιλεγμένη σειρά. Το όφελος εμφανίζεται κατά τη συντήρηση: η προσθήκη ενός επιχειρηματικού κανόνα δεν απαιτεί αλλαγές στον υπάρχοντα κώδικα, και ένας κανόνας που γίνεται υπερβολικά θορυβώδης μπορεί να αφαιρεθεί με μία μόνο γραμμή.

Μια τρίτη ετυμηγορία προστίθεται στις allow και block: η modify. Αυτό αλλάζει τη φύση της άσκησης. Πολλές πραγματικές καταστάσεις δεν δικαιολογούν μια άρνηση—μια απάντηση που περιέχει μια εσωτερική διαδρομή διακομιστή παραμένει χρήσιμη μόλις αυτή η διαδρομή αποκρυβεί. Ο αποκλεισμός θα οδηγούσε σε απώλεια της πληροφορίας· η τροποποίηση τη διατηρεί αφαιρώντας αυτό που δημιουργεί πρόβλημα.

from dataclasses import dataclass
from enum import Enum

class Decision(Enum):
    ALLOW = "allow"
    BLOCK = "block"
    MODIFY = "modify"

@dataclass
class ValidationResult:
    decision: Decision
    reason: str
    modified_content: str | None = None

class Guardrail:
    """Base class for a guardrail."""

    def validate(self, content: str, context: dict) -> ValidationResult:
        raise NotImplementedError

class GuardrailPipeline:
    """Chains multiple guardrails in sequence."""

    def __init__(self):
        self.input_guardrails: list[Guardrail] = []
        self.output_guardrails: list[Guardrail] = []

    def add_input(self, guardrail: Guardrail):
        self.input_guardrails.append(guardrail)

    def add_output(self, guardrail: Guardrail):
        self.output_guardrails.append(guardrail)

    def validate_input(self, message: str, context: dict) -> ValidationResult:
        for g in self.input_guardrails:
            result = g.validate(message, context)
            if result.decision == Decision.BLOCK:
                return result
            if result.decision == Decision.MODIFY:
                message = result.modified_content
        return ValidationResult(Decision.ALLOW, "All validations passed")

    def validate_output(self, response: str, context: dict) -> ValidationResult:
        for g in self.output_guardrails:
            result = g.validate(response, context)
            if result.decision == Decision.BLOCK:
                return result
            if result.decision == Decision.MODIFY:
                response = result.modified_content
        return ValidationResult(Decision.ALLOW, "OK", response)

Τρία τυπικά guardrails

Το guardrail πεδίου εφαρμογής (scope) διατηρεί τη συνομιλία εντός του τομέα της. Εξυπηρετεί τόσο την ασφάλεια όσο και τη φήμη: ένας βοηθός εξυπηρέτησης πελατών εκπαιδευμένος να απαντά σε ερωτήσεις σχετικά με τις παραδόσεις δεν έχει κανένα όφελος σχολιάζοντας πολιτικά νέα, και ένα στιγμιότυπο οθόνης μιας τέτοιας απάντησης κυκλοφορεί γρήγορα. Η λίστα των απαγορευμένων θεμάτων πρέπει να συζητηθεί με το επιχειρηματικό τμήμα και να μην συνταχθεί ποτέ μόνο από την τεχνική ομάδα.

class ScopeGuardrail(Guardrail):
    """Checks that the message stays within the authorized scope."""

    def __init__(self, allowed_topics: list[str], forbidden_topics: list[str]):
        self.allowed_topics = allowed_topics
        self.forbidden_topics = forbidden_topics

    def validate(self, content: str, context: dict) -> ValidationResult:
        content_lower = content.lower()

        # Check forbidden topics
        for topic in self.forbidden_topics:
            if topic.lower() in content_lower:
                return ValidationResult(
                    Decision.BLOCK,
                    f"Out-of-scope topic detected: {topic}"
                )

        return ValidationResult(Decision.ALLOW, "Within scope")

Το guardrail μορφής φαίνεται τετριμμένο, ωστόσο προσφέρει τη μεγαλύτερη καθημερινή αξία. Κοστίζει λίγα μικροδευτερόλεπτα, δεν εξαρτάται από κλήσεις δικτύου και σταματά τα υπερμεγέθη μηνύματα που χρησιμοποιούνται για ενέσεις όγκου και απόπειρες εξάντλησης προϋπολογισμού. Τοποθετήστε το πρώτο στην αλυσίδα: δεν έχει νόημα να πληρώνετε για δια moderation μέσω API σε ένα μήνυμα 200.000 χαρακτήρων που ούτως ή άλλως θα απορρίψετε.

class FormatGuardrail(Guardrail):
    """Validates message format and length."""

    def __init__(self, max_tokens: int = 4000, max_lines: int = 100):
        self.max_tokens = max_tokens
        self.max_lines = max_lines

    def validate(self, content: str, context: dict) -> ValidationResult:
        # Rough token estimation (1 token ~ 4 characters in English)
        estimated_tokens = len(content) // 4
        if estimated_tokens > self.max_tokens:
            return ValidationResult(
                Decision.BLOCK,
                f"Message too long: ~{estimated_tokens} tokens (max {self.max_tokens})"
            )

        line_count = content.count("\n") + 1
        if line_count > self.max_lines:
            return ValidationResult(
                Decision.BLOCK,
                f"Too many lines: {line_count} (max {self.max_lines})"
            )

        return ValidationResult(Decision.ALLOW, "Valid format")

Το τρίτο παρακολουθεί την έξοδο και απεικονίζει τη χρήση της ετυμηγορίας «modify». Οι τέσσερις οικογένειες που αναζητά μοιράζονται μια βολική ιδιότητα: έχουν μια αναγνωρίσιμη μορφή ανεξάρτητα από το νόημα. Ένα κλειδί API, μια εσωτερική διεύθυνση, ένα ιδιωτικό IP ή μια διαδρομή διακομιστή εντοπίζονται από τη δομή τους, χωρίς να χρειάζεται να κατανοήσετε την πρόταση που τα περιέχει.

import re

class AntiExfiltrationGuardrail(Guardrail):
    """Prevents leakage of sensitive data in outputs."""

    def __init__(self):
        self.sensitive_patterns = {
            "api_key": r"(sk|pk|api[_-]?key)[_-][a-zA-Z0-9]{16,}",
            "internal_email": r"[a-zA-Z0-9.]+@(company|internal|corp)\.\w+",
            "private_ip": r"\b(10\.\d{1,3}\.\d{1,3}\.\d{1,3}|192\.168\.\d{1,3}\.\d{1,3})\b",
            "server_path": r"(/data/|/etc/|/home/|C:\\Users\\)",
        }

    def validate(self, content: str, context: dict) -> ValidationResult:
        for data_type, pattern in self.sensitive_patterns.items():
            if re.search(pattern, content):
                # Mask instead of blocking
                cleaned_content = re.sub(pattern, "[REDACTED]", content)
                return ValidationResult(
                    Decision.MODIFY,
                    f"Sensitive data redacted: {data_type}",
                    cleaned_content,
                )
        return ValidationResult(Decision.ALLOW, "No leakage detected")

Συναρμολόγηση του συνόλου

Η πλήρης συναρμολόγηση δείχνει πού ταιριάζουν τα κομμάτια. Η ασυμμετρία είναι εμφανής: δύο guardrails στην είσοδο, μόνο ένα στην έξοδο. Αυτό είναι συχνό και υγιές—φιλτράρετε έντονα πριν καλέσετε το μοντέλο, επειδή εκεί το κόστος είναι αποφεύξιμο, και διατηρείτε το απολύτως απαραίτητο στην έξοδο για να αποφύγετε την καταστροφή σωστών απαντήσεων. Το μήνυμα που επιστρέφεται κατά τον αποκλεισμό στην έξοδο ακολουθεί την ίδια προσοχή: σκόπιμα αόριστο, δεν αναφέρει τι εντοπίστηκε, πληροφορία που θα εξυπηρετούσε κυρίως κάποιον που προσπαθεί να χαρτογραφήσει τις άμυνές σας.

from openai import OpenAI

def create_secure_assistant():
    """Creates an assistant with a complete guardrail pipeline."""
    client = OpenAI()
    pipeline = GuardrailPipeline()

    # Input guardrails
    pipeline.add_input(FormatGuardrail(max_tokens=2000))
    pipeline.add_input(ScopeGuardrail(
        allowed_topics=["products", "orders", "delivery", "returns"],
        forbidden_topics=["politics", "religion", "competitors"],
    ))

    # Output guardrails
    pipeline.add_output(AntiExfiltrationGuardrail())

    def process(message: str) -> str:
        context = {"user_role": "customer"}

        # Input validation
        input_check = pipeline.validate_input(message, context)
        if input_check.decision == Decision.BLOCK:
            return f"I cannot process this request: {input_check.reason}"

        valid_message = input_check.modified_content or message

        # Model call
        response = client.chat.completions.create(
            model="gpt-5.6-sol",
            messages=[
                {"role": "system", "content": "Acme Corp customer service assistant."},
                {"role": "user", "content": valid_message},
            ],
        )
        reply = response.choices[0].message.content

        # Output validation
        output_check = pipeline.validate_output(reply, context)
        if output_check.decision == Decision.BLOCK:
            return "I am unable to answer this question."

        return output_check.modified_content or reply

    return process

Όταν ο κανόνας δεν μπορεί να γραφτεί σε regex

Ορισμένοι επιχειρηματικοί κανόνες αντιστέκονται σε οποιαδήποτε τυποποίηση μέσω προτύπων. «Η απάντηση δεν πρέπει να συνιστά επενδυτική συμβουλή», «το μήνυμα δεν πρέπει να περιέχει δεδομένα υγείας»: καμία κανονική έκφραση δεν το αποτυπώνει αυτό. Ένα δεύτερο μοντέλο, γρήγορο και φθηνό, μπορεί τότε να λειτουργήσει ως κριτής, με μια απάντηση περιορισμένη σε μορφή JSON ώστε να παραμένει usable από τον κώδικα που το καλεί. Η αντιστάθμιση είναι ρητή—κερδίζετε ακρίβεια με κόστος την καθυστέρηση και τον ντετερμινισμό, γεγονός που δεσμεύει αυτή την προσέγγιση για κανόνες που πραγματικά τη δικαιολογούν.

def llm_guardrail(message: str, rule: str) -> ValidationResult:
    """Uses a fast model to validate compliance."""
    client = OpenAI()
    response = client.chat.completions.create(
        model="gpt-5.6-terra",
        messages=[
            {"role": "system", "content": f"""You are a compliance validator.
Rule to check: {rule}
Respond ONLY with JSON: {{"compliant": true/false, "reason": "..."}}"""},
            {"role": "user", "content": f"Message to validate:\n{message}"},
        ],
    )
    import json
    result = json.loads(response.choices[0].message.content)
    if result["compliant"]:
        return ValidationResult(Decision.ALLOW, result["reason"])
    return ValidationResult(Decision.BLOCK, result["reason"])

Βασικά σημεία

  • Τα guardrails επικυρώνουν τη συμμόρφωση με τους επιχειρηματικούς κανόνες, όχι απλώς το προσβλητικό περιεχόμενο
  • Η αρχιτεκτονική αγωγού (pipeline) επιτρέπει τον συνδυασμό πολλαπλών στρωμάτων επικύρωσης
  • Κάθε guardrail έχει μία και μοναδική ευθύνη: πεδίο εφαρμογής, μορφή, διαρροή δεδομένων κ.λπ.
  • Τα guardrails εξόδου είναι εξίσου σημαντικά με τα guardrails εισόδου
  • Για πολύπλοκες περιπτώσεις, ένα γρήγορο LLM μπορεί να λειτουργήσει ως επικυρωτής