Έλεγχος ασφαλείας και πιστοποίηση
Σε αυτήν τη σελίδα
Από την ad hoc ασφάλεια στη συμμορφώσιμη πιστοποίηση
Τα προηγούμενα μαθήματα σας παρείχαν τα τεχνικά εργαλεία για την ασφάλιση ενός συστήματος Τεχνητής Νοημοσύνης. Ωστόσο, οι μεμονωμένοι έλεγχοι ασφαλείας δεν αρκούν—και ο λόγος δεν είναι απλώς η γραφειοκρατία. Αυτό που επαληθεύετε μία φορά παύει να επαληθεύεται μόλις κυκλοφορήσετε την επόμενη έκδοση, και τίποτα δεν επισημαίνει αυτό το κενό. Οι πελάτες, οι ρυθμιστικές αρχές και οι συνεργάτες απαιτούν επίσημα αποδεικτικά στοιχεία: απόδειξη ότι οι έλεγχοί σας υπάρχουν, λειτουργούν και αντέχουν στον χρόνο. Ο έλεγχος και η πιστοποίηση μετατρέπουν τις πρακτικές σας σε ένα επαληθεύσιμο, συνεχές πλαίσιο.
Γνωρίστε ποιο πλαίσιο εφαρμόζεται
Πέντε πλαίσια τέμνονται στον χώρο της Τεχνητής Νοημοσύνης, το καθένα με διαφορετικό πεδίο εφαρμογής. Ξεχωρίστε τα πριν δεσμευτείτε σε οτιδήποτε.
| Πρότυπο | Πεδίο Εφαρμογής | Συνάφεια με ΤΝ |
|---|---|---|
| ISO 27001 | Ασφάλεια πληροφοριών | Θεμέλιο για κάθε σύστημα επεξεργασίας δεδομένων |
| ISO 42001 | Διαχείριση ΤΝ | Ειδικό για ΤΝ: διακυβέρνηση, κίνδυνοι, κύκλος ζωής |
| AI Act (ΕΕ) | Ευρωπαϊκή νομοθεσία | Υποχρεωτικό για συστήματα υψηλού κινδύνου στην ΕΕ |
| SOC 2 Type II | Έλεγχοι ασφαλείας SaaS | Απαιτείται από εταιρικούς πελάτες |
| OWASP LLM Top 10 | Βέλτιστες πρακτικές ασφαλείας LLM | Λίστα ελέγχου αναφοράς για τεχνικό έλεγχο |
Η καθοριστική διάκριση χωρίζει το υποχρεωτικό από το προαιρετικό. Ο Κανονισμός για την Τεχνητή Νοημοσύνη (EU AI Act) είναι νομοθεσία: εάν το σύστημά σας εμπίπτει στην κατηγορία υψηλού κινδύνου, δεν έχετε δικαίωμα επιλογής. Τα πρότυπα ISO και το SOC 2 είναι εθελοντικές πιστοποιήσεις, που συνήθως απαιτούνται από εταιρικούς πελάτες και όχι από ρυθμιστικές αρχές. Το OWASP LLM Top 10 δεν είναι πιστοποιήσιμο—είναι μια τεχνική αναφορά, και αποτελεί το καλύτερο σημείο εκκίνησης για έναν πρώτο εσωτερικό έλεγχο, καθώς κοστίζει μόνο χρόνο.
Μια λίστα ελέγχου που καλύπτει πέντε τομείς
Ένας σοβαρός έλεγχος ξεπερνά την τεχνική διάσταση. Η παρακάτω λίστα ελέγχου κατανέμει τα σημεία ελέγχου σε πέντε τομείς, και αυτή η κατανομή αφηγείται μια ιστορία: η διακυβέρνηση και η συμμόρφωση ζυγίζουν όσο και η ασφάλεια, διότι μια άψογη τεχνική ρύθμιση που κανείς δεν ιδιοκτητοποιεί και πουθενά δεν τεκμηριώνεται, θα αποτύχει σε οποιονδήποτε εξωτερικό έλεγχο.
Η κρισιμότητα διαχωρίζει το υποχρεωτικό από το συνιστώμενο, μια διάκριση που οδηγεί αργότερα σε μια δυαδική απόφαση. Το sandboxing εμφανίζεται ως συνιστώμενο και όχι υποχρεωτικό, και αυτή η κατάταξη δικαιολογείται: εφαρμόζεται μόνο σε συστήματα που εκτελούν παραγόμενο κώδικα, whereas ο φιλτράρισμα εισόδου και εξόδου αφορά κάθε εφαρμογή χωρίς εξαίρεση. Μια καλά βαθμονομημένη λίστα ελέγχου δεν ζητά από ένα chatbot FAQ να δικαιολογήσει τον απομονωμένο χώρο εκτέλεσης (container isolation).
from dataclasses import dataclass, field
from datetime import datetime
@dataclass
class ControlPoint:
id: str
category: str
description: str
criticality: str # mandatory, recommended, optional
compliant: bool | None = None
evidence: str = ""
comment: str = ""
def create_audit_checklist() -> list[ControlPoint]:
"""Creates a comprehensive AI security audit checklist."""
return [
# Governance
ControlPoint("GOV-01", "Governance",
"Documented and approved AI security policy", "mandatory"),
ControlPoint("GOV-02", "Governance",
"Designated AI security owner (CISO/DPO)", "mandatory"),
ControlPoint("GOV-03", "Governance",
"Up-to-date register of AI processing activities", "mandatory"),
# Data
ControlPoint("DAT-01", "Data",
"Inventory of data sent to LLM APIs", "mandatory"),
ControlPoint("DAT-02", "Data",
"Anonymization/pseudonymization of personal data", "mandatory"),
ControlPoint("DAT-03", "Data",
"DPA signed with each AI API provider", "mandatory"),
ControlPoint("DAT-04", "Data",
"Defined conversation retention policy", "mandatory"),
# Technical security
ControlPoint("SEC-01", "Security",
"Prompt injection: defense-in-depth implemented", "mandatory"),
ControlPoint("SEC-02", "Security",
"Content filtering (inputs and outputs)", "mandatory"),
ControlPoint("SEC-03", "Security",
"Rate limiting and abuse detection", "mandatory"),
ControlPoint("SEC-04", "Security",
"API keys stored in a vault (not hardcoded)", "mandatory"),
ControlPoint("SEC-05", "Security",
"Sandboxing for generated code execution", "recommended"),
ControlPoint("SEC-06", "Security",
"Monitoring and alerts on anomalies", "recommended"),
# Red teaming
ControlPoint("RED-01", "Red teaming",
"Security tests before every production release", "mandatory"),
ControlPoint("RED-02", "Red teaming",
"Regular red teaming (quarterly minimum)", "recommended"),
ControlPoint("RED-03", "Red teaming",
"Red team report with remediation tracking", "mandatory"),
# Compliance
ControlPoint("CONF-01", "Compliance",
"DPIA completed for AI processing activities", "mandatory"),
ControlPoint("CONF-02", "Compliance",
"Data subject rights implemented (access, erasure)", "mandatory"),
ControlPoint("CONF-03", "Compliance",
"Transparent user notice about AI usage", "mandatory"),
ControlPoint("CONF-04", "Compliance",
"Risk classification per the EU AI Act", "recommended"),
]
Ο έλεγχος σημαίνει απαίτηση αποδεικτικών στοιχείων
Το πεδίο που αλλάζει τα πάντα στην εκτέλεση του ελέγχου είναι το evidence. Το να σημειώσετε “compliant” χωρίς αναφορά σε έγγραφο δεν σημαίνει τίποτα για έναν εξωτερικό ελεγκτή, ο οποίος θα ζητήσει συστηματικά τι υποστηρίζει τον ισχυρισμό. Το παράδειγμα χρήσης το δείχνει ξεκάθαρα: η συμμόρφωση του GOV-01 βασίζεται σε ένα επώνυμο, χρονολογημένο έγγραφο, όχι σε μια δήλωση προθέσεων.
Η τρίτη κλήση απεικονίζει την πιο διδακτική περίπτωση—μια μη συμμόρφωση paired με το σχέδιο αποκατάστασής της. Ένα κλειδί API σε αρχείο περιβάλλοντος δεν είναι σκάνδαλο· είναι μια κοινή πρακτική. Παρ’ όλα αυτά, αποτυγχάνει στο σημείο ελέγχου, και το σχόλιο χαράσσει τον δρόμο προς τη συμμόρφωση. Ένας έλεγχος που δεν εντοπίζει καμία μη συμμόρφωση θα έπρεπε να εγείρει υποψίες: συνήθως σηματοδοτεί μια επιεική λίστα ελέγχου, όχι ένα τέλειο σύστημα.
Η τελική απόφαση είναι δυαδική και χωρίς στάθμιση: μια μοναδική υποχρεωτική μη συμμόρφωση ανατρέπει την ετυμηγορία. Το ποσοστό συμμόρφωσης, που υπολογίζεται παράλληλα, μετρά την πρόοδο μεταξύ των ελέγχων—ποτέ δεν διαπραγματεύεται την ίδια την ετυμηγορία.
class AISecurityAudit:
"""Executes and documents an AI security audit."""
def __init__(self, system_name: str, auditor: str):
self.system_name = system_name
self.auditor = auditor
self.date = datetime.now().strftime("%Y-%m-%d")
self.checklist = create_audit_checklist()
def evaluate(self, point_id: str, compliant: bool, evidence: str, comment: str = ""):
"""Evaluates a control point."""
for point in self.checklist:
if point.id == point_id:
point.compliant = compliant
point.evidence = evidence
point.comment = comment
return
raise ValueError(f"Unknown control point: {point_id}")
def report(self) -> dict:
"""Generates the audit report."""
evaluated = [p for p in self.checklist if p.compliant is not None]
compliant = [p for p in evaluated if p.compliant]
non_compliant = [p for p in evaluated if not p.compliant]
not_evaluated = [p for p in self.checklist if p.compliant is None]
# Mandatory non-compliances are blockers
blockers = [
p for p in non_compliant if p.criticality == "mandatory"
]
return {
"system": self.system_name,
"auditor": self.auditor,
"date": self.date,
"total_controls": len(self.checklist),
"evaluated": len(evaluated),
"compliant": len(compliant),
"non_compliant": len(non_compliant),
"not_evaluated": len(not_evaluated),
"blockers": len(blockers),
"compliance_rate": f"{len(compliant) / max(len(evaluated), 1) * 100:.0f}%",
"decision": "NON-COMPLIANT" if blockers else "COMPLIANT",
"blocking_non_compliances": [
{"id": p.id, "description": p.description, "comment": p.comment}
for p in blockers
],
}
# Usage example
audit = AISecurityAudit("Customer Support Chatbot v2.3", "security_analyst")
audit.evaluate("GOV-01", True, "Document POL-SEC-AI-2026 approved on 2026-01-15")
audit.evaluate("SEC-01", True, "Multi-layer guardrails implemented (see architecture)")
audit.evaluate("SEC-04", False, "OpenAI API key in .env environment variable",
"Migrate to a vault (HashiCorp Vault or AWS Secrets Manager)")
result = audit.report()
print(f"Decision: {result['decision']}")
print(f"Compliance rate: {result['compliance_rate']}")
Ένας τελευταίος μετρητής—ο αριθμός των μη αξιολογημένων σημείων—παίζει έναν ήσυχο αλλά καθοριστικό ρόλο. Σας εμποδίζει να συγχέετε το “συμμορφούμενο” με το “μη ελεγμένο”, μια σύγχυση που εισχωρεί όταν ένας έλεγχος εκτείνεται σε εβδομάδες και κανείς δεν θυμάται πού σταμάτησε.
Αυτοματοποιήστε ό,τι μπορείτε
Ένας ετήσιος έλεγχος αποτυπώνει μια στιγμιαία εικόνα. Μεταξύ των στιγμιαίων εικόνων, ένα κλειδί API μπορεί να hardcodαριστεί, ένα όριο ρυθμού (rate limit) να απενεργοποιηθεί για να ξεμπλοκαριστεί ένας βιαστικός πελάτης, ή η δια moderation να παρακαμφθεί για ένα γρήγορο τεστ. Οι αυτοματοποιημένοι έλεγχοι καλύπτουν αυτό το κενό εκτελούμενοι σε κάθε κύκλο συνεχούς ένταξης (continuous integration).
Δεν ταιριάζουν όλα στην αυτοματοποίηση, και πρέπει να το πείτε ξεκάθαρα. Η αναζήτηση για hardcodαρισμένα κλειδιά είναι μηχανοποιήσιμη επειδή επιθεωρεί κώδικα. Οι άλλοι δύο έλεγχοι στο παράδειγμα επιστρέφουν hardcodαρισμένες τιμές, κάτι που έχει νόημα μόνο ως σημείο εκκίνησης: στην παραγωγή, πρέπει πραγματικά να ασκούν την υπηρεσία—καλέστε το API είκοσι μία φορές για να επιβεβαιώσετε ότι εμφανίζεται ένα 429, ή υποβάλετε περιεχόμενο δοκιμής στη moderation για να επιβεβαιώσετε ότι ανταποκρίνεται. Ένας έλεγχος που επιστρέφει πάντα true είναι χειρότερος από το να μην υπάρχει έλεγχος, επειδή κατασκευάζει εμπιστοσύνη χωρίς να μετρά τίποτα.
class ContinuousAudit:
"""Automatically verifies security controls on an ongoing basis."""
def __init__(self):
self.checks = {}
def add_check(self, name: str, check_function):
"""Adds an automated check."""
self.checks[name] = check_function
def run(self) -> dict:
"""Runs all checks."""
results = {}
for name, check in self.checks.items():
try:
ok, detail = check()
results[name] = {"status": "PASS" if ok else "FAIL", "detail": detail}
except Exception as e:
results[name] = {"status": "ERROR", "detail": str(e)}
return results
# Automated checks
continuous_audit = ContinuousAudit()
def check_api_keys():
"""Verifies that no API keys are hardcoded in the codebase."""
import subprocess
result = subprocess.run(
["grep", "-r", "sk-", "src/", "--include=*.py", "-l"],
capture_output=True, text=True,
)
files = result.stdout.strip().split("\n") if result.stdout.strip() else []
return len(files) == 0, f"{len(files)} file(s) with hardcoded key"
def check_rate_limiting():
"""Verifies that rate limiting is active."""
return True, "Rate limiting active (429 after 20 req/min)"
def check_moderation():
"""Verifies that moderation is active on the pipeline."""
return True, "Moderation API called on inputs and outputs"
continuous_audit.add_check("api_keys_secured", check_api_keys)
continuous_audit.add_check("rate_limiting_active", check_rate_limiting)
continuous_audit.add_check("moderation_active", check_moderation)
Τι περιμένει ένας πιστοποιητής
Η στόχευση σε μια πιστοποίηση όπως το ISO 42001 ή το SOC 2 μετατοπίζει την προσπάθεια, και πρέπει να το γνωρίζετε πριν δεσμευτείτε. Η τεκμηρίωση έρχεται πρώτη: ενημερωμένες πολιτικές, διαδικασίες και μητρώα—το έργο που οι ομάδες μηχανικού συχνότερα αναβάλλουν. Ακολουθούν τα αποδεικτικά στοιχεία—αρχεία καταγραφής (logs), αναφορές δοκιμών, στιγμιότυπα οθόνης—και είναι πολύ πιο εύκολο να συλλεχθούν εάν τα αρχειοθετείτε καθώς προχωράτε, παρά τρεις εβδομάδες πριν τον έλεγχο. Το ιστορικό είναι η πιο δύσκολη απαίτηση να καλυφθεί εκ των υστέρων: ένα SOC 2 Type II εξετάζει πώς λειτούργησαν οι έλεγχοι over several months, κάτι που καμία last-minute προσπάθεια δεν μπορεί να πλαστογραφήσει. Η εκπαίδευση έπεται, και πρέπει να αποδείξετε ότι συνέβη, κάτι που σημαίνει φύλλα παρουσίας με ημερομηνίες και υλικό. Τέλος, η συνεχής βελτίωση απαιτεί να δείξετε ότι τα ευρήματα διορθώνονται και επανελέγχονται—ακριβώς ο βρόχος επανεπικύρωσης από το προηγούμενο κεφάλαιο, του οποίου τώρα βλέπετε την αξία: παράγει τα αποδεικτικά στοιχεία που θα απαιτήσει ο πιστοποιητής.
Ο κύκλος έλεγχος, διόρθωση, επαναδοκιμή, πιστοποίηση δεν έχει τέλος. Κάθε νέο χαρακτηριστικό ανοίγει εκ νέου σημεία ελέγχου, και αυτός είναι ακριβώς ο ορισμός του “συνεχούς” στη “συνεχή βελτίωση”.
Βασικά σημεία
- Ο έλεγχος μετατρέπει τις βέλτιστες πρακτικές ασφαλείας σε επαληθεύσιμα αποδεικτικά στοιχεία
- Η λίστα ελέγχου καλύπτει τη διακυβέρνηση, τα δεδομένα, την τεχνική ασφάλεια, το red teaming και τη συμμόρφωση
- Οι υποχρεωτικές μη συμμορφώσεις είναι ανασταλτικοί παράγοντες—πρέπει να διορθωθούν πριν την ανάπτυξη
- Ο συνεχής έλεγχος αυτοματοποιεί επαναλαμβανόμενους ελέγχους (κλειδιά API, όρια ρυθμού, moderation)
- Η πιστοποίηση (ISO 42001, SOC 2) απαιτεί τεκμηρίωση, αποδεικτικά στοιχεία και ιστορικό: ο κύκλος έλεγχος-διόρθωση-επαναδοκιμή είναι συνεχής, ποτέ μεμονωμένος
Δοκιμάστε τις γνώσεις σας
Επιθετική και αμυντική ασφάλεια: ο τελικός έλεγχος πριν τον έλεγχο πιστοποίησης.
1. Τι είναι μια επίθεση prompt injection;
Απάντηση: Κακόβουλες οδηγίες που εισάγονται στα δεδομένα που επεξεργάζεται το μοντέλο (ιστοσελίδα, έγγραφο, μήνυμα) για να οικειοποιηθούν τη συμπεριφορά του—άμυνα: απομόνωση οδηγιών από δεδομένα, επικύρωση εξόδων, περιορισμός εκτεθειμένων δυνατοτήτων.
2. Jailbreaking vs. prompt injection: ποια είναι η διαφορά;
Απάντηση: Το Jailbreaking προσπαθεί να κάνει το μοντέλο να παρακάμψει τους κανόνες του μέσω άμεσης συνομιλίας· η injection λειτουργεί μέσω περιεχομένου τρίτων που επεξεργάζεται. Και τα δύο δοκιμάζονται—και αντιμετωπίζονται—διαφορετικά.
3. Γιατί φιλτράρισμα πολλαπλών επιπέδων;
Απάντηση: Επειδή κανένα μεμονωμένο επίπεδο δεν είναι τέλειο: η moderation εισόδου, οι δικλείδες ασφαλείας εφαρμογής, οι έλεγχοι εξόδου και ο περιορισμός ρυθμού αλληλοσυμπληρώνονται—άμυνα σε βάθος εφαρμοσμένη στην ΤΝ.
4. Τι περιλαμβάνει μια εκστρατεία AI red teaming;
Απάντηση: Μεθοδική επίθεση στο δικό σας σύστημα (σενάρια injection, jailbreaks, εξωφύλλωση) με μια ταξινομία κινδύνων, τεκμηρίωση παραβιάσεων, ιεράρχηση αποκατάστασης—και στη συνέχεια επαναδοκιμή.
5. Τι καλύπτει η οπτική του GDPR σε μια ανάπτυξη OpenAI;
Απάντηση: Η νομική βάση για την επεξεργασία, η ελαχιστοποίηση δεδομένων για τα δεδομένα που αποστέλλονται, τα δικαιώματα των υποκειμένων των δεδομένων και οι συμβατικές διασφαλίσεις—η συμμόρφωση σχεδιάζεται μαζί με την αρχιτεκτονική, όχι εκ των υστέρων.
Ένα ασφαλές σύστημα ΤΝ αποδεικνύεται: ταξινομία, επιθετικές δοκιμές, στρωματοποιημένες άμυνες, έλεγχος—ο κύκλος που εξασκήσατε σε αυτό το μάθημα.