Συμμόρφωση με τον GDPR και Προστασία Δεδομένων
Σε αυτήν τη σελίδα
Ενημερώθηκε στις 3 Νοεμβρίου 2026. Η λίστα των στοιχείων που εντοπίζονται από την κατηγορία
piiευθυγραμμίζεται πλέον με τον ορισμό της Mistral (τα δεδομένα υγείας εμπίπτουν σε διαφορετικούς κανόνες και η κατηγορίαhealthστοχεύει αιτήματα για ιατρικές συμβουλές). Ο συμμορφούμενος καταγραφέας (logger) υπολόγιζε εσφαλμένα νωρίτερα την ημερομηνία λήξης διατήρησης, με αποτέλεσμα οι εκκαθαρίσεις να διαγράφουν τα πάντα· χρησιμοποιούσε επίσης ένα σταθερό προκαθορισμένο κλειδί αλατοποίησης (salting) για την ψευδωνυμοποίηση και την ξεπερασμένη μέθοδοdatetime.utcnow(). Η ψευδωνυμοποίηση χρησιμοποιεί πλέον HMAC-SHA-256 με υποχρεωτικό κλειδί. Πηγές: Moderation & Guardrailing · GDPR, Αιτιολογική Σκέψη 26 και Άρθρα 4 και 22 · Python hmac.
Τεχνητή Νοημοσύνη και Προσωπικά Δεδομένα: Ένα Αυστηρό Πλαίσιο
Υπάρχει ένα παράδοξο στον πυρήνα αυτού του μαθήματος, και η σαφής κατανόησή του αποτρέπει πολλά σφάλματα σχεδιασμού: το σύστημα δια moderation (μετριασμού περιεχομένου) αποτελεί το ίδιο μια επεξεργασία προσωπικών δεδομένων. Για να προστατεύσετε τους χρήστες σας, αναλύετε το κείμενό τους, παράγετε βαθμολογίες και διατηρείτε αρχεία καταγραφής — όλες ενέργειες που ο GDPR ρυθμίζει ακριβώς όπως οποιαδήποτε άλλη δραστηριότητα επεξεργασίας.
Η συμμόρφωση, επομένως, δεν σημαίνει την προσθήκη ενός επιπέδου προστασίας πάνω από τον μετριασμό. Σημαίνει τον σχεδιασμό του ίδιου του συστήματος μετριασμού ώστε να επεξεργάζεται την ελάχιστη ποσότητα δεδομένων, για το συντομότερο δυνατό χρονικό διάστημα, διατηρώντας παράλληλα αρχείο των αποφάσεών του. Αυτό είναι το νήμα που διατρέχει τις ακόλουθες ενότητες.
Ο GDPR (Γενικός Κανονισμός Προστασίας Δεδομένων) εφαρμόζεται πλήρως σε εφαρμογές Τεχνητής Νοημοσύνης που επεξεργάζονται δεδομένα κατοίκων της Ευρώπης. Ο ίδιος ο μετριασμός περιεχομένου παράγει δεδομένα που εμπίπτουν στο πεδίο εφαρμογής του GDPR. Πρέπει να κατανοήσετε τις υποχρεώσεις σας για να αποφύγετε κυρώσεις που μπορούν να φτάσουν έως και το 4% του παγκόσμιου ετήσιου κύκλου εργασιών.
Η Κατηγορία PII στον Μετριασμό της Mistral
Η κατηγορία ταξινομητή pii της Mistral εντοπίζει αιτήματα για ή αποκαλύψεις προσωπικών πληροφοριών. Ένα αρχιτεκτονικό σημείο πρέπει να διευκρινιστεί άμεσα: αυτός ο ταξινομητής είναι ένα δίχτυ ασφαλείας, όχι εγγύηση. Εντοπίζει ποικίλες διατυπώσεις που θα διέφευγαν μιας κανονικής έκφρασης (regex) («ο αριθμός μου είναι…»), αλλά όπως κάθε μοντέλο, παρουσιάζει ψευδώς αρνητικά αποτελέσματα. Αντιθέτως, μια κανονική έκφραση εντοπίζει αξιόπιστα δομημένες μορφές — IBAN, αριθμούς κοινωνικής ασφάλισης, πιστωτικές κάρτες — αλλά τίποτα άλλο. Η βέλτιστη πρακτική συνδυάζει και τα δύο: regex για γνωστές μορφές, ταξινομητή για τα υπόλοιπα. Οι εντοπισμένοι τύποι περιλαμβάνουν:
- Ονοματεπώνυμα
- Διευθύνσεις
- Αριθμούς τηλεφώνων
- Αριθμούς κοινωνικής ασφάλισης
- Στοιχεία οικονομικών λογαριασμών
Ο ορισμός της Mistral εστιάζει στο αίτημα, τον διαμοιρασμό ή την απόπειρα απόκτησης αυτών των πληροφοριών ταυτοποίησης.
from mistralai.client import Mistral
import os
import re
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def detect_pii(text: str) -> dict:
"""Detects personal data in text."""
# Layer 1: Mistral Classifier
response = client.classifiers.moderate(
model="mistral-moderation-2603",
inputs=[text]
)
pii_score = (response.results[0].category_scores or {}).get("pii", 0)
# Layer 2: Regex for common patterns
pii_patterns = {
"email": r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
"telephone_fr": r"(?:0|\+33)[1-9](?:\d{2}){4}",
"secu_sociale": r"\d{13,15}",
"carte_bancaire": r"\d{4}[\s-]?\d{4}[\s-]?\d{4}[\s-]?\d{4}",
"iban": r"FR\d{2}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{3}"
}
detected_pii = {}
for name, pattern in pii_patterns.items():
matches = re.findall(pattern, text)
if matches:
detected_pii[name] = len(matches)
return {
"score_classifieur": round(pii_score, 3),
"pii_regex": detected_pii,
"contient_pii": pii_score > 0.2 or len(detected_pii) > 0
}
Ανωνυμοποίηση Πριν την Επεξεργασία
Η ανωνυμοποίηση εκ των προτέρων (upstream) είναι το πιο αποδοτικό μέτρο σε όλο αυτό το μάθημα, καθώς αλλάζει τη φύση του προβλήματος: τα δεδομένα που δεν εγκαταλείπουν ποτέ τις υποδομές σας δεν εγείρουν ζητήματα μεταφοράς. Η αντικατάσταση ονομάτων, emails και αριθμών με διακριτικά ([PERSON_1], [EMAIL_1]) πριν καλέσετε το μοντέλο σχεδόν πάντα διατηρεί το νόημα για την ανάλυση — και αν διατηρήσετε τον πίνακα αντιστοίχισης τοπικά, μπορείτε να επανεισαγάγετε τις πραγματικές τιμές στην απάντηση. Εφόσον υπάρχει αυτός ο πίνακας, νομικά πρόκειται για ψευδωνυμοποίηση και όχι ανωνυμοποίηση: τα δεδομένα παραμένουν προσωπικά, αλλά τα δεδομένα που στέλνονται στο μοντέλο δεν επιτρέπουν από μόνα τους την ταυτοποίηση του προσώπου.
def anonymize_text(text: str) -> tuple:
"""Anonymizes text and keeps a restoration mapping."""
mapping = {}
anonymized_text = text
# Anonymize emails
emails = re.findall(
r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
text
)
for i, email in enumerate(set(emails)):
placeholder = f"[EMAIL_{i+1}]"
mapping[placeholder] = email
anonymized_text = anonymized_text.replace(email, placeholder)
# Anonymize phones
phones = re.findall(
r"(?:0|\+33)[1-9](?:[\s.-]?\d{2}){4}",
text
)
for i, tel in enumerate(set(phones)):
placeholder = f"[TEL_{i+1}]"
mapping[placeholder] = tel
anonymized_text = anonymized_text.replace(tel, placeholder)
# Anonymize names (if detected by upstream NER)
# Add your own NER logic here
return anonymized_text, mapping
def restore_text(anonymized_text: str, mapping: dict) -> str:
"""Restores anonymized data after processing."""
restored_text = anonymized_text
for placeholder, value in mapping.items():
restored_text = restored_text.replace(placeholder, value)
return restored_text
# Usage in pipeline
original_text = "Contactez [email protected] au 06 12 34 56 78"
anonymized_text, mapping = anonymize_text(original_text)
# → "Contactez [EMAIL_1] au [TEL_1]"
# Send anonymized text to model
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": anonymized_text}]
)
Αρχεία Καταγραφής Μετριασμού Συμβατά με τον GDPR
Τα αρχεία καταγραφής (logs) είναι το κλασικό τυφλό σημείο: σκεφτόμαστε «προσωπικά δεδομένα» όσον αφορά τα μηνύματα των χρηστών, αλλά σπάνια όσον αφορά τα τεχνικά ίχνη που τα αντιγράφουν. Ωστόσο, ένα αρχείο καταγραφής μετριασμού που διατηρεί το αναλυόμενο κείμενο είναι μια προσωπική βάση δεδομένων, με όλες τις επακόλουθες υποχρεώσεις. Ο κανόνας είναι απλός: καταγράφετε κείμενο μόνο για αποκλεισμένο περιεχόμενο — θα το χρειαστείτε σε περίπτωση διαφοράς — και καταγράφετε μόνο βαθμολογίες για αποδεκτό περιεχόμενο.
import hashlib
import hmac
from datetime import datetime, timedelta, timezone
class LogModerationRGPD:
"""GDPR-compliant moderation logger."""
def __init__(self, retention_jours: int = 90):
self.retention_jours = retention_jours
# Mandatory secret key, kept out of code (vault or environment variable)
self.key = os.environ["PII_HMAC_KEY"].encode()
def _pseudonymiser(self, user_id: str) -> str:
"""Pseudonymizes a user identifier (HMAC-SHA-256)."""
return hmac.new(self.key, user_id.encode(), hashlib.sha256).hexdigest()[:16]
def log_moderation(self, user_id: str, scores: dict, decision: str,
text: str | None = None) -> dict:
"""Records a moderation decision."""
maintenant = datetime.now(timezone.utc)
entry = {
"timestamp": maintenant.isoformat(),
"user_hash": self._pseudonymiser(user_id),
"scores": scores,
"decision": decision,
# Do NOT store full text by default
"texte_longueur": len(text) if text else 0,
"conserver_jusqu_au": (maintenant + timedelta(days=self.retention_jours)).isoformat(),
}
# Store text excerpt only if blocked (for audit)
if decision == "blocked" and text:
entry["texte_tronque"] = text[:200]
return entry
def purger_anciens_logs(self, logs: list[dict]) -> list[dict]:
"""Keeps logs whose retention end date has not passed."""
maintenant = datetime.now(timezone.utc)
return [
log for log in logs
if datetime.fromisoformat(log["conserver_jusqu_au"]) > maintenant
]
Δύο προφυλάξεις σε αυτόν τον κώδικα αξίζουν αναφοράς. Το κλειδί ψευδωνυμοποίησης δεν έχει προεπιλεγμένη τιμή: ένα κλειδί γραμμένο στον κώδικα, γνωστό σε όλους, θα επέτρεπε τον επανυπολογισμό του hash οποιουδήποτε αναγνωριστικού. Επιπλέον, τα ψευδωνυμοποιημένα δεδομένα παραμένουν προσωπικά δεδομένα βάσει του GDPR (Αιτιολογική Σκέψη 26): αυτό το αρχείο καταγραφής υπόκειται ακόμη σε περιόδους διατήρησης και δικαιώματα των υποκειμένων των δεδομένων.
Ίχνος Ελέγχου για Συμμόρφωση
Το ίχνος ελέγχου (audit trail) απαντά σε ένα συγκεκριμένο ερώτημα που μπορεί να σας θέσει ένας χρήστης ή μια αρχή: «Γιατί αποκλείστηκε αυτό το περιεχόμενο;». Χωρίς ίχνος, η μόνη ειλικρινής απάντησή σας είναι «δεν γνωρίζω πια» — κάτι αδιανόητο δεδομένου ότι ο GDPR απαιτεί, για πλήρως αυτοματοποιημένες αποφάσεις βάσει του Άρθρου 22, την ενημέρωση του προσώπου σχετικά με την υποκείμενη λογική (Άρθρα 13 έως 15), ενώ ο Νόμος για την Τεχνητή Νοημοσύνη (AI Act) προσθέτει τις δικές του υποχρεώσεις διαφάνειας. Το ίχνος ελέγχου διατηρεί την απόφαση, τις βαθμολογίες που την αιτιολόγησαν και την έκδοση της πολιτικής που εφαρμόστηκε — χωρίς απαραίτητα να διατηρεί το ίδιο το κείμενο.
class AuditTrail:
"""Audit trail for moderation decisions."""
def __init__(self, storage_path: str):
self.storage_path = storage_path
def record_decision(self, data: dict) -> str:
"""Records a decision with a unique identifier."""
import uuid
audit_id = str(uuid.uuid4())
entry = {
"audit_id": audit_id,
"timestamp": datetime.now(timezone.utc).isoformat(),
"type_decision": data.get("decision"),
"modele_moderation": "mistral-moderation-2603",
"scores": data.get("scores"),
"seuils_appliques": data.get("seuils"),
"politique_version": data.get("politique_version"),
"action_prise": data.get("action"),
"base_legale": "interet_legitime",
"responsable": "systeme_automatise"
}
# Write to audit file
import json
with open(self.storage_path, "a") as f:
f.write(json.dumps(entry, ensure_ascii=False) + "\n")
return audit_id
Λίστα Ελέγχου GDPR για την Εφαρμογή Τεχνητής Νοημοσύνης σας
Ακολουθούν τα σημεία που πρέπει να επαληθεύσετε για να διασφαλίσετε ότι το σύστημα μετριασμού σας είναι συμμορφούμενο:
Νομική Βάση
- Τεκμηριωμένο έννομο συμφέρον για τον μετριασμό περιεχομένου
- Ενημέρωση του χρήστη για την αυτοματοποιημένη επεξεργασία
- Δυνατότητα αμφισβήτησης μιας αυτοματοποιημένης απόφασης
Ελαχιστοποίηση Δεδομένων
- Αποθήκευση μόνο αυστηρά απαραίτητων δεδομένων
- Ανωνυμοποίηση ή ψευδωνυμοποίηση αναγνωριστικών χρηστών
- Περικοπή κειμένου στα αρχεία καταγραφής μετριασμού
- Μη διατήρηση αποδεκτών κειμένων (μόνο βαθμολογίες)
Περίοδος Διατήρησης
- Ορισμός περιόδου διατήρησης για κάθε τύπο δεδομένων
- Αρχεία καταγραφής μετριασμού: μέγιστο 90 ημερών (εκτός εάν νομική υποχρέωση ορίζει διαφορετικά)
- Ίχνος ελέγχου: ανά τομεακή ρύθμιση
- Προγραμματισμένη αυτόματη εκκαθάριση
Δικαιώματα Χρηστών
- Δικαίωμα πρόσβασης στις αποφάσεις μετριασμού που τους αφορούν
- Δικαίωμα διόρθωσης εάν η απόφαση αμφισβητηθεί
- Δικαίωμα εξήγησης της αυτοματοποιημένης απόφασης
Βασικά σημεία
- Ο GDPR εφαρμόζεται πλήρως στα συστήματα μετριασμού Τεχνητής Νοημοσύνης σας
- Χρησιμοποιήστε την κατηγορία
piiτης Mistral ΚΑΙ κανονικές εκφράσεις (regex) για τον εντοπισμό προσωπικών δεδομένων - Ανωνυμοποιήστε τα κείμενα πριν τα στείλετε στο μοντέλο, όταν είναι εφικτό
- Ψευδωνυμοποιήστε τα αναγνωριστικά των χρηστών στα αρχεία καταγραφής
- Υλοποιήστε ένα ίχνος ελέγχου για την ιχνηλασιμότητα των αποφάσεων
- Ορίστε μια περίοδο διατήρησης και εκκαθαρίστε αυτόματα τα αρχεία καταγραφής