Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Súlad s GDPR a ochrana údajov

Lekcia 11 z 12 Aktualizované 3. novembra 2026 Vývojár
Na tejto strane
  1. AI a osobné údaje: Prísny rámec
  2. Kategória PII v moderácii Mistral
  3. Anonymizácia pred spracovaním
  4. Záznamy moderácie v súlade s GDPR
  5. Auditná stopa pre súlad
  6. Kontrolný zoznam GDPR pre tvoju AI aplikáciu
  7. Kľúčové poznatky

Aktualizované 3. novembra 2026. Zoznam položiek detegovaných kategóriou pii je teraz v súlade s definíciou spoločnosti Mistral (údaje o zdraví spadajú pod iné pravidlá a kategória health sa zameriava na žiadosti o lekárske rady). Predchádzajúci vyhovujúci logger nesprávne计算oval dátum konca uchovávania, čo spôsobovalo, že čistenie zmazalo všetko; používal aj natvrdo zakódovaný predvolený kľúč na solenie pre pseudonymizáciu a zastaranú funkciu datetime.utcnow(). Pseudonymizácia teraz využíva HMAC-SHA-256 s povinným kľúčom. Zdroje: Moderácia a ochranné mechanizmy · GDPR, odôvodnenie 26 a články 4 a 22 · Python hmac.

AI a osobné údaje: Prísny rámec

V jadre tejto lekcie sa nachádza paradox a jeho jasné pochopenie ti pomôže vyhnúť sa mnohým chybám v návrhu: tvoj systém moderácie je sám o sebe operáciou spracúvania osobných údajov. Aby si ochránil svojich používateľov, analyzuješ ich text, generuješ skóre a uchovávaš záznamy – všetky tieto operácie GDPR reguluje presne tak ako akúkoľvek inú činnosť spracúvania.

Súlad preto neznamená pridanie ochrannej vrstvy navyše k moderácii. Znamená to navrhnúť samotný systém moderácie tak, aby spracúval minimálne množstvo údajov, po čo najkratší možný čas, pričom si zároveň vedie záznam o svojich rozhodnutiach. Toto je červená niť prechádzajúca nasledujúcimi časťami.

Nariadenie GDPR (Všeobecné nariadenie o ochrane údajov) sa v plnej miere vzťahuje na aplikácie umelej inteligencie spracúvajúce údaje európskych rezidentov. Samotná moderácia obsahu generuje údaje, ktoré spadajú do pôsobnosti GDPR. Musíš poznať svoje povinnosti, aby si sa vyhol pokutám dosahujúcim až 4 % celosvetového ročného obratu.

Kategória PII v moderácii Mistral

Klasifikátor kategórie pii od spoločnosti Mistral deteguje žiadosti o osobné informácie alebo ich zverejnenie. Okamžite treba zdôrazniť jeden architektonický bod: tento klasifikátor je bezpečnostnou sieťou, nie zárukou. Zachytí rôzne formulácie, ktoré by regex prehliadol („moje číslo je…“), ale ako každý model, má aj falošne negatívne výsledky. Naopak, regex spoľahlivo zachytí štruktúrované formáty – IBAN, čísla sociálneho poistenia, kreditné karty – ale nič iné. Najlepšou praxou je kombinácia oboch prístupov: regex na známe formáty a klasifikátor na zvyšok. Medzi detegované typy patria:

  • Celé mená
  • Adresy
  • Telefónne čísla
  • Čísla sociálneho poistenia
  • Údaje o finančných účtoch

Definícia spoločnosti Mistral sa zameriava na žiadosť, zdieľanie alebo pokus o získanie týchto identifikujúcich informácií.

from mistralai.client import Mistral
import os
import re

client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])

def detect_pii(text: str) -> dict:
    """Detects personal data in text."""
    # Layer 1: Mistral Classifier
    response = client.classifiers.moderate(
        model="mistral-moderation-2603",
        inputs=[text]
    )
    pii_score = (response.results[0].category_scores or {}).get("pii", 0)

    # Layer 2: Regex for common patterns
    pii_patterns = {
        "email": r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
        "telephone_fr": r"(?:0|\+33)[1-9](?:\d{2}){4}",
        "secu_sociale": r"\d{13,15}",
        "carte_bancaire": r"\d{4}[\s-]?\d{4}[\s-]?\d{4}[\s-]?\d{4}",
        "iban": r"FR\d{2}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{3}"
    }

    detected_pii = {}
    for name, pattern in pii_patterns.items():
        matches = re.findall(pattern, text)
        if matches:
            detected_pii[name] = len(matches)

    return {
        "score_classifieur": round(pii_score, 3),
        "pii_regex": detected_pii,
        "contient_pii": pii_score > 0.2 or len(detected_pii) > 0
    }

Anonymizácia pred spracovaním

Anonymizácia v počiatočnej fáze je najnákladovo efektívnejším opatrením v celej tejto lekcii, pretože mení podstatu problému: údaje, ktoré nikdy neopustia tvoju infraštruktúru, nespôsobujú žiadne problémy s prenosom. Nahradenie mien, e-mailov a čísel tokenmi ([PERSON_1], [EMAIL_1]) pred volaním modelu takmer vždy zachová význam pre analýzu – a ak si lokálne ponecháš tabuľku mapovania, môžeš skutočné hodnoty spätné vložiť do odpovede. Pokiaľ táto tabuľka existuje, ide právne o pseudonymizáciu, nie o anonymizáciu: údaje zostávajú osobné, ale údaje odoslané modelu už samy o sebe neumožňujú identifikáciu osoby.

def anonymize_text(text: str) -> tuple:
    """Anonymizes text and keeps a restoration mapping."""
    mapping = {}
    anonymized_text = text

    # Anonymize emails
    emails = re.findall(
        r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
        text
    )
    for i, email in enumerate(set(emails)):
        placeholder = f"[EMAIL_{i+1}]"
        mapping[placeholder] = email
        anonymized_text = anonymized_text.replace(email, placeholder)

    # Anonymize phones
    phones = re.findall(
        r"(?:0|\+33)[1-9](?:[\s.-]?\d{2}){4}",
        text
    )
    for i, tel in enumerate(set(phones)):
        placeholder = f"[TEL_{i+1}]"
        mapping[placeholder] = tel
        anonymized_text = anonymized_text.replace(tel, placeholder)

    # Anonymize names (if detected by upstream NER)
    # Add your own NER logic here

    return anonymized_text, mapping

def restore_text(anonymized_text: str, mapping: dict) -> str:
    """Restores anonymized data after processing."""
    restored_text = anonymized_text
    for placeholder, value in mapping.items():
        restored_text = restored_text.replace(placeholder, value)
    return restored_text

# Usage in pipeline
original_text = "Contactez [email protected] au 06 12 34 56 78"
anonymized_text, mapping = anonymize_text(original_text)
# → "Contactez [EMAIL_1] au [TEL_1]"

# Send anonymized text to model
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": anonymized_text}]
)

Záznamy moderácie v súlade s GDPR

Záznamy (logy) sú klasickým slepým miestom: myslíme si „osobné údaje“ v súvislosti so správami používateľov, ale zriedka v súvislosti s technickými stopami, ktoré ich kopírujú. Moderátny záznam uchovávajúci analyzovaný text je však osobnou databázou so všetkými z toho vyplývajúcimi povinnosťami. Zlaté pravidlo znie: uchovávaj text iba pre blokovaný obsah – budeš ho potrebovať v prípade sporu – a pre akceptovaný obsah uchovávaj iba skóre.

import hashlib
import hmac
from datetime import datetime, timedelta, timezone


class LogModerationRGPD:
    """GDPR-compliant moderation logger."""

    def __init__(self, retention_jours: int = 90):
        self.retention_jours = retention_jours
        # Mandatory secret key, kept out of code (vault or environment variable)
        self.key = os.environ["PII_HMAC_KEY"].encode()

    def _pseudonymiser(self, user_id: str) -> str:
        """Pseudonymizes a user identifier (HMAC-SHA-256)."""
        return hmac.new(self.key, user_id.encode(), hashlib.sha256).hexdigest()[:16]

    def log_moderation(self, user_id: str, scores: dict, decision: str,
                       text: str | None = None) -> dict:
        """Records a moderation decision."""
        maintenant = datetime.now(timezone.utc)
        entry = {
            "timestamp": maintenant.isoformat(),
            "user_hash": self._pseudonymiser(user_id),
            "scores": scores,
            "decision": decision,
            # Do NOT store full text by default
            "texte_longueur": len(text) if text else 0,
            "conserver_jusqu_au": (maintenant + timedelta(days=self.retention_jours)).isoformat(),
        }

        # Store text excerpt only if blocked (for audit)
        if decision == "blocked" and text:
            entry["texte_tronque"] = text[:200]

        return entry

    def purger_anciens_logs(self, logs: list[dict]) -> list[dict]:
        """Keeps logs whose retention end date has not passed."""
        maintenant = datetime.now(timezone.utc)
        return [
            log for log in logs
            if datetime.fromisoformat(log["conserver_jusqu_au"]) > maintenant
        ]

Dve opatrenia v tomto kóde si zaslúžia zmienku. Kľúč na pseudonymizáciu nemá žiadnu predvolenú hodnotu: kľúč zapísaný priamo v kóde, známy každému, by umožnil prepočítať hash akéhokoľvek identifikátora. Ďalej, pseudonymizované údaje zostávajú podľa GDPR osobnými údajmi (odôvodnenie 26): tento záznam podlieha lehotám na uchovávanie a právam dotknutých osôb.

Auditná stopa pre súlad

Auditná stopa odpovedá na konkrétnu otázku, ktorú sa ťa môže opýtať používateľ alebo orgán: „Prečo bol tento obsah blokovaný?“ Bez stopy je tvoja jediná úprimná odpoveď „Už to neviem“ – čo je neudržateľné vzhľadom na to, že GDPR vyžaduje pri plne automatizovaných rozhodnutiach podľa článku 22 informovať osobu o underlying logike (články 13 až 15) a zákon o AI pridáva vlastné povinnosti týkajúce sa transparentnosti. Auditná stopa uchováva rozhodnutie, skóre, ktoré ho motivovali, a verziu uplatnenej politiky – bez nutnosti uchovávať samotný text.

class AuditTrail:
    """Audit trail for moderation decisions."""

    def __init__(self, storage_path: str):
        self.storage_path = storage_path

    def record_decision(self, data: dict) -> str:
        """Records a decision with a unique identifier."""
        import uuid

        audit_id = str(uuid.uuid4())
        entry = {
            "audit_id": audit_id,
            "timestamp": datetime.now(timezone.utc).isoformat(),
            "type_decision": data.get("decision"),
            "modele_moderation": "mistral-moderation-2603",
            "scores": data.get("scores"),
            "seuils_appliques": data.get("seuils"),
            "politique_version": data.get("politique_version"),
            "action_prise": data.get("action"),
            "base_legale": "interet_legitime",
            "responsable": "systeme_automatise"
        }

        # Write to audit file
        import json
        with open(self.storage_path, "a") as f:
            f.write(json.dumps(entry, ensure_ascii=False) + "\n")

        return audit_id

Kontrolný zoznam GDPR pre tvoju AI aplikáciu

Tu sú body, ktoré musíš overiť, aby si zabezpečil súlad svojho systému moderácie:

Právny základ

  • Zdokumentovaný oprávnený záujem na moderáciu obsahu
  • Upovedomenie používateľa o automatizovanom spracúvaní
  • Možnosť napadnúť automatizované rozhodnutie

Minimalizácia údajov

  • Uchovávaj iba striktne nevyhnutné údaje
  • Anonymizuj alebo pseudonymizuj identifikátory používateľov
  • Skracuj text v záznamoch moderácie
  • Neuchovávaj akceptované texty (iba skóre)

Lehota na uchovávanie

  • Definuj lehotu na uchovávanie pre každý typ údajov
  • Záznamy moderácie: maximálne 90 dní (pokiaľ právna povinnosť nevyžaduje inak)
  • Auditná stopa: podľa odvetvovej regulácie
  • Naplánované automatické čistenie

Práva používateľov

  • Právo na prístup k rozhodnutiam o moderácii týkajúcim sa danej osoby
  • Právo na opravu, ak je rozhodnutie napadnuté
  • Právo na vysvetlenie automatizovaného rozhodnutia

Kľúčové poznatky

  • GDPR sa v plnej miere vzťahuje na tvoje systémy moderácie AI
  • Na detekciu osobných údajov používaj kategóriu pii od Mistralu AJ regex
  • Anonymizuj texty pred ich odoslaním modelu, keď je to možné
  • Pseudonymizuj identifikátory používateľov v záznamoch
  • Implementuj auditnú stopu pre sledovateľnosť rozhodnutí
  • Definuj lehotu na uchovávanie a automaticky čistí staré záznamy