Conformidade com o RGPD e Proteção de Dados
Nesta página
Atualizado em 3 de novembro de 2026. A lista de itens detetados pela categoria
piiestá agora alinhada com a definição da Mistral (os dados de saúde regem-se por normas diferentes e a categoriahealthdestina-se a pedidos de aconselhamento médico). O registo (logger) conforme calculava incorretamente a data final de retenção, fazendo com que as purgas eliminassem tudo; utilizava também uma chave de salting predefinida e codificada para pseudonimização e o método obsoletodatetime.utcnow(). A pseudonimização utiliza agora HMAC-SHA-256 com uma chave obrigatória. Fontes: Moderation & Guardrailing · RGPD, Considerando 26 e Artigos 4.º e 22.º · Python hmac.
IA e Dados Pessoais: Um Enquadramento Rigoroso
Existe um paradoxo no cerne desta lição e, ao compreendê-lo claramente, evita muitos erros de conceção: o seu sistema de moderação é, em si mesmo, uma operação de tratamento de dados pessoais. Para proteger os seus utilizadores, analisa os seus textos, gera pontuações e conserva registos — todas operações que o RGPD regula exatamente como qualquer outra atividade de tratamento.
A conformidade, portanto, não significa adicionar uma camada de proteção sobre a moderação. Significa conceber o próprio sistema de moderação para processar a quantidade mínima de dados, pelo menor tempo possível, mantendo simultaneamente um registo das suas decisões. Este é o fio condutor das secções seguintes.
O RGPD (Regulamento Geral sobre a Proteção de Dados) aplica-se integralmente às aplicações de IA que processam dados de residentes europeus. A própria moderação de conteúdos gera dados que se enquadram no âmbito do RGPD. Deve compreender as suas obrigações para evitar coimas que podem atingir 4% do volume de negócios anual global.
A Categoria PII na Moderação da Mistral
A categoria pii do classificador da Mistral deteta pedidos ou divulgações de informações pessoais. Há um ponto arquitetónico a estabelecer de imediato: este classificador é uma rede de segurança, não uma garantia. Deteta formulações variadas que uma expressão regular (regex) perderia (“o meu número é…”), mas, como qualquer modelo, tem falsos negativos. Por outro lado, uma expressão regular deteta fiavelmente formatos estruturados — IBANs, números de segurança social, cartões de crédito — mas nada mais. A melhor prática combina ambos: regex para formatos conhecidos, classificador para o resto. Os tipos detetados incluem:
- Nomes completos
- Moradas
- Números de telefone
- Números de segurança social
- Detalhes de contas financeiras
A definição da Mistral foca-se no pedido, partilha ou tentativa de obtenção destas informações identificativas.
from mistralai.client import Mistral
import os
import re
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def detect_pii(text: str) -> dict:
"""Detects personal data in text."""
# Layer 1: Mistral Classifier
response = client.classifiers.moderate(
model="mistral-moderation-2603",
inputs=[text]
)
pii_score = (response.results[0].category_scores or {}).get("pii", 0)
# Layer 2: Regex for common patterns
pii_patterns = {
"email": r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
"telephone_fr": r"(?:0|\+33)[1-9](?:\d{2}){4}",
"secu_sociale": r"\d{13,15}",
"carte_bancaire": r"\d{4}[\s-]?\d{4}[\s-]?\d{4}[\s-]?\d{4}",
"iban": r"FR\d{2}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{4}\s?\d{3}"
}
detected_pii = {}
for name, pattern in pii_patterns.items():
matches = re.findall(pattern, text)
if matches:
detected_pii[name] = len(matches)
return {
"score_classifieur": round(pii_score, 3),
"pii_regex": detected_pii,
"contient_pii": pii_score > 0.2 or len(detected_pii) > 0
}
Anonimização Antes do Processamento
A anonimização a montante é a medida mais rentável de toda esta lição, pois altera a natureza do problema: dados que nunca saem da sua infraestrutura não levantam questões de transferência. Substituir nomes, e-mails e números por tokens ([PERSON_1], [EMAIL_1]) antes de chamar o modelo preserva quase sempre o significado para análise — e, se mantiver a tabela de mapeamento localmente, pode reinjetar os valores reais na resposta. Enquanto esta tabela existir, trata-se legalmente de pseudonimização, não de anonimização: os dados permanecem pessoais, mas os dados enviados ao modelo já não permitem, por si sós, identificar a pessoa.
def anonymize_text(text: str) -> tuple:
"""Anonymizes text and keeps a restoration mapping."""
mapping = {}
anonymized_text = text
# Anonymize emails
emails = re.findall(
r"[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}",
text
)
for i, email in enumerate(set(emails)):
placeholder = f"[EMAIL_{i+1}]"
mapping[placeholder] = email
anonymized_text = anonymized_text.replace(email, placeholder)
# Anonymize phones
phones = re.findall(
r"(?:0|\+33)[1-9](?:[\s.-]?\d{2}){4}",
text
)
for i, tel in enumerate(set(phones)):
placeholder = f"[TEL_{i+1}]"
mapping[placeholder] = tel
anonymized_text = anonymized_text.replace(tel, placeholder)
# Anonymize names (if detected by upstream NER)
# Add your own NER logic here
return anonymized_text, mapping
def restore_text(anonymized_text: str, mapping: dict) -> str:
"""Restores anonymized data after processing."""
restored_text = anonymized_text
for placeholder, value in mapping.items():
restored_text = restored_text.replace(placeholder, value)
return restored_text
# Usage in pipeline
original_text = "Contactez [email protected] au 06 12 34 56 78"
anonymized_text, mapping = anonymize_text(original_text)
# → "Contactez [EMAIL_1] au [TEL_1]"
# Send anonymized text to model
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": anonymized_text}]
)
Registos de Moderação Conformes com o RGPD
Os registos (logs) são o ponto cego clássico: pensamos em «dados pessoais» relativamente às mensagens dos utilizadores, mas raramente relativamente aos rastreios técnicos que as copiam. No entanto, um registo de moderação que retenha o texto analisado é uma base de dados pessoal, com todas as obrigações consequentes. A regra de ouro: registe texto apenas para conteúdos bloqueados — precisará disso em caso de litígio — e registe apenas as pontuações para conteúdos aceites.
import hashlib
import hmac
from datetime import datetime, timedelta, timezone
class LogModerationRGPD:
"""GDPR-compliant moderation logger."""
def __init__(self, retention_jours: int = 90):
self.retention_jours = retention_jours
# Mandatory secret key, kept out of code (vault or environment variable)
self.key = os.environ["PII_HMAC_KEY"].encode()
def _pseudonymiser(self, user_id: str) -> str:
"""Pseudonymizes a user identifier (HMAC-SHA-256)."""
return hmac.new(self.key, user_id.encode(), hashlib.sha256).hexdigest()[:16]
def log_moderation(self, user_id: str, scores: dict, decision: str,
text: str | None = None) -> dict:
"""Records a moderation decision."""
maintenant = datetime.now(timezone.utc)
entry = {
"timestamp": maintenant.isoformat(),
"user_hash": self._pseudonymiser(user_id),
"scores": scores,
"decision": decision,
# Do NOT store full text by default
"texte_longueur": len(text) if text else 0,
"conserver_jusqu_au": (maintenant + timedelta(days=self.retention_jours)).isoformat(),
}
# Store text excerpt only if blocked (for audit)
if decision == "blocked" and text:
entry["texte_tronque"] = text[:200]
return entry
def purger_anciens_logs(self, logs: list[dict]) -> list[dict]:
"""Keeps logs whose retention end date has not passed."""
maintenant = datetime.now(timezone.utc)
return [
log for log in logs
if datetime.fromisoformat(log["conserver_jusqu_au"]) > maintenant
]
Duas precauções neste código merecem destaque. A chave de pseudonimização não tem valor predefinido: uma chave escrita no código, conhecida por todos, permitiria recalcular o hash de qualquer identificador. Além disso, os dados pseudonimizados permanecem dados pessoais ao abrigo do RGPD (Considerando 26): este registo continua sujeito a prazos de retenção e aos direitos dos titulares dos dados.
Rasto de Auditoria para Conformidade
O rasto de auditoria responde a uma pergunta específica que um utilizador ou autoridade lhe pode colocar: «Por que razão foi este conteúdo bloqueado?». Sem um rasto, a sua única resposta honesta é «Já não sei» — algo insustentável, dado que o RGPD exige, para decisões totalmente automatizadas nos termos do artigo 22.º, que se informe a pessoa sobre a lógica subjacente (artigos 13.º a 15.º), e o AI Act acrescenta as suas próprias obrigações de transparência. O rasto de auditoria conserva a decisão, as pontuações que a motivaram e a versão da política aplicada — sem necessariamente reter o próprio texto.
class AuditTrail:
"""Audit trail for moderation decisions."""
def __init__(self, storage_path: str):
self.storage_path = storage_path
def record_decision(self, data: dict) -> str:
"""Records a decision with a unique identifier."""
import uuid
audit_id = str(uuid.uuid4())
entry = {
"audit_id": audit_id,
"timestamp": datetime.now(timezone.utc).isoformat(),
"type_decision": data.get("decision"),
"modele_moderation": "mistral-moderation-2603",
"scores": data.get("scores"),
"seuils_appliques": data.get("seuils"),
"politique_version": data.get("politique_version"),
"action_prise": data.get("action"),
"base_legale": "interet_legitime",
"responsable": "systeme_automatise"
}
# Write to audit file
import json
with open(self.storage_path, "a") as f:
f.write(json.dumps(entry, ensure_ascii=False) + "\n")
return audit_id
Lista de Verificação do RGPD para a Sua Aplicação de IA
Eis os pontos a verificar para garantir que o seu sistema de moderação está em conformidade:
Base Jurídica
- Interesse legítimo documentado para a moderação de conteúdos
- Notificação ao utilizador sobre o processamento automatizado
- Possibilidade de contestar uma decisão automatizada
Minimização de Dados
- Armazenar apenas os dados estritamente necessários
- Anonimizar ou pseudonimizar os identificadores dos utilizadores
- Truncar o texto nos registos de moderação
- Não reter textos aceites (apenas pontuações)
Prazo de Retenção
- Definir um prazo de retenção para cada tipo de dados
- Registos de moderação: máximo de 90 dias (salvo se obrigação legal exigir otherwise)
- Rasto de auditoria: conforme regulamentação setorial
- Purga automática agendada
Direitos dos Utilizadores
- Direito de acesso às decisões de moderação que lhes digam respeito
- Direito de retificação se a decisão for contestada
- Direito à explicação da decisão automatizada
Pontos-chave
- O RGPD aplica-se integralmente aos seus sistemas de moderação de IA
- Utilize a categoria
piida Mistral E expressões regulares (regex) para detetar dados pessoais - Anonimize os textos antes de os enviar para o modelo, sempre que possível
- Pseudonimize os identificadores dos utilizadores nos registos
- Implemente um rasto de auditoria para a rastreabilidade das decisões
- Defina um prazo de retenção e purgue automaticamente os registos