Edição em português
Segurança de IA e Red Teaming
Aborda injeção de prompts, jailbreaking, guardrails, moderação, red teaming e conformidade com o RGPD para IA.
14 aulas ca. 1 h 45 min Avancado
O que vai aprender
- Mapear riscos específicos de aplicações baseadas em modelos de linguagem
- Identificar e prevenir ataques de injeção de prompts e tentativas de jailbreak
- Implementar guardrails de validação de entrada e saída
- Aproveitar APIs de moderação e filtragem em várias camadas
- Realizar um exercício de red teaming e documentar as descobertas
Ficha do curso
- Destinatários
- Programadores, engenheiros e integradores que pretendem aproveitar o ChatGPT via API nas suas aplicações.
- Pré-requisitos
- Experiência comprovada em desenvolvimento e implementação de aplicações.
- Duração
- 1 h 45 min — 14 aulas
- Modalidades
- Curso 100% online e autoinstrucional, acessível 24/7 através de um navegador. O progresso é guardado, permitindo-lhe retomar a qualquer momento. Duração estimada: 1 h 45 min.
- Avaliação
- Exercícios práticos fornecidos ao longo das lições. Cada lição termina com os seus pontos-chave, apoiando a autoavaliação. Um questionário final de 5 perguntas corrigidas, no final da última lição, valida as competências adquiridas.
- Acessibilidade
- Curso autoinstrucional acessível a pessoas com deficiência: conteúdo de texto compatível com leitores de ecrã, navegação por teclado e contrastes conformes. Para quaisquer necessidades de adaptação, envie um e-mail para [email protected].
- Preço
- Gratis
Conteúdo do curso
- 01 Taxonomia de Riscos de IA
- 02 Injeção de Prompts: Ataques e Defesas
- 03 Jailbreaking: Compreensão e Prevenção
- 04 Exfiltração de Dados e Privacidade
- 05 API de Moderação da OpenAI
- 06 Guardrails: Validação de Entradas e Saídas
- 07 Sandboxing e isolamento
- 08 Limitação de taxa e prevenção de abusos
- 09 Filtragem de Conteúdo em Múltiplas Camadas
- 10 Metodologia de Red Teaming para IA
- 11 Ferramentas e frameworks de teste
- 12 Relatório de Segurança e Correção
- 13 RGPD e Proteção de Dados com a OpenAI
- 14 Auditoria de segurança e certificação