Ir para o conteúdo principal
Português— Escolher um idioma
Menu

Edição em português

Segurança de IA e Red Teaming

Aborda injeção de prompts, jailbreaking, guardrails, moderação, red teaming e conformidade com o RGPD para IA.

14 aulas ca. 1 h 45 min Avancado

O que vai aprender

  • Mapear riscos específicos de aplicações baseadas em modelos de linguagem
  • Identificar e prevenir ataques de injeção de prompts e tentativas de jailbreak
  • Implementar guardrails de validação de entrada e saída
  • Aproveitar APIs de moderação e filtragem em várias camadas
  • Realizar um exercício de red teaming e documentar as descobertas

Ficha do curso

Destinatários
Programadores, engenheiros e integradores que pretendem aproveitar o ChatGPT via API nas suas aplicações.
Pré-requisitos
Experiência comprovada em desenvolvimento e implementação de aplicações.
Duração
1 h 45 min — 14 aulas
Modalidades
Curso 100% online e autoinstrucional, acessível 24/7 através de um navegador. O progresso é guardado, permitindo-lhe retomar a qualquer momento. Duração estimada: 1 h 45 min.
Avaliação
Exercícios práticos fornecidos ao longo das lições. Cada lição termina com os seus pontos-chave, apoiando a autoavaliação. Um questionário final de 5 perguntas corrigidas, no final da última lição, valida as competências adquiridas.
Acessibilidade
Curso autoinstrucional acessível a pessoas com deficiência: conteúdo de texto compatível com leitores de ecrã, navegação por teclado e contrastes conformes. Para quaisquer necessidades de adaptação, envie um e-mail para [email protected].
Preço
Gratis

Conteúdo do curso

  1. 01 Taxonomia de Riscos de IA
  2. 02 Injeção de Prompts: Ataques e Defesas
  3. 03 Jailbreaking: Compreensão e Prevenção
  4. 04 Exfiltração de Dados e Privacidade
  5. 05 API de Moderação da OpenAI
  6. 06 Guardrails: Validação de Entradas e Saídas
  7. 07 Sandboxing e isolamento
  8. 08 Limitação de taxa e prevenção de abusos
  9. 09 Filtragem de Conteúdo em Múltiplas Camadas
  10. 10 Metodologia de Red Teaming para IA
  11. 11 Ferramentas e frameworks de teste
  12. 12 Relatório de Segurança e Correção
  13. 13 RGPD e Proteção de Dados com a OpenAI
  14. 14 Auditoria de segurança e certificação