Ir al contenido principal
Español— Elegir un idioma
Menú

Edición en español

Seguridad de la IA y red teaming

Aborda la inyección de prompts, el jailbreaking, las barreras de protección, la moderación, el red teaming y el cumplimiento del RGPD para la IA.

14 lecciones ca. 1 h 45 min Avanzado

Lo que aprenderás

  • Mapear los riesgos específicos de las aplicaciones basadas en modelos de lenguaje
  • Identificar y prevenir ataques de inyección de prompts e intentos de jailbreak
  • Implementar barreras de protección para la validación de entradas y salidas
  • Aprovechar las API de moderación y el filtrado en múltiples capas
  • Realizar un ejercicio de red teaming y documentar los hallazgos

Ficha del curso

Dirigido a
Desarrolladores, ingenieros e integradores que buscan aprovechar ChatGPT mediante API en sus aplicaciones.
Requisitos previos
Experiencia demostrada en desarrollo y despliegue de aplicaciones.
Duración
1 h 45 min — 14 lecciones
Modalidades
Curso 100 % en línea y a tu propio ritmo, accesible 24/7 desde un navegador. El progreso se guarda, lo que te permite retomarlo en cualquier momento. Duración estimada: 1 h 45 min.
Evaluación
Ejercicios prácticos proporcionados a lo largo de las lecciones. Cada lección termina con sus puntos clave, lo que favorece la autoevaluación. Un cuestionario final de 5 preguntas corregidas, al final de la última lección, valida las competencias adquiridas.
Accesibilidad
Curso a tu propio ritmo accesible para personas con discapacidad: contenido de texto compatible con lectores de pantalla, navegación por teclado y contrastes conformes. Para cualquier necesidad de adaptación, escribe a [email protected].
Precio
Gratis

Contenido del curso

  1. 01 Taxonomía de riesgos de la IA
  2. 02 Inyección de prompts: ataques y defensas
  3. 03 Jailbreaking: comprensión y prevención
  4. 04 Exfiltración de datos y privacidad
  5. 05 La API de Moderación de OpenAI
  6. 06 Barreras de seguridad: validación de entradas y salidas
  7. 07 Aislamiento y entornos aislados (sandboxing)
  8. 08 Limitación de peticiones y prevención de abusos
  9. 09 Filtrado de contenido en múltiples capas
  10. 10 Metodología de Red Teaming para IA
  11. 11 Herramientas y marcos de prueba
  12. 12 Informe de seguridad y remediación
  13. 13 RGPD y protección de datos con OpenAI
  14. 14 Auditoría de seguridad y certificación