Edición en español
Seguridad de la IA y red teaming
Aborda la inyección de prompts, el jailbreaking, las barreras de protección, la moderación, el red teaming y el cumplimiento del RGPD para la IA.
14 lecciones ca. 1 h 45 min Avanzado
Lo que aprenderás
- Mapear los riesgos específicos de las aplicaciones basadas en modelos de lenguaje
- Identificar y prevenir ataques de inyección de prompts e intentos de jailbreak
- Implementar barreras de protección para la validación de entradas y salidas
- Aprovechar las API de moderación y el filtrado en múltiples capas
- Realizar un ejercicio de red teaming y documentar los hallazgos
Ficha del curso
- Dirigido a
- Desarrolladores, ingenieros e integradores que buscan aprovechar ChatGPT mediante API en sus aplicaciones.
- Requisitos previos
- Experiencia demostrada en desarrollo y despliegue de aplicaciones.
- Duración
- 1 h 45 min — 14 lecciones
- Modalidades
- Curso 100 % en línea y a tu propio ritmo, accesible 24/7 desde un navegador. El progreso se guarda, lo que te permite retomarlo en cualquier momento. Duración estimada: 1 h 45 min.
- Evaluación
- Ejercicios prácticos proporcionados a lo largo de las lecciones. Cada lección termina con sus puntos clave, lo que favorece la autoevaluación. Un cuestionario final de 5 preguntas corregidas, al final de la última lección, valida las competencias adquiridas.
- Accesibilidad
- Curso a tu propio ritmo accesible para personas con discapacidad: contenido de texto compatible con lectores de pantalla, navegación por teclado y contrastes conformes. Para cualquier necesidad de adaptación, escribe a [email protected].
- Precio
- Gratis
Contenido del curso
- 01 Taxonomía de riesgos de la IA
- 02 Inyección de prompts: ataques y defensas
- 03 Jailbreaking: comprensión y prevención
- 04 Exfiltración de datos y privacidad
- 05 La API de Moderación de OpenAI
- 06 Barreras de seguridad: validación de entradas y salidas
- 07 Aislamiento y entornos aislados (sandboxing)
- 08 Limitación de peticiones y prevención de abusos
- 09 Filtrado de contenido en múltiples capas
- 10 Metodología de Red Teaming para IA
- 11 Herramientas y marcos de prueba
- 12 Informe de seguridad y remediación
- 13 RGPD y protección de datos con OpenAI
- 14 Auditoría de seguridad y certificación