Edición en español
Moderación y seguridad de IA con Mistral
Asegura tus aplicaciones de IA con barreras de protección personalizadas y la API de Moderación, que incluye 11 categorías de contenido, umbrales de detección e implementación de políticas de contenido en producción.
12 lecciones ca. 1 h 15 min Desarrollador
Lo que aprenderás
- Implementar barreras de protección personalizadas que bloqueen una solicitud antes de la llamada al modelo
- Llamar a la API de Moderación e interpretar las puntuaciones de las once categorías de contenido
- Establecer umbrales de detección coherentes con la política de contenido definida
- Detectar y neutralizar intentos de inyección de instrucciones en las entradas de usuario
- Diseñar una arquitectura de seguridad completa, conforme al RGPD, para una aplicación en producción
Ficha del curso
- Dirigido a
- Desarrolladores, ingenieros e integradores que buscan aprovechar Mistral AI mediante API en sus aplicaciones.
- Requisitos previos
- Capacidad para leer Python y JSON, y conocimientos básicos de línea de comandos. Una clave de API de Mistral AI Studio para probar los ejemplos.
- Duración
- 1 h 15 min — 12 lecciones
- Modalidades
- Curso 100 % en línea y a tu propio ritmo, accesible 24/7 desde un navegador. El progreso se guarda, lo que te permite retomarlo en cualquier momento. Duración estimada: 1 h 15 min.
- Evaluación
- Autoevaluación basada en los puntos clave que concluyen cada lección, y la implementación directa de los ejemplos con tus propios casos. Un cuestionario final de 5 preguntas corregidas al terminar la última lección valida las competencias adquiridas.
- Accesibilidad
- Curso accesible para personas con discapacidad: contenido de texto compatible con lectores de pantalla, navegación por teclado y contrastes conformes. Para cualquier necesidad de adaptación, escribe a [email protected].
- Precio
- Gratis
Contenido del curso
- 01 Por qué asegurar tus aplicaciones de IA
- 02 Barreras de seguridad personalizadas: bloqueo antes del modelo
- 03 Configurar barreras de seguridad en Python
- 04 Barreras de seguridad para agentes de Mistral
- 05 API de moderación de Mistral
- 06 Las 11 categorías de moderación
- 07 Puntuaciones y umbrales de moderación
- 08 Moderación en la práctica: código completo
- 09 Define tu política de contenidos
- 10 Detectar intentos de inyección de indicaciones
- 11 Cumplimiento del RGPD y protección de datos
- 12 Arquitectura de seguridad completa