Edizione in italiano
Moderazione e sicurezza AI con Mistral
Metti in sicurezza le tue applicazioni AI con Custom Guardrails e l'API di Moderazione, che includono 11 categorie di contenuti, soglie di rilevamento e implementazione di policy sui contenuti in produzione.
12 lezioni ca. 1 h 15 min Sviluppatore
Cosa imparerai
- Implementare Custom Guardrails che bloccano una richiesta prima della chiamata al modello
- Chiamare l'API di Moderazione e interpretare i punteggi per le undici categorie di contenuti
- Impostare soglie di rilevamento coerenti con la policy sui contenuti definita
- Rilevare e neutralizzare i tentativi di prompt injection negli input degli utenti
- Progettare un'architettura di sicurezza completa, conforme al GDPR, per un'applicazione in produzione
Scheda del corso
- Destinatari
- Sviluppatori, ingegneri e integratori che intendono utilizzare Mistral AI tramite API nelle loro applicazioni.
- Prerequisiti
- Capacità di leggere Python e JSON e competenze di base sulla riga di comando. È necessaria una chiave API di Mistral AI Studio per provare gli esempi.
- Durata
- 1 h 15 min — 12 lezioni
- Modalità
- Corso online 100% autonomo, accessibile 24/7 da browser. I progressi vengono salvati, permettendo di riprendere in qualsiasi momento. Durata stimata: 1 h 15 min.
- Valutazione
- Autovalutazione basata sui punti chiave che concludono ogni lezione e implementazione diretta degli esempi sui propri casi d'uso. Un quiz finale di 5 domande corrette alla fine dell'ultima lezione convalida le competenze acquisite.
- Accessibilità
- Corso accessibile alle persone con disabilità: contenuti testuali compatibili con screen reader, navigazione da tastiera e contrasti conformi. Per eventuali esigenze di adattamento, inviare un'email a [email protected].
- Prezzo
- Gratis
Contenuto del corso
- 01 Perché mettere in sicurezza le tue applicazioni AI
- 02 Custom Guardrails: Blocca prima del modello
- 03 Configurer les garde-fous en Python
- 04 Guardrail per gli Agenti Mistral
- 05 API di Moderazione di Mistral
- 06 Le 11 categorie di moderazione
- 07 Punteggi e soglie di moderazione
- 08 Moderazione in pratica: codice completo
- 09 Definisci la tua politica dei contenuti
- 10 Rilevare i tentativi di prompt injection
- 11 Conformità al GDPR e protezione dei dati
- 12 Architettura di Sicurezza Completa