Vai al contenuto principale
Italiano— Scegli una lingua
Menu

Edizione in italiano

Moderazione e sicurezza AI con Mistral

Metti in sicurezza le tue applicazioni AI con Custom Guardrails e l'API di Moderazione, che includono 11 categorie di contenuti, soglie di rilevamento e implementazione di policy sui contenuti in produzione.

12 lezioni ca. 1 h 15 min Sviluppatore

Cosa imparerai

  • Implementare Custom Guardrails che bloccano una richiesta prima della chiamata al modello
  • Chiamare l'API di Moderazione e interpretare i punteggi per le undici categorie di contenuti
  • Impostare soglie di rilevamento coerenti con la policy sui contenuti definita
  • Rilevare e neutralizzare i tentativi di prompt injection negli input degli utenti
  • Progettare un'architettura di sicurezza completa, conforme al GDPR, per un'applicazione in produzione

Scheda del corso

Destinatari
Sviluppatori, ingegneri e integratori che intendono utilizzare Mistral AI tramite API nelle loro applicazioni.
Prerequisiti
Capacità di leggere Python e JSON e competenze di base sulla riga di comando. È necessaria una chiave API di Mistral AI Studio per provare gli esempi.
Durata
1 h 15 min — 12 lezioni
Modalità
Corso online 100% autonomo, accessibile 24/7 da browser. I progressi vengono salvati, permettendo di riprendere in qualsiasi momento. Durata stimata: 1 h 15 min.
Valutazione
Autovalutazione basata sui punti chiave che concludono ogni lezione e implementazione diretta degli esempi sui propri casi d'uso. Un quiz finale di 5 domande corrette alla fine dell'ultima lezione convalida le competenze acquisite.
Accessibilità
Corso accessibile alle persone con disabilità: contenuti testuali compatibili con screen reader, navigazione da tastiera e contrasti conformi. Per eventuali esigenze di adattamento, inviare un'email a [email protected].
Prezzo
Gratis

Contenuto del corso

  1. 01 Perché mettere in sicurezza le tue applicazioni AI
  2. 02 Custom Guardrails: Blocca prima del modello
  3. 03 Configurer les garde-fous en Python
  4. 04 Guardrail per gli Agenti Mistral
  5. 05 API di Moderazione di Mistral
  6. 06 Le 11 categorie di moderazione
  7. 07 Punteggi e soglie di moderazione
  8. 08 Moderazione in pratica: codice completo
  9. 09 Definisci la tua politica dei contenuti
  10. 10 Rilevare i tentativi di prompt injection
  11. 11 Conformità al GDPR e protezione dei dati
  12. 12 Architettura di Sicurezza Completa