Edizione in italiano
Sicurezza dell'IA e Red Teaming
Tratta injection di prompt, jailbreaking, guardrail, moderazione, red teaming e conformità al GDPR per l'IA.
14 lezioni ca. 1 h 45 min Avanzato
Cosa imparerai
- Mappare i rischi specifici delle applicazioni basate su modelli linguistici
- Identificare e prevenire attacchi di injection di prompt e tentativi di jailbreak
- Implementare guardrail per la validazione di input e output
- Sfruttare le API di moderazione e il filtraggio multilivello
- Condurre un esercizio di red teaming e documentare i risultati
Scheda del corso
- Destinatari
- Sviluppatori, ingegneri e integratori che intendono sfruttare ChatGPT tramite API nelle loro applicazioni.
- Prerequisiti
- Esperienza comprovata nello sviluppo e nel deployment di applicazioni.
- Durata
- 1 h 45 min — 14 lezioni
- Modalità
- Corso online 100% autonomo, accessibile 24/7 da browser. I progressi vengono salvati, permettendo di riprendere in qualsiasi momento. Durata stimata: 1 h 45 min.
- Valutazione
- Esercizi applicativi forniti durante le lezioni. Ogni lezione termina con i punti chiave, a supporto dell'autovalutazione. Un quiz finale di 5 domande corrette, alla fine dell'ultima lezione, convalida le competenze acquisite.
- Accessibilità
- Corso autonomo accessibile alle persone con disabilità: contenuto testuale compatibile con screen reader, navigazione da tastiera e contrasti conformi. Per eventuali esigenze di adattamento, inviare un'email a [email protected].
- Prezzo
- Gratis
Contenuto del corso
- 01 Tassonomia dei rischi dell'IA
- 02 Prompt Injection: Attacchi e Difese
- 03 Jailbreaking: comprensione e prevenzione
- 04 Esfiltrazione dei dati e privacy
- 05 L'API di Moderazione di OpenAI
- 06 Guardrail: convalida di input e output
- 07 Sandboxing e isolamento
- 08 Limitazione delle richieste e prevenzione degli abusi
- 09 Filtraggio dei contenuti a più livelli
- 10 Metodologia di Red Teaming per l'IA
- 11 Strumenti e framework di testing
- 12 Rapporto di sicurezza e rimedio
- 13 GDPR e protezione dei dati con OpenAI
- 14 Audit di sicurezza e certificazione