Svensk version
AI-säkerhet och red teaming
Täcker prompt injection, jailbreaking, skyddsräcken, moderering, red teaming och GDPR-efterlevnad för AI.
14 lektioner ca. 1 h 45 min Avancerad
Vad du lär dig
- Kartlägga risker specifika för applikationer baserade på språkmodeller
- Identifiera och förhindra prompt injection-attacker och jailbreak-försök
- Implementera skyddsräcken för validering av in- och utdata
- Utnyttja modererings-API:er och flerskiktsfiltrering
- Genomföra en red teaming-övning och dokumentera fynd
Kursöversikt
- Målgrupp
- Utvecklare, ingenjörer och integratörer som vill utnyttja ChatGPT via API i sina applikationer.
- Förkunskaper
- Bevisad erfarenhet av applikationsutveckling och distribution.
- Studietid
- 1 h 45 min — 14 lektioner
- Upplägg
- 100 % online självstudiekurs, tillgänglig 24/7 från en webbläsare. Framsteg sparas så att du kan fortsätta när som helst. Beräknad tid: 1 h 45 min.
- Bedömning
- Tillämpningsövningar tillhandahålls genom hela lektionerna. Varje lektion avslutas med sina Nyckelinsikter som stöder självutvärdering. Ett slutprov med 5 rättade frågor, i slutet av den sista lektionen, validerar förvärvade färdigheter.
- Tillgänglighet
- Självstudiekurs tillgänglig för personer med funktionsnedsättning: textinnehåll kompatibelt med skärmläsare, tangentbordsnavigering och kontraster som uppfyller kraven. För eventuella anpassningsbehov, mejla [email protected].
- Pris
- Gratis
Kursens innehåll
- 01 Taxonomi över AI-risker
- 02 Promptinjektion: Attacker och försvar
- 03 Jailbreaking: Förståelse och förebyggande
- 04 Exfiltrering av data och integritet
- 05 OpenAI:s modererings-API
- 06 Guardrails: Validera in- och utdata
- 07 Sandboxning och isolering
- 08 Begränsning av förfrågningar och skydd mot missbruk
- 09 Filtrering av innehåll i flera lager
- 10 Metodik för AI-red teaming
- 11 Verktyg och ramverk för testning
- 12 Säkerhetsrapport och åtgärder
- 13 GDPR och dataskydd med OpenAI
- 14 Revision de sécurité et certification