Hoppa till huvudinnehåll
Svenska— Välj ett språk
Meny

Svensk version

AI-säkerhet och red teaming

Täcker prompt injection, jailbreaking, skyddsräcken, moderering, red teaming och GDPR-efterlevnad för AI.

14 lektioner ca. 1 h 45 min Avancerad

Vad du lär dig

  • Kartlägga risker specifika för applikationer baserade på språkmodeller
  • Identifiera och förhindra prompt injection-attacker och jailbreak-försök
  • Implementera skyddsräcken för validering av in- och utdata
  • Utnyttja modererings-API:er och flerskiktsfiltrering
  • Genomföra en red teaming-övning och dokumentera fynd

Kursöversikt

Målgrupp
Utvecklare, ingenjörer och integratörer som vill utnyttja ChatGPT via API i sina applikationer.
Förkunskaper
Bevisad erfarenhet av applikationsutveckling och distribution.
Studietid
1 h 45 min — 14 lektioner
Upplägg
100 % online självstudiekurs, tillgänglig 24/7 från en webbläsare. Framsteg sparas så att du kan fortsätta när som helst. Beräknad tid: 1 h 45 min.
Bedömning
Tillämpningsövningar tillhandahålls genom hela lektionerna. Varje lektion avslutas med sina Nyckelinsikter som stöder självutvärdering. Ett slutprov med 5 rättade frågor, i slutet av den sista lektionen, validerar förvärvade färdigheter.
Tillgänglighet
Självstudiekurs tillgänglig för personer med funktionsnedsättning: textinnehåll kompatibelt med skärmläsare, tangentbordsnavigering och kontraster som uppfyller kraven. För eventuella anpassningsbehov, mejla [email protected].
Pris
Gratis

Kursens innehåll

  1. 01 Taxonomi över AI-risker
  2. 02 Promptinjektion: Attacker och försvar
  3. 03 Jailbreaking: Förståelse och förebyggande
  4. 04 Exfiltrering av data och integritet
  5. 05 OpenAI:s modererings-API
  6. 06 Guardrails: Validera in- och utdata
  7. 07 Sandboxning och isolering
  8. 08 Begränsning av förfrågningar och skydd mot missbruk
  9. 09 Filtrering av innehåll i flera lager
  10. 10 Metodik för AI-red teaming
  11. 11 Verktyg och ramverk för testning
  12. 12 Säkerhetsrapport och åtgärder
  13. 13 GDPR och dataskydd med OpenAI
  14. 14 Revision de sécurité et certification