Dansk udgave
AI-sikkerhed og Red Teaming
Dækker prompt injection, jailbreaking, guardrails, moderering, red teaming og GDPR-overholdelse for AI.
14 lektioner ca. 1 h 45 min Avanceret
Hvad du lærer
- Kortlæg risici specifikke for applikationer baseret på sprogmodeller
- Identificer og forhindre prompt injection-angreb og jailbreak-forsøg
- Implementer guardrails til validering af input og output
- Udnyt modererings-API'er og flerlagsfiltrering
- Gennemfør en red teaming-øvelse og dokumentér fund
Kursusark
- Målgruppe
- Udviklere, ingeniører og integratorer, der ønsker at udnytte ChatGPT via API i deres applikationer.
- Forudsætninger
- Dokumenteret erfaring med applikationsudvikling og -udrulning.
- Varighed
- 1 h 45 min — 14 lektioner
- Formater
- 100 % online selvstudiekursus, tilgængeligt 24/7 fra en browser. Fremdriften gemmes, så du kan genoptage kurset når som helst. Estimeret varighed: 1 h 45 min.
- Vurdering
- Praktiske øvelser leveres gennem hele lektionerne. Hver lektion afsluttes med sine vigtigste pointer, hvilket understøtter selvevaluering. En afsluttende quiz med 5 rettede spørgsmål ved slutningen af den sidste lektion validerer de erhvervede færdigheder.
- Tilgængelighed
- Selvstudiekursus tilgængeligt for personer med handicap: tekstindhold kompatibelt med skærmlæsere, tastaturnavigation og overholdelse af kontrastkrav. For eventuelle behov for tilpasning, send en e-mail til [email protected].
- Pris
- Gratis
Kursets indhold
- 01 Taksonomi for AI-risici
- 02 Prompt Injection: Angreb og forsvar
- 03 Jailbreaking: Forståelse og forebyggelse
- 04 Dataekstraktion og privatliv
- 05 OpenAIs Moderations-API
- 06 Guardrails: Validering af input og output
- 07 Sandboxing og isolering
- 08 Begrænsning af forespørgsler og forebyggelse af misbrug
- 09 Filtrering af indhold i flere lag
- 10 Metodik til AI Red Teaming
- 11 Testværktøjer og frameworks
- 12 Sikkerhedsrapport og udbedring
- 13 GDPR og databeskyttelse med OpenAI
- 14 Sikkerhedsrevision og certificering