KI-Sicherheit und Red Teaming

Das lernen Sie

• ✓ Risiken spezifisch für Anwendungen auf Basis von Sprachmodellen erfassen
• ✓ Prompt-Injection-Angriffe und Jailbreak-Versuche identifizieren und verhindern
• ✓ Guardrails zur Validierung von Eingaben und Ausgaben implementieren
• ✓ Moderations-APIs und mehrschichtige Filterung nutzen
• ✓ Eine Red-Teaming-Übung durchführen und die Ergebnisse dokumentieren

Kursübersicht

Zielgruppe

Entwickler, Ingenieure und Integratoren, die ChatGPT über die API in ihren Anwendungen nutzen möchten.

Voraussetzungen

Nachgewiesene Erfahrung in der Entwicklung und Bereitstellung von Anwendungen.

Dauer

1 h 45 min — 14 Lektionen

Modalitäten

100 % onlineer Selbstlernkurs, rund um die Uhr über den Browser zugänglich. Der Fortschritt wird gespeichert, sodass Sie jederzeit fortfahren können. Geschätzte Dauer: 1 h 45 min.

Bewertung

Anwendungsübungen werden während der Lektionen bereitgestellt. Jede Lektion endet mit ihren wichtigsten Erkenntnissen zur Unterstützung der Selbstbewertung. Ein abschließendes Quiz mit 5 korrigierten Fragen am Ende der letzten Lektion validiert die erworbenen Fähigkeiten.

Barrierefreiheit

Selbstlernkurs, der für Menschen mit Behinderungen zugänglich ist: Textinhalte kompatibel mit Screenreadern, Tastaturnavigation und kontrastgerechte Darstellung. Bei Anpassungsbedarf wenden Sie sich bitte per E-Mail an [email protected].

Preis

Kostenlos

Kursinhalt

1. 01 KI-Risiken-Taxonomie
2. 02 Prompt-Injection-Angriffe und Abwehrmaßnahmen
3. 03 Jailbreaking: Verständnis und Prävention
4. 04 Datendiebstahl und Datenschutz
5. 05 Moderations-API von OpenAI
6. 06 Guardrails: Eingabe- und Ausgabevalidierung
7. 07 Sandboxing und Isolation
8. 08 Rate limiting and abuse prevention
9. 09 Mehrschichtiger Inhaltsfilter
10. 10 Methodik des AI-Red-Teaming
11. 11 Testtools und -frameworks
12. 12 Sicherheitsbericht und Gegenmaßnahmen
13. 13 DSGVO und Datenschutz mit OpenAI
14. 14 Sicherheitsaudit und Zertifizierung