Wersja polska
Bezpieczeństwo AI i Red Teaming
Obejmuje wstrzykiwanie promptów, łamanie zabezpieczeń (jailbreaking), bariery ochronne (guardrails), moderację, red teaming oraz zgodność z RODO w kontekście AI.
14 lekcji ok. 1 h 45 min Zaawansowany
Czego się nauczysz
- Zmapowanie ryzyk specyficznych dla aplikacji opartych na modelach językowych
- Identyfikacja i zapobieganie atakom typu wstrzykiwanie promptów oraz próbom łamania zabezpieczeń (jailbreak)
- Wdrażanie barier ochronnych (guardrails) walidacji danych wejściowych i wyjściowych
- Wykorzystanie API moderacji i filtrowania wielowarstwowego
- Przeprowadzenie ćwiczenia red teaming i udokumentowanie ustaleń
Karta kursu
- Dla kogo
- Deweloperzy, inżynierowie i integratorzy chcący wykorzystywać ChatGPT poprzez API w swoich aplikacjach.
- Wymagania wstępne
- Udowodnione doświadczenie w tworzeniu i wdrażaniu aplikacji.
- Czas trwania
- 1 h 45 min — 14 lekcji
- Forma
- Kurs online w 100% we własnym tempie, dostępny 24/7 z poziomu przeglądarki. Postępy są zapisywane, co pozwala na wznowienie nauki w dowolnym momencie. Szacowany czas trwania: 1 h 45 min.
- Weryfikacja wiedzy
- Ćwiczenia aplikacyjne dostarczane w trakcie lekcji. Każda lekcja kończy się kluczowymi wnioskami (Key takeaways), wspierającymi samoocenę. Końcowy test składający się z 5 pytań z odpowiedziami, na zakończenie ostatniej lekcji, potwierdza nabyte umiejętności.
- Dostępność
- Kurs we własnym tempie dostępny dla osób z niepełnosprawnościami: treść tekstowa kompatybilna z czytnikami ekranu, nawigacja klawiaturowa i zgodne kontrasty. W przypadku potrzeb dostosowania prosimy o kontakt pod adresem [email protected].
- Cena
- Bezpłatnie
Program kursu
- 01 Taksonomia ryzyka AI
- 02 Wstrzykiwanie promptów: ataki i obrona
- 03 Jailbreaking: zrozumienie i zapobieganie
- 04 Wyciek danych i prywatność
- 05 API Moderation firmy OpenAI
- 06 Guardrails: Walidacja danych wejściowych i wyjściowych
- 07 Piaskownice i izolacja
- 08 Limitowanie liczby żądań i zapobieganie nadużyciom
- 09 Filtrowanie treści wielowarstwowe
- 10 Metodologia Red Teamingu AI
- 11 Narzędzia i frameworki testowe
- 12 Raport bezpieczeństwa i działania naprawcze
- 13 RODO i ochrona danych z OpenAI
- 14 Audyt bezpieczeństwa i certyfikacja