Przejdź do głównej treści
Polski— Wybierz język
Menu

Wersja polska

Bezpieczeństwo AI i Red Teaming

Obejmuje wstrzykiwanie promptów, łamanie zabezpieczeń (jailbreaking), bariery ochronne (guardrails), moderację, red teaming oraz zgodność z RODO w kontekście AI.

14 lekcji ok. 1 h 45 min Zaawansowany

Czego się nauczysz

  • Zmapowanie ryzyk specyficznych dla aplikacji opartych na modelach językowych
  • Identyfikacja i zapobieganie atakom typu wstrzykiwanie promptów oraz próbom łamania zabezpieczeń (jailbreak)
  • Wdrażanie barier ochronnych (guardrails) walidacji danych wejściowych i wyjściowych
  • Wykorzystanie API moderacji i filtrowania wielowarstwowego
  • Przeprowadzenie ćwiczenia red teaming i udokumentowanie ustaleń

Karta kursu

Dla kogo
Deweloperzy, inżynierowie i integratorzy chcący wykorzystywać ChatGPT poprzez API w swoich aplikacjach.
Wymagania wstępne
Udowodnione doświadczenie w tworzeniu i wdrażaniu aplikacji.
Czas trwania
1 h 45 min — 14 lekcji
Forma
Kurs online w 100% we własnym tempie, dostępny 24/7 z poziomu przeglądarki. Postępy są zapisywane, co pozwala na wznowienie nauki w dowolnym momencie. Szacowany czas trwania: 1 h 45 min.
Weryfikacja wiedzy
Ćwiczenia aplikacyjne dostarczane w trakcie lekcji. Każda lekcja kończy się kluczowymi wnioskami (Key takeaways), wspierającymi samoocenę. Końcowy test składający się z 5 pytań z odpowiedziami, na zakończenie ostatniej lekcji, potwierdza nabyte umiejętności.
Dostępność
Kurs we własnym tempie dostępny dla osób z niepełnosprawnościami: treść tekstowa kompatybilna z czytnikami ekranu, nawigacja klawiaturowa i zgodne kontrasty. W przypadku potrzeb dostosowania prosimy o kontakt pod adresem [email protected].
Cena
Bezpłatnie

Program kursu

  1. 01 Taksonomia ryzyka AI
  2. 02 Wstrzykiwanie promptów: ataki i obrona
  3. 03 Jailbreaking: zrozumienie i zapobieganie
  4. 04 Wyciek danych i prywatność
  5. 05 API Moderation firmy OpenAI
  6. 06 Guardrails: Walidacja danych wejściowych i wyjściowych
  7. 07 Piaskownice i izolacja
  8. 08 Limitowanie liczby żądań i zapobieganie nadużyciom
  9. 09 Filtrowanie treści wielowarstwowe
  10. 10 Metodologia Red Teamingu AI
  11. 11 Narzędzia i frameworki testowe
  12. 12 Raport bezpieczeństwa i działania naprawcze
  13. 13 RODO i ochrona danych z OpenAI
  14. 14 Audyt bezpieczeństwa i certyfikacja