Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Česká edice

Bezpečnost AI a red teaming

Pokrývá vstřikování promptů, jailbreaking, ochranné mechanismy, moderování, red teaming a soulad s GDPR pro AI.

14 lekcí cca 1 h 45 min Pokročilý

Co se naučíte

  • Zmapovat rizika specifická pro aplikace založené na jazykových modelech
  • Identifikovat a předcházet útokům vstřikováním promptů a pokusům o jailbreaking
  • Implementovat ochranné mechanismy pro validaci vstupu a výstupu
  • Využívat API pro moderování a vícevrstvé filtrování
  • Provést cvičení red teamingu a zdokumentovat zjištění

Informace o kurzu

Komu je kurz určen
Vývojáři, inženýři a integrátoři, kteří chtějí využívat ChatGPT prostřednictvím API ve svých aplikacích.
Předpoklady
Ověřené zkušenosti s vývojem a nasazováním aplikací.
Doba trvání
1 h 45 min — 14 lekcí
Forma výuky
100% online kurz vlastním tempem, dostupný 24/7 z prohlížeče. Postup se ukládá, takže můžeš kdykoli pokračovat. Odhadovaná délka: 1 h 45 min.
Hodnocení
Aplikační cvičení poskytovaná během lekcí. Každá lekce končí klíčovými poznatky podporujícími sebehodnocení. Závěrečný kvíz s 5 opravenými otázkami na konci poslední lekce ověřuje získané dovednosti.
Přístupnost
Kurz vlastním tempem přístupný lidem se zdravotním postižením: textový obsah kompatibilní se čtečkami obrazovky, navigace pomocí klávesnice a kontrasty v souladu s normami. Pro jakékoli potřeby přizpůsobení napiš na [email protected].
Cena
Zdarma

Obsah kurzu

  1. 01 Taxonomie rizik AI
  2. 02 Vstřikování promptů: Útoky a obrana
  3. 03 Jailbreaking: pochopení a prevence
  4. 04 Exfiltrace dat a soukromí
  5. 05 OpenAI Moderation API
  6. 06 Guardrails: Validace vstupů a výstupů
  7. 07 Sandboxing a izolace
  8. 08 Omezování rychlosti a prevence zneužití
  9. 09 Filtrování obsahu ve více vrstvách
  10. 10 Metodika red teamingu pro AI
  11. 11 Nástroje a frameworky pro testování
  12. 12 Zpráva o bezpečnosti a nápravná opatření
  13. 13 GDPR a ochrana osobních údajů s OpenAI
  14. 14 Audit bezpečnosti a certifikace