Česká edice
Bezpečnost AI a red teaming
Pokrývá vstřikování promptů, jailbreaking, ochranné mechanismy, moderování, red teaming a soulad s GDPR pro AI.
14 lekcí cca 1 h 45 min Pokročilý
Co se naučíte
- Zmapovat rizika specifická pro aplikace založené na jazykových modelech
- Identifikovat a předcházet útokům vstřikováním promptů a pokusům o jailbreaking
- Implementovat ochranné mechanismy pro validaci vstupu a výstupu
- Využívat API pro moderování a vícevrstvé filtrování
- Provést cvičení red teamingu a zdokumentovat zjištění
Informace o kurzu
- Komu je kurz určen
- Vývojáři, inženýři a integrátoři, kteří chtějí využívat ChatGPT prostřednictvím API ve svých aplikacích.
- Předpoklady
- Ověřené zkušenosti s vývojem a nasazováním aplikací.
- Doba trvání
- 1 h 45 min — 14 lekcí
- Forma výuky
- 100% online kurz vlastním tempem, dostupný 24/7 z prohlížeče. Postup se ukládá, takže můžeš kdykoli pokračovat. Odhadovaná délka: 1 h 45 min.
- Hodnocení
- Aplikační cvičení poskytovaná během lekcí. Každá lekce končí klíčovými poznatky podporujícími sebehodnocení. Závěrečný kvíz s 5 opravenými otázkami na konci poslední lekce ověřuje získané dovednosti.
- Přístupnost
- Kurz vlastním tempem přístupný lidem se zdravotním postižením: textový obsah kompatibilní se čtečkami obrazovky, navigace pomocí klávesnice a kontrasty v souladu s normami. Pro jakékoli potřeby přizpůsobení napiš na [email protected].
- Cena
- Zdarma
Obsah kurzu
- 01 Taxonomie rizik AI
- 02 Vstřikování promptů: Útoky a obrana
- 03 Jailbreaking: pochopení a prevence
- 04 Exfiltrace dat a soukromí
- 05 OpenAI Moderation API
- 06 Guardrails: Validace vstupů a výstupů
- 07 Sandboxing a izolace
- 08 Omezování rychlosti a prevence zneužití
- 09 Filtrování obsahu ve více vrstvách
- 10 Metodika red teamingu pro AI
- 11 Nástroje a frameworky pro testování
- 12 Zpráva o bezpečnosti a nápravná opatření
- 13 GDPR a ochrana osobních údajů s OpenAI
- 14 Audit bezpečnosti a certifikace