Slovenské vydanie
Bezpečnosť AI a red teaming
Pokrýva vstrekovanie promptov, jailbreaking, ochranné mechanizmy, moderovanie, red teaming a súlad s GDPR pre AI.
14 lekcií ca. 1 h 45 min Pokročilý
Čo sa naučíte
- Zmapovať riziká špecifické pre aplikácie založené na jazykových modeloch
- Identifikovať a predchádzať útokom vstrekovaním promptov a pokusom o jailbreaking
- Implementovať ochranné mechanizmy na validáciu vstupov a výstupov
- Využívať API na moderovanie a viacvrstvové filtrovanie
- Vykonať cvičenie red teaming a zdokumentovať zistenia
Osnova kurzu
- Komu je kurz určený
- Vývojári, inžinieri a integrátori, ktorí chcú využívať ChatGPT prostredníctvom API vo svojich aplikáciách.
- Predpoklady
- Preukázateľné skúsenosti s vývojom a nasadzovaním aplikácií.
- Dĺžka
- 1 h 45 min — 14 lekcií
- Formát
- 100 % online kurz vlastným tempom, dostupný 24/7 z prehliadača. Postup sa ukladá, takže môžeš kedykoľvek pokračovať. Odhadovaný čas: 1 h 45 min.
- Hodnotenie
- Aplikačné cvičenia poskytované počas lekcií. Každá lekcia končí kľúčovými poznatkami na podporu sebahodnotenia. Záverečný kvíz s 5 opravenými otázkami na konci poslednej lekcie overuje získané zručnosti.
- Prístupnosť
- Kurz vlastným tempom prístupný pre ľudí so zdravotným postihnutím: textový obsah kompatibilný so čítačkami obrazovky, navigácia pomocou klávesnice a kontrasty v súlade s normami. Pre akékoľvek potreby úprav napíš na [email protected].
- Cena
- Zadarmo
Obsah kurzu
- 01 Taxonómia rizík AI
- 02 Vnucovanie promptov: Útoky a obrana
- 03 Jailbreaking: pochopenie a prevencia
- 04 Exfiltrácia údajov a súkromie
- 05 OpenAI Moderation API
- 06 Guardrails: Validácia vstupov a výstupov
- 07 Sandboxing a izolácia
- 08 Obmedzovanie rýchlosti a prevencia zneužívania
- 09 Filtrovanie obsahu vo viacerých vrstvách
- 10 Metodológia AI Red Teamingu
- 11 Nástroje a frameworky na testovanie
- 12 Správa o bezpečnosti a náprave
- 13 GDPR a ochrana údajov s OpenAI
- 14 Audit bezpečnosti a certifikácia