Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Slovenské vydanie

Bezpečnosť AI a red teaming

Pokrýva vstrekovanie promptov, jailbreaking, ochranné mechanizmy, moderovanie, red teaming a súlad s GDPR pre AI.

14 lekcií ca. 1 h 45 min Pokročilý

Čo sa naučíte

  • Zmapovať riziká špecifické pre aplikácie založené na jazykových modeloch
  • Identifikovať a predchádzať útokom vstrekovaním promptov a pokusom o jailbreaking
  • Implementovať ochranné mechanizmy na validáciu vstupov a výstupov
  • Využívať API na moderovanie a viacvrstvové filtrovanie
  • Vykonať cvičenie red teaming a zdokumentovať zistenia

Osnova kurzu

Komu je kurz určený
Vývojári, inžinieri a integrátori, ktorí chcú využívať ChatGPT prostredníctvom API vo svojich aplikáciách.
Predpoklady
Preukázateľné skúsenosti s vývojom a nasadzovaním aplikácií.
Dĺžka
1 h 45 min — 14 lekcií
Formát
100 % online kurz vlastným tempom, dostupný 24/7 z prehliadača. Postup sa ukladá, takže môžeš kedykoľvek pokračovať. Odhadovaný čas: 1 h 45 min.
Hodnotenie
Aplikačné cvičenia poskytované počas lekcií. Každá lekcia končí kľúčovými poznatkami na podporu sebahodnotenia. Záverečný kvíz s 5 opravenými otázkami na konci poslednej lekcie overuje získané zručnosti.
Prístupnosť
Kurz vlastným tempom prístupný pre ľudí so zdravotným postihnutím: textový obsah kompatibilný so čítačkami obrazovky, navigácia pomocou klávesnice a kontrasty v súlade s normami. Pre akékoľvek potreby úprav napíš na [email protected].
Cena
Zadarmo

Obsah kurzu

  1. 01 Taxonómia rizík AI
  2. 02 Vnucovanie promptov: Útoky a obrana
  3. 03 Jailbreaking: pochopenie a prevencia
  4. 04 Exfiltrácia údajov a súkromie
  5. 05 OpenAI Moderation API
  6. 06 Guardrails: Validácia vstupov a výstupov
  7. 07 Sandboxing a izolácia
  8. 08 Obmedzovanie rýchlosti a prevencia zneužívania
  9. 09 Filtrovanie obsahu vo viacerých vrstvách
  10. 10 Metodológia AI Red Teamingu
  11. 11 Nástroje a frameworky na testovanie
  12. 12 Správa o bezpečnosti a náprave
  13. 13 GDPR a ochrana údajov s OpenAI
  14. 14 Audit bezpečnosti a certifikácia