Latvijas izdevums
AI drošība un sarkanā komanda
Aptver uzvedņu injicēšanu, cietumslaušanu, aizsargbarjeras, moderāciju, sarkano komandu un GDPR atbilstību attiecībā uz AI.
14 nodarbību ca. 1 h 45 min Augstākais
Ko jūs apgūsiet
- Kartēt riskus, kas raksturīgi lietotnēm, kuru pamatā ir valodu modeļi
- Identificēt un novērst uzvedņu injicēšanas uzbrukumus un cietumslaušanas mēģinājumus
- Ieviest ievades un izvades validācijas aizsargbarjeras
- Izmantot moderācijas API un daudzlīmeņu filtrēšanu
- Veikt sarkanās komandas vingrinājumu un dokumentēt konstatējumus
Kursa kartīte
- Kam paredzēts
- Izstrādātāji, inženieri un integratori, kas vēlas izmantot ChatGPT, izmantojot API, savās lietotnēs.
- Priekšnosacījumi
- Pierādīta pieredze lietotņu izstrādē un izvietošanā.
- Ilgums
- 1 h 45 min — 14 nodarbību
- Formāti
- 100% tiešsaistes pašmācību kurss, pieejams 24/7 no pārlūkprogrammas. Progress tiek saglabāts, ļaujot atsākt jebkurā laikā. Paredzamais ilgums: 1 h 45 min.
- Novērtējums
- Lietojumprogrammu vingrinājumi, kas nodrošināti visās nodarbībās. Katra nodarbība beidzas ar galvenajiem secinājumiem, kas atbalsta pašnovērtējumu. Noslēguma tests ar 5 labotiem jautājumiem pēdējās nodarbības beigās apstiprina iegūtās prasmes.
- Pieejamība
- Pašmācību kurss, kas pieejams cilvēkiem ar invaliditāti: teksta saturs saderīgs ar ekrāna lasītājiem, navigācija ar tastatūru un atbilstoši kontrasti. Jebkuru pielāgošanas vajadzību gadījumā rakstiet uz [email protected].
- Cena
- Gratis
Kursa saturs
- 01 AI risku taksonomija
- 02 Injicēšana ar komandām: uzbrukumi un aizsardzība
- 03 Jailbreaking: izpratne un novēršana
- 04 Datņu noplūde un privātums
- 05 API de modération d'OpenAI
- 06 Aizsargbarjeras: ievades un izvades validēšana
- 07 Sandboxing un izolācija
- 08 Ierobežojumu piemērošana un ļaunprātīgas izmantošanas novēršana
- 09 Filtrēšana vairākos līmeņos
- 10 AI Red Teaming Methodology
- 11 Rīki un ietvari testēšanai
- 12 Ziņojums par drošību un novēršanas pasākumi
- 13 GDPR un datu aizsardzība, izmantojot OpenAI
- 14 Audits de sécurité et certification