Lietuviška laida
Dirbtinio intelekto saugumas ir Red Teaming
Apima užklausų įterpimo (prompt injection) ir apsaugos apėjimo (jailbreak) atakas, sargtvarus, turinio moderavimą, Red Teaming bei GDPR atitiktį DI sistemose.
14 paskaitų maždaug 1 val. 45 min Pažengusiems
Ko išmoksite
- Įvertinti specifines kalbos modelių paremtų programų rizikas
- Identifikuoti ir užkirsti kelią užklausų įterpimo (prompt injection) bei jailbreak atakoms
- Įdiegti sargtvarus įvesties ir išvesties tikrinimui
- Naudoti moderavimo API ir kelių lygmenų filtravimą
- Atlikti Red Teaming pratybes ir dokumentuoti jų rezultatus
Kurso kortelė
- Kam skirta
- Programėlių kūrėjai, inžinieriai ir integratoriai, kurie savo programose naudoja ChatGPT per API.
- Būtinos žinios
- Patvirtita patirtis kuriant ir diegiant programines aplikacijas.
- Trukmė
- 1 val. 45 min — 14 paskaitų
- Formatas
- 100 % nuotolinis savarankiško mokymosi kursas, prieinamas 24/7 per naršyklę. Eiga išsaugoma, galima tęsti bet kada. Numatoma trukmė: 1 val. 45 min.
- Vertinimas
- Pamokų metu pateikiamos taikomosios užduotys. Kiekviena pamoka baigiasi pagrindiniais punktais, padedančiais savisvertinimui. Baigiamasis 5 klausimų testas su teisingais atsakymais po paskutinės pamokos patvirtina įgytas kompetencijas.
- Prieinamumas
- Savarankiškas kursas pritaikytas žmonėms su negalia: tekstų turinys suderinamas su ekrano skaitytuvais, naršymas klaviatūra ir atitinkamas kontrastas. Dėl pritaikymo poreikių atsiųskite el. laišką adresu [email protected].
- Kaina
- Nemokama
Kurso turinys
- 01 AI rizikų taksonomija
- 02 Promptų injekcijos: atakos ir gynyba
- 03 Jailbreaking: supratimas ir prevencija
- 04 Duomenų išgavimas ir privatumas
- 05 OpenAI moderavimo API
- 06 Apsaugos mechanizmai: įvesties ir išvesties tikrinimas
- 07 Izoliavimas ir smėlio dėžės principas
- 08 Ribojimas ir piktnaudžiavimo prevencija
- 09 Filtravimas keliais sluoksniais
- 10 AI raudonosios komandos metodika
- 11 Testavimo įrankiai ir sistemos
- 12 Saugumo ataskaita ir taisymo veiksmai
- 13 GDPR ir duomenų apsauga naudojant „OpenAI“
- 14 Auditas saugumo srityje ir sertifikavimas