Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Lietuviška laida

Dirbtinio intelekto saugumas ir Red Teaming

Apima užklausų įterpimo (prompt injection) ir apsaugos apėjimo (jailbreak) atakas, sargtvarus, turinio moderavimą, Red Teaming bei GDPR atitiktį DI sistemose.

14 paskaitų maždaug 1 val. 45 min Pažengusiems

Ko išmoksite

  • Įvertinti specifines kalbos modelių paremtų programų rizikas
  • Identifikuoti ir užkirsti kelią užklausų įterpimo (prompt injection) bei jailbreak atakoms
  • Įdiegti sargtvarus įvesties ir išvesties tikrinimui
  • Naudoti moderavimo API ir kelių lygmenų filtravimą
  • Atlikti Red Teaming pratybes ir dokumentuoti jų rezultatus

Kurso kortelė

Kam skirta
Programėlių kūrėjai, inžinieriai ir integratoriai, kurie savo programose naudoja ChatGPT per API.
Būtinos žinios
Patvirtita patirtis kuriant ir diegiant programines aplikacijas.
Trukmė
1 val. 45 min — 14 paskaitų
Formatas
100 % nuotolinis savarankiško mokymosi kursas, prieinamas 24/7 per naršyklę. Eiga išsaugoma, galima tęsti bet kada. Numatoma trukmė: 1 val. 45 min.
Vertinimas
Pamokų metu pateikiamos taikomosios užduotys. Kiekviena pamoka baigiasi pagrindiniais punktais, padedančiais savisvertinimui. Baigiamasis 5 klausimų testas su teisingais atsakymais po paskutinės pamokos patvirtina įgytas kompetencijas.
Prieinamumas
Savarankiškas kursas pritaikytas žmonėms su negalia: tekstų turinys suderinamas su ekrano skaitytuvais, naršymas klaviatūra ir atitinkamas kontrastas. Dėl pritaikymo poreikių atsiųskite el. laišką adresu [email protected].
Kaina
Nemokama

Kurso turinys

  1. 01 AI rizikų taksonomija
  2. 02 Promptų injekcijos: atakos ir gynyba
  3. 03 Jailbreaking: supratimas ir prevencija
  4. 04 Duomenų išgavimas ir privatumas
  5. 05 OpenAI moderavimo API
  6. 06 Apsaugos mechanizmai: įvesties ir išvesties tikrinimas
  7. 07 Izoliavimas ir smėlio dėžės principas
  8. 08 Ribojimas ir piktnaudžiavimo prevencija
  9. 09 Filtravimas keliais sluoksniais
  10. 10 AI raudonosios komandos metodika
  11. 11 Testavimo įrankiai ir sistemos
  12. 12 Saugumo ataskaita ir taisymo veiksmai
  13. 13 GDPR ir duomenų apsauga naudojant „OpenAI“
  14. 14 Auditas saugumo srityje ir sertifikavimas