Slovenska izdaja
Varnost AI in testiranje z rdečo ekipo
Pokriva vbrizgavanje pozivov, prebijanje zaščit, varovalne ograje, moderiranje, testiranje z rdečo ekipo in skladnost z GDPR za AI.
14 lekcij pribl. 1 h 45 min Napredni
Kaj se boste naučili
- Preslikava tveganj, specifičnih za aplikacije, ki temeljijo na jezikovnih modelih
- Prepoznavanje in preprečevanje napadov z vbrizgavanjem pozivov in poskusov prebijanja zaščit
- Uvajanje varovalnih ograj za validacijo vhoda in izhoda
- Izkoriščanje API-jev za moderiranje in večplastnega filtriranja
- Izvedba vaje testiranja z rdečo ekipo in dokumentiranje ugotovitev
Podatki o tečaju
- Za kogo je namenjeno
- Razvijalci, inženirji in integratorji, ki želijo izkoristiti ChatGPT prek API-ja v svojih aplikacijah.
- Predpogoji
- Dokazane izkušnje z razvojem in uvajanjem aplikacij.
- Trajanje
- 1 h 45 min — 14 lekcij
- Oblika izvedbe
- 100 % spletni tečaj v lastnem tempu, dostopen 24/7 iz brskalnika. Napredek je shranjen, kar vam omogoča nadaljevanje kadarkoli. Predvideno trajanje: 1 h 45 min.
- Preverjanje znanja
- Vaje za uporabo, zagotovljene skozi vse lekcije. Vsaka lekcija se konča s ključnimi spoznanji, ki podpirajo samoocenjevanje. Končni kviz s 5 popravljenimi vprašanji na koncu zadnje lekcije potrdi pridobljene veščine.
- Dostopnost
- Tečaj v lastnem tempu, dostopen osebam s posebnimi potrebami: besedilna vsebina združljiva z bralniki zaslona, navigacijo s tipkovnico in skladnimi kontrasti. Za morebitne potrebe po prilagoditvah pišite na [email protected].
- Cena
- Gratis
Vsebina tečaja
- 01 Taksonomija tveganj pri umetni inteligenci
- 02 Vbrizgavanje pozivov: napadi in obramba
- 03 Jailbreaking: razumevanje in preprečevanje
- 04 Izvlačenje podatkov in zasebnost
- 05 API za moderiranje podjetja OpenAI
- 06 Ograde: preverjanje vhodov in izhodov
- 07 Peskovniško okolje in izolacija
- 08 Omejevanje števila zahtev in preprečevanje zlorab
- 09 Filtriranje vsebine z več plastmi
- 10 Metodologija testiranja varnosti umetne inteligence (Red Teaming)
- 11 Orodja in ogrodja za testiranje
- 12 Varnostno poročilo in odprava težav
- 13 GDPR in varstvo podatkov z OpenAI
- 14 Revizija varnosti in certificiranje