Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Slovenska izdaja

Varnost AI in testiranje z rdečo ekipo

Pokriva vbrizgavanje pozivov, prebijanje zaščit, varovalne ograje, moderiranje, testiranje z rdečo ekipo in skladnost z GDPR za AI.

14 lekcij pribl. 1 h 45 min Napredni

Kaj se boste naučili

  • Preslikava tveganj, specifičnih za aplikacije, ki temeljijo na jezikovnih modelih
  • Prepoznavanje in preprečevanje napadov z vbrizgavanjem pozivov in poskusov prebijanja zaščit
  • Uvajanje varovalnih ograj za validacijo vhoda in izhoda
  • Izkoriščanje API-jev za moderiranje in večplastnega filtriranja
  • Izvedba vaje testiranja z rdečo ekipo in dokumentiranje ugotovitev

Podatki o tečaju

Za kogo je namenjeno
Razvijalci, inženirji in integratorji, ki želijo izkoristiti ChatGPT prek API-ja v svojih aplikacijah.
Predpogoji
Dokazane izkušnje z razvojem in uvajanjem aplikacij.
Trajanje
1 h 45 min — 14 lekcij
Oblika izvedbe
100 % spletni tečaj v lastnem tempu, dostopen 24/7 iz brskalnika. Napredek je shranjen, kar vam omogoča nadaljevanje kadarkoli. Predvideno trajanje: 1 h 45 min.
Preverjanje znanja
Vaje za uporabo, zagotovljene skozi vse lekcije. Vsaka lekcija se konča s ključnimi spoznanji, ki podpirajo samoocenjevanje. Končni kviz s 5 popravljenimi vprašanji na koncu zadnje lekcije potrdi pridobljene veščine.
Dostopnost
Tečaj v lastnem tempu, dostopen osebam s posebnimi potrebami: besedilna vsebina združljiva z bralniki zaslona, navigacijo s tipkovnico in skladnimi kontrasti. Za morebitne potrebe po prilagoditvah pišite na [email protected].
Cena
Gratis

Vsebina tečaja

  1. 01 Taksonomija tveganj pri umetni inteligenci
  2. 02 Vbrizgavanje pozivov: napadi in obramba
  3. 03 Jailbreaking: razumevanje in preprečevanje
  4. 04 Izvlačenje podatkov in zasebnost
  5. 05 API za moderiranje podjetja OpenAI
  6. 06 Ograde: preverjanje vhodov in izhodov
  7. 07 Peskovniško okolje in izolacija
  8. 08 Omejevanje števila zahtev in preprečevanje zlorab
  9. 09 Filtriranje vsebine z več plastmi
  10. 10 Metodologija testiranja varnosti umetne inteligence (Red Teaming)
  11. 11 Orodja in ogrodja za testiranje
  12. 12 Varnostno poročilo in odprava težav
  13. 13 GDPR in varstvo podatkov z OpenAI
  14. 14 Revizija varnosti in certificiranje