Hrvatsko izdanje
Sigurnost umjetne inteligencije i red teaming
Obuhvaća ubrizgavanje upita (prompt injection), probijanje zaštite (jailbreaking), zaštitne mehanizme, moderaciju, red teaming i usklađenost s GDPR-om za umjetnu inteligenciju.
14 lekcija oko 1 h 45 min Napredno
Što ćete naučiti
- Mapirati rizike specifične za aplikacije temeljene na jezičnim modelima
- Identificirati i spriječiti napade ubrizgavanja upita i pokušaje probijanja zaštite
- Implementirati zaštitne mehanizme za validaciju ulaza i izlaza
- Iskoristiti API-je za moderaciju i višeslojno filtriranje
- Provesti vježbu red teaminga i dokumentirati nalaze
O tečaju
- Za koga je namijenjen
- Programeri, inženjeri i integratori koji žele koristiti ChatGPT putem API-ja u svojim aplikacijama.
- Preduvjeti
- Dokazano iskustvo u razvoju i implementaciji aplikacija.
- Trajanje
- 1 h 45 min — 14 lekcija
- Format
- Tečaj na daljinu koji se odvija vlastitim tempom, dostupan 24/7 putem preglednika. Napredak se sprema, što omogućuje nastavak u bilo kojem trenutku. Procijenjeno trajanje: 1 h 45 min.
- Način ocjenjivanja
- Vježbe iz primjene pružene tijekom lekcija. Svaka lekcija završava ključnim porukama koje podržavaju samoprocjenu. Završni kviz od 5 ispravljenih pitanja, na kraju posljednje lekcije, validira stečene vještine.
- Pristupačnost
- Tečaj vlastitim tempom dostupan osobama s invaliditetom: tekstualni sadržaj kompatibilan s čitačima zaslona, navigacija tipkovnicom i usklađeni kontrasti. Za bilo kakve potrebe prilagodbe, pošaljite e-mail na [email protected].
- Cijena
- Besplatno
Sadržaj tečaja
- 01 Taksomija rizika umjetne inteligencije
- 02 Ubrizgavanje upita: napadi i obrana
- 03 Jailbreaking : Comprendre et prévenir
- 04 Iznošenje podataka i privatnost
- 05 OpenAI-jev API za moderiranje
- 06 Ograde: Validacija ulaza i izlaza
- 07 Sandboxing i izolacija
- 08 Ograničavanje brzine i sprječavanje zlouporabe
- 09 Filtriranje sadržaja u više slojeva
- 10 Metodologija AI red teaminga
- 11 Alati i okviri za testiranje
- 12 Izvješće o sigurnosti i sanacija
- 13 GDPR i zaštita podataka s OpenAI-jem
- 14 Revizija sigurnosti i certifikacija