Eestikeelne versioon
Tehisintellekti turvalisus ja punane meeskond
Käsitleb sisendkäsude sisestamist, vanglast vabastamist, kaitsevahendeid, moderatsiooni, punast meeskonda ja GDPRi nõuetele vastavust tehisintellekti jaoks.
14 õppetundi ca. 1 h 45 min Edasijõudnutele
Mida te õpite
- Kaardistada keelemudelitel põhinevate rakenduste spetsiifilised riskid
- Tuvastada ja ennetada sisendkäsude sisestamise rünnakuid ja vanglast vabastamise katseid
- Rakendada sisendi ja väljundi valideerimise kaitsevahendeid
- Kasutada moderatsiooni API-sid ja mitmekihilist filtreerimist
- Viia läbi punase meeskonna harjutus ja dokumenteerida tulemused
Kursuse andmed
- Kellele mõeldud
- Arendajad, insenerid ja integraatorid, kes soovivad kasutada ChatGPT-d API kaudu oma rakendustes.
- Eeltingimused
- Tõendatud kogemus rakenduste arendamisel ja kasutuselevõtul.
- Kestus
- 1 h 45 min — 14 õppetundi
- Õppevormid
- 100% veebipõhine iseseisev kursus, mis on ööpäevaringselt brauserist kättesaadav. Edu salvestatakse, võimaldades teil igal ajal jätkata. Hinnanguline kestus: 1 h 45 min.
- Hindamine
- Rakendusharjutused, mida pakutakse tundide vältel. Iga tund lõpeb peamiste järeldustega, toetades enesehindamist. Lõplik 5 parandatud küsimusega test viimase tunni lõpus kinnitab omandatud oskused.
- Kättesaadavus
- Iseseisev kursus, mis on kättesaadav puuetega inimestele: tekstisisu ühildub ekraanilugeritega, klaviatuurinavigatsioon ja vastavad kontrastid. Kohandamisvajaduse korral saatke e-kiri aadressil [email protected].
- Hind
- Tasuta
Kursuse sisu
- 01 AI riskide taksonoomia
- 02 Prompti süstimine: rünnakud ja kaitse
- 03 Jailbreaking: mõistmine ja ennetamine
- 04 Andmete eksfiltreerimine ja privaatsus
- 05 OpenAI moderatsiooni API
- 06 Guardrails: sisendite ja väljundite valideerimine
- 07 Liivakast ja isoleerimine
- 08 Piirangud ja kuritarvituste ennetamine
- 09 Mitme kihiga sisufiltreerimine
- 10 AI punase meeskonna metoodika
- 11 Testimise tööriistad ja raamistikud
- 12 Turuaruanne ja parandusmeetmed
- 13 GDPR ja andmekaitse OpenAI-ga
- 14 Turvaaudit ja sertifitseerimine