Magyar kiadás
AI-biztonság és vörös csapatozás
Kiterjed a promptinjekcióra, a kijátszásra (jailbreaking), a védőkorlátokra, a moderációra, a vörös csapatozásra és az AI-ra vonatkozó GDPR-megfelelésre.
14 lecke kb. 1 h 45 min Haladó
Tanulási célok
- Feltérképezni a nyelvi modelleken alapuló alkalmazások specifikus kockázatait
- Azonosítani és megelőzni a promptinjekciós támadásokat és a kijátszási (jailbreak) kísérleteket
- Bemeneti és kimeneti validációs védőkorlátokat megvalósítani
- Moderációs API-kat és többrétegű szűrést alkalmazni
- Vörös csapatozási gyakorlatot lefolytatni és dokumentálni a megállapításokat
Tanfolyam-adatlap
- Kinek szól
- Fejlesztők, mérnökök és integrátorok, akik a ChatGPT-t API-n keresztül kívánják alkalmazni alkalmazásaikban.
- Előfeltételek
- Igazolt tapasztalat az alkalmazásfejlesztésben és -telepítésben.
- Időtartam
- 1 h 45 min — 14 lecke
- Formátum
- 100%-ban online, saját tempóban végezhető tanfolyam, amely böngészőből 0/24-ben elérhető. A haladás mentésre kerül, így bármikor folytathatja. Becsült időtartam: 1 h 45 min.
- Értékelés
- Gyakorlati feladatok állnak rendelkezésre a leckék során. Minden lecke a legfontosabb tanulságokkal zárul, támogatva az önértékelést. Egy 5 kérdésből álló, javított záróvizsga az utolsó lecke végén érvényesíti a megszerzett készségeket.
- Akadálymentesség
- Saját tempóban végezhető, fogyatékkal élők számára is hozzáférhető tanfolyam: a szöveges tartalom kompatibilis a képernyőolvasókkal, támogatja a billentyűzetes navigációt és megfelel a kontrasztkövetelményeknek. Bármilyen igazítási igény esetén írjon a [email protected] címre.
- Ár
- Ingyenes
A tanfolyam tartalma
- 01 AI kockázati taxonómia
- 02 Prompt injection: támadások és védekezés
- 03 Jailbreaking: megértés és megelőzés
- 04 Adatkiszivárgás és adatvédelem
- 05 OpenAI Moderációs API
- 06 Guardrails: A bemenetek és kimenetek érvényesítése
- 07 Homokozózás és elszigetelés
- 08 Kéréskorlátozás és visszaélés-megelőzés
- 09 Szűrés többrétegű megközelítéssel
- 10 AI Red Teaming módszertan
- 11 Tesztelő eszközök és keretrendszerek
- 12 Biztonsági jelentés és javítás
- 13 GDPR és adatvédelem az OpenAI-val
- 14 Biztonsági audit és tanúsítás