Българско издание
Сигурност на изкуствения интелект и Red Teaming
Обхваща инжектиране на подкани, пробиване на защити, предпазни механизми, модериране, red teaming и съответствие с GDPR за изкуствения интелект.
14 урока ок. 1 ч 45 мин Напреднало
Какво ще научите
- Да картографирате рисковете, специфични за приложенията, базирани на езикови модели
- Да идентифицирате и предотвратите атаки чрез инжектиране на подкани и опити за пробиване на защити
- Да внедрите предпазни механизми за валидиране на входа и изхода
- Да използвате API за модериране и многопластово филтриране
- Да проведете упражнение за red teaming и да документирате констатациите
Информация за курса
- За кого е
- Разработчици, инженери и интегратори, които искат да използват ChatGPT чрез API в своите приложения.
- Предварителни изисквания
- Доказан опит в разработването и внедряването на приложения.
- Продължителност
- 1 ч 45 мин — 14 урока
- Формати
- 100% онлайн курс в собствен темп, достъпен 24/7 от браузър. Прогресът се запазва, което Ви позволява да продължите по всяко време. Приблизителна продължителност: 1 ч 45 мин.
- Оценяване
- Упражнения за приложение, предоставени през цялото време на уроците. Всеки урок завършва със своите основни изводи, подпомагащи самооценката. Финален тест от 5 въпроса с отговори в края на последния урок утвърждава придобитите умения.
- Достъпност
- Курс в собствен темп, достъпен за хора с увреждания: текстово съдържание, съвместимо с екранни четци, навигация с клавиатура и съответстващи контрасти. За всякакви нужди от адаптация, пишете на [email protected].
- Цена
- Безплатно
Уроци
- 01 Таксономия на рисковете при изкуствения интелект
- 02 Инжекция на промптове: Атаки и Защити
- 03 Джейлбрейкинг: Разбиране и предотвратяване
- 04 Изтичане на данни и поверителност
- 05 API за модериране на OpenAI
- 06 Guardrails: Валидиране на входни и изходни данни
- 07 Изолиране и пясъчник (Sandboxing)
- 08 Ограничаване на заявките и предотвратяване на злоупотреби
- 09 Филтриране на съдържанието на множество нива
- 10 Методология за AI Red Teaming
- 11 Инструменти и рамки за тестване
- 12 Доклад за сигурност и отстраняване на проблеми
- 13 GDPR и защита на данните с OpenAI
- 14 Одит за сигурност и сертифициране