Премини към основното съдържание
Български— Изберете език
Меню

Българско издание

Сигурност на изкуствения интелект и Red Teaming

Обхваща инжектиране на подкани, пробиване на защити, предпазни механизми, модериране, red teaming и съответствие с GDPR за изкуствения интелект.

14 урока ок. 1 ч 45 мин Напреднало

Какво ще научите

  • Да картографирате рисковете, специфични за приложенията, базирани на езикови модели
  • Да идентифицирате и предотвратите атаки чрез инжектиране на подкани и опити за пробиване на защити
  • Да внедрите предпазни механизми за валидиране на входа и изхода
  • Да използвате API за модериране и многопластово филтриране
  • Да проведете упражнение за red teaming и да документирате констатациите

Информация за курса

За кого е
Разработчици, инженери и интегратори, които искат да използват ChatGPT чрез API в своите приложения.
Предварителни изисквания
Доказан опит в разработването и внедряването на приложения.
Продължителност
1 ч 45 мин — 14 урока
Формати
100% онлайн курс в собствен темп, достъпен 24/7 от браузър. Прогресът се запазва, което Ви позволява да продължите по всяко време. Приблизителна продължителност: 1 ч 45 мин.
Оценяване
Упражнения за приложение, предоставени през цялото време на уроците. Всеки урок завършва със своите основни изводи, подпомагащи самооценката. Финален тест от 5 въпроса с отговори в края на последния урок утвърждава придобитите умения.
Достъпност
Курс в собствен темп, достъпен за хора с увреждания: текстово съдържание, съвместимо с екранни четци, навигация с клавиатура и съответстващи контрасти. За всякакви нужди от адаптация, пишете на [email protected].
Цена
Безплатно

Уроци

  1. 01 Таксономия на рисковете при изкуствения интелект
  2. 02 Инжекция на промптове: Атаки и Защити
  3. 03 Джейлбрейкинг: Разбиране и предотвратяване
  4. 04 Изтичане на данни и поверителност
  5. 05 API за модериране на OpenAI
  6. 06 Guardrails: Валидиране на входни и изходни данни
  7. 07 Изолиране и пясъчник (Sandboxing)
  8. 08 Ограничаване на заявките и предотвратяване на злоупотреби
  9. 09 Филтриране на съдържанието на множество нива
  10. 10 Методология за AI Red Teaming
  11. 11 Инструменти и рамки за тестване
  12. 12 Доклад за сигурност и отстраняване на проблеми
  13. 13 GDPR и защита на данните с OpenAI
  14. 14 Одит за сигурност и сертифициране