Българско издание
AI Модерация и сигурност с Mistral
Осигурете вашите AI приложения с персонализирани предпазни механизми (Custom Guardrails) и API за модерация, включващи 11 категории съдържание, прагове за откриване и внедряване на политики за съдържание в производствена среда.
12 урока ок. 1 ч 15 мин Програмист
Какво ще научите
- Внедряване на персонализирани предпазни механизми, които блокират заявката преди извикването на модела
- Извикване на API за модерация и интерпретиране на резултатите за единадесетте категории съдържание
- Задаване на прагове за откриване, съответстващи на дефинираната политика за съдържание
- Откриване и неутрализиране на опити за инжектиране на подкани (prompt injection) във входните данни от потребителя
- Проектиране на цялостна архитектура за сигурност, съобразена с GDPR, за приложение в производствена среда
Информация за курса
- За кого е
- Разработчици, инженери и интегратори, които искат да използват Mistral AI чрез API в своите приложения.
- Предварителни изисквания
- Умение за четене на Python и JSON, както и основни умения за работа с командния ред. Необходим е API ключ за Mistral AI Studio за тестване на примерите.
- Продължителност
- 1 ч 15 мин — 12 урока
- Формати
- 100% онлайн курс в собствен темп, достъпен 24/7 чрез браузър. Прогресът се запазва, което Ви позволява да възобновите обучението по всяко време. Приблизителна продължителност: 1 ч 15 мин.
- Оценяване
- Самооценка въз основа на основните изводи, завършващи всеки урок, и директно внедряване на примерите върху Ваши собствени случаи. Финален тест от 5 въпроса с отговори в края на последния урок валидира придобитите умения.
- Достъпност
- Курсът е достъпен за хора с увреждания: текстовото съдържание е съвместимо със екранни четци, навигацията с клавиатура и контрастите са съобразени със стандартите. За всякакви нужди от адаптация, пишете на [email protected].
- Цена
- Безплатно
Уроци
- 01 Защо да защитавате вашите AI приложения
- 02 Персонализирани предпазни механизми: Блокиране преди модела
- 03 Конфигуриране на предпазни механизми в Python
- 04 Guardrails за агенти на Mistral
- 05 API за модериране на Mistral
- 06 11-те категории за модериране
- 07 Резултати от модерирането и прагове
- 08 Модерация на практика: Пълен код
- 09 Дефиниране на вашата политика за съдържание
- 10 Откриване на опити за инжектиране на подкани
- 11 Съответствие с GDPR и защита на данните
- 12 Пълна архитектура за сигурност