Svensk version
AI-moderering och säkerhet med Mistral
Säkra dina AI-applikationer med anpassade skyddsräcken och Moderations-API:t som erbjuder 11 innehållskategorier, detekteringströsklar och implementering av innehållspolicy i produktion.
12 lektioner ca. 1 h 15 min Utvecklare
Vad du lär dig
- Implementera anpassade skyddsräcken som blockerar en begäran innan modellanropet
- Anropa Moderations-API:t och tolka poäng för de elva innehållskategorierna
- Ställa in detekteringströsklar som överensstämmer med den definierade innehållspolicyn
- Upptäcka och neutralisera försök till prompt-injektion i användarinmatningar
- Designa en komplett säkerhetsarkitektur, GDPR-kompatibel, för en produktionsapplikation
Kursöversikt
- Målgrupp
- Utvecklare, ingenjörer och integratörer som vill använda Mistral AI via API i sina applikationer.
- Förkunskaper
- Förmåga att läsa Python och JSON samt grundläggande kommandoradsfärdigheter. En API-nyckel för Mistral AI Studio för att testa exemplen.
- Studietid
- 1 h 15 min — 12 lektioner
- Upplägg
- 100 % online självstudiekurs, tillgänglig dygnet runt från en webbläsare. Framsteg sparas så att du kan fortsätta när som helst. Beräknad tid: 1 h 15 min.
- Bedömning
- Självutvärdering baserad på de viktigaste slutsatserna som avslutar varje lektion, och direkt implementering av exemplen på dina egna exempel. Ett slutligt quiz med 5 rättade frågor i slutet av den sista lektionen validerar förvärvade färdigheter.
- Tillgänglighet
- Kursen är tillgänglig för personer med funktionsnedsättning: textinnehåll kompatibelt med skärmläsare, tangentbordsnavigering och kontraster som följer standarden. För eventuella anpassningsbehov, mejla [email protected].
- Pris
- Gratis
Kursens innehåll
- 01 Varför du måste säkra dina AI-applikationer
- 02 Gardes-fous personnalisés : bloquer avant le modèle
- 03 Konfigurera skyddsräcken i Python
- 04 Gardes-fous pour les agents Mistral
- 05 Mistrals modererings-API
- 06 De 11 modereringskategorierna
- 07 Poäng och tröskelvärden för moderering
- 08 Modération en pratique : code complet
- 09 Définir ta politique de contenu
- 10 Détecter les tentatives d'injection de prompt
- 11 Conformité au RGPD et protection des données
- 12 Arkitektur för fullständig säkerhet