Varför du måste säkra dina AI-applikationer
På denna sida
Uppdaterat 2 november 2026 — Modeller. Mistral Large 3 (
mistral-large-2512) och Mistral Medium 3.5 avvecklades den 31 oktober 2026 och tas helt bort den 30 april 2027. Deras utsedda efterträdare, Mistral Large 4 (mistral-large-4), har funnits tillgänglig i offentlig förhandsversion sedan den 6 oktober. Exemplen i denna kurs använder aliasetmistral-large-latest, som för närvarande pekar på Mistral Large 3 enligt dess officiella specifikation (verifierat 3 november 2026). På samma sätt pekarmistral-medium-latestpå Mistral Medium 3.5. Dessa alias gäller fram till den 30 april 2027. För nya projekt bör du testamistral-large-4, deras utsedda efterträdare.
Korrigerat 3 november 2026. Exemplet på skyddsräcken använde tidigare ett påhittat format (
guardrails={"enabled": True}). Den officiella parametern är en lista medmoderation_llm_v2-konfigurationer, vilket beskrivs i detalj i nästa lektion. Två uppgifter utan källa (“78 % av företagen” och “mindre än 50 ms latens”) har tagits bort: Mistral publicerar inga latensmått för sina skyddsräcken. Källor: Moderation & Guardrailing ·mistralaiSDK 3.7.0.
AI-säkerhet: En kritisk utmaning 2026
Att driftsätta en språkmodell i produktion utan säkerhetsmekanismer är som att lansera en webbtjänst utan brandvägg. Stora språkmodeller (LLM:er) är kraftfulla verktyg, men de kan generera olämpligt innehåll, läcka känslig data eller manipuleras av illvilliga användare. Detta är inget teoretiskt problem: det visar sig inom de första few tusen verkliga förfrågningarna, så snart dina användare lämnar de scenarier du föreställt dig.
Som utvecklare är du direkt ansvarig för vad din AI-applikation producerar. Om din chattbot genererar farliga medicinska råd eller hatiskt innehåll drabbas ditt företag av konsekvenserna – juridiska, ryktesmässiga och ekonomiska. Ingen kommer att fråga om modellen kom från en tredjepartsleverantör.
De tre typerna av risker
Den första risken är genererat olämpligt innehåll. Modellen kan producera våldsamt, sexuellt, diskriminerande eller farligt innehåll, även utan illvillig avsikt från användaren. En enkel tvetydig uppmaning räcker för att utlösa ett problematiskt svar: be en kulinarisk assistent hur man ska “neutralisera” en ingrediens, så ser du att gränsen är tunnare än väntat.
Den andra risken kommer från användarmanipulation, även känt som prompt-injection. Illvilliga användare försöker kringgå systeminstruktioner för att tvinga modellen att producera förbjudet innehåll. Jailbreak-tekniker utvecklas ständigt, sprids över forum inom timmar och kräver försvar i flera lager snarare än en enkel lista med förbjudna ord.
Den tredje risken är läckage av känslig data. Modellen kan oavsiktligt avslöja personuppgifter (PII), hemligheter som injicerats i kontexten eller konfidentiell data som finns i dess träningsset. Tänk dig en HR-assistent som oskyldigt frågas: “Vad finns i Maries fil?” Förfrågan är inte aggressiv, men resultatet är ett dataintrång.
Mistral-metoden: Två försvarslinjer
Mistral hanterar dessa risker med två komplementära lager: ett uppströms och ett nedströms. Det första, anpassade skyddsräcken (Custom Guardrails), analyserar användarens uppmaning innan den når modellen. Om innehållet bedöms som farligt blockeras förfrågan med ett 403-fel – modellen ser aldrig uppmaningen och genererar inget från den.
# Uppmaningen analyseras INNAN modellen
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": prompt}],
guardrails=[ # Första försvarslinjen
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"jailbreaking": 0.3},
"action": "block",
},
}
],
)
Det andra lagret, Moderations-API:t, arbetar i motsatt riktning: det analyserar innehåll efter generering för att tilldela riskpoäng per kategori. Till skillnad från skyddsräcken fattar det inga beslut åt dig. Du hämtar poängen och bestämmer vad du ska göra härnäst: visa, dölja, flagga eller blockera.
# Det genererade innehållet analyseras EFTER generering
moderation = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
{"role": "user", "content": prompt},
{"role": "assistant", "content": texte_genere}, # svarstexten
],
)
Varför båda är nödvändiga
Varje lager har en blind fläck som det andra täcker. Skyddsräcken ensamma räcker inte: modellen kan generera problematiskt innehåll även från en ofarlig uppmaning, och analys av inmatning kan inte förutse allt. Moderering ensamma räcker inte heller: den upptäcker problem i efterhand och förhindrar aldrig att modellen bearbetar illvilliga förfrågningar eller slösar beräkningstid på dem.
Tillsammans bildar de ett försvar i djupet: filtrering av inmatning är proaktiv, filtrering av utdata är reaktiv, och farligt innehåll måste passera båda för att nå användaren. Det är denna redundans, inte perfektionen hos ett enskilt filter, som gör arkitekturen robust.
Ditt ansvar som utvecklare
Det europeiska regelverket ställer konkreta krav enligt AI-lagen och GDPR (General Data Protection Regulation). Du måste säkerställa transparens, vilket innebär att du informerar användare om att de interagerar med en AI, och spårbarhet, genom att hålla modereringsloggar användbara vid en revision. Proportionalitet gäller också: säkerhetströsklar för en assistent designad för vårdpersonal kan inte vara desamma som för en konsumentchattbot, och du måste kunna motivera ditt val. Slutligen förbjuder dataskydd behandling av personuppgifter utan juridisk grund, även i dina modereringsloggar.
I denna kurs lär du dig att implementera dessa två försvarslinjer med Mistral API, konfigurera dina tröskelvärden och bygga en komplett säkerhetsarkitektur för dina produktionsapplikationer.
Viktiga punkter
- LLM:er i produktion kräver säkerhetsmekanismer
- Mistral erbjuder två komplementära metoder: skyddsräcken (före) och moderering (efter)
- Du är ansvarig för innehållet som genereras av din applikation
- AI-säkerhet är inte valfritt – det är en juridisk och etisk skyldighet