Ga naar hoofdinhoud
Nederlands— Kies een taal
Menu

Waarom u uw AI-toepassingen moet beveiligen

Les 1 van 12 Bijgewerkt op 3 november 2026 Ontwikkelaar
Op deze pagina
  1. AI-beveiliging: een kritieke uitdaging in 2026
  2. De drie soorten risico’s
  3. De aanpak van Mistral: twee verdedigingslinies
  4. Waarom beide noodzakelijk zijn
  5. Uw verantwoordelijkheid als ontwikkelaar
  6. Belangrijkste punten

Bijgewerkt op 2 november 2026 — Modellen. Mistral Large 3 (mistral-large-2512) en Mistral Medium 3.5 zijn op 31 oktober 2026 verouderd geraakt en worden op 30 april 2027 buiten gebruik gesteld. Hun aangewezen opvolger, Mistral Large 4 (mistral-large-4), is sinds 6 oktober beschikbaar in openbare preview. De voorbeelden in deze cursus gebruiken de alias mistral-large-latest, die volgens de officiële specificatie momenteel verwijst naar Mistral Large 3 (geverifieerd op 3 november 2026). Evenzo verwijst mistral-medium-latest naar Mistral Medium 3.5. Deze aliassen blijven geldig tot 30 april 2027. Test voor nieuwe projecten mistral-large-4, hun aangewezen opvolger.

Gecorrigeerd op 3 november 2026. Het eerdere voorbeeld voor bewakingsmechanismen gebruikte een verzonnen formaat (guardrails={"enabled": True}). De officiële parameter is een lijst met moderation_llm_v2-configuraties, zoals gedetailleerd beschreven in de volgende les. Twee cijfers zonder bronvermelding (“78% van de bedrijven” en “minder dan 50 ms latentie”) zijn verwijderd: Mistral publiceert geen latentiemetrieken voor zijn bewakingsmechanismen. Bronnen: Moderatie & Bewaking · mistralai SDK 3.7.0.

AI-beveiliging: een kritieke uitdaging in 2026

Een taalmodel in productie brengen zonder beveiligingsmechanismen is vergelijkbaar met het lanceren van een webservice zonder firewall. Grote taalmodellen (LLM’s) zijn krachtige hulpmiddelen, maar ze kunnen ongepaste inhoud genereren, gevoelige gegevens lekken of worden gemanipuleerd door kwaadwillende gebruikers. Dit is geen theoretisch probleem: het manifesteert zich binnen de eerste paar duizend echte verzoeken, zodra uw gebruikers buiten de scenario’s stappen die u zich had voorgesteld.

Als ontwikkelaar bent u direct verantwoordelijk voor wat uw AI-toepassing produceert. Als uw chatbot gevaarlijk medisch advies of haatdragende inhoud genereert, draagt uw bedrijf de consequenties: juridisch, reputationeel en financieel. Niemand zal vragen of het model van een externe provider kwam.

2
Verdedigingslinies: input-bewaking, output-moderatie
11
Risicocategorieën gedekt door Mistral
403
HTTP-statuscode voor geblokkeerde bewaking
0 tot 1
Drempelbereik, per categorie aanpasbaar

De drie soorten risico’s

Het eerste risico is gegenereerde ongepaste inhoud. Het model kan gewelddadige, seksuele, discriminerende of gevaarlijke inhoud produceren, zelfs zonder kwaadwillende intentie van de gebruiker. Een eenvoudige dubbelzinnige prompt volstaat om een problematisch antwoord uit te lokken: vraag een culinaire assistent hoe u een ingrediënt kunt “neutraliseren” en u zult zien dat de grens fijner ligt dan verwacht.

Het tweede risico komt voort uit manipulatie door de gebruiker, ook wel prompt-injectie genoemd. Kwaadwillende gebruikers proberen systeeminstructies te omzeilen om het model verboden inhoud te laten produceren. Jailbreak-technieken evolueren voortdurend, verspreiden zich binnen enkele uren over forums en vereisen meerlaagse verdediging in plaats van een simpele lijst met verboden woorden.

Het derde risico is lekken van gevoelige gegevens. Het model kan onbedoeld persoonsgebonden informatie (PII), geheimen die in de context zijn ingevoerd, of vertrouwelijke gegevens uit zijn trainingsset onthullen. Denk aan een HR-assistent die onschuldig de vraag krijgt: “Wat staat er in het dossier van Marie?” Het verzoek is niet agressief, toch resulteert het in een datalek.

De aanpak van Mistral: twee verdedigingslinies

Mistral pakt deze risico’s aan met twee complementaire lagen: één stroomopwaarts, één stroomafwaarts. De eerste, Aangepaste bewakingsmechanismen (Custom Guardrails), analyseert de prompt van de gebruiker voordat deze het model bereikt. Als de inhoud als gevaarlijk wordt beschouwd, wordt het verzoek geblokkeerd met een 403-fout; het model ziet de prompt nooit en genereert er niets op basis van.

# De prompt wordt geanalyseerd VOOR het model
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    guardrails=[  # Eerste verdedigingslinie
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"jailbreaking": 0.3},
                "action": "block",
            },
        }
    ],
)

De tweede laag, de Moderatie-API, werkt in de tegenovergestelde richting: deze analyseert inhoud na generatie om risicoscores per categorie toe te kennen. In tegenstelling tot bewakingsmechanismen neemt deze laag geen beslissingen voor u. U haalt de scores op en beslist wat er vervolgens gebeurt: tonen, verbergen, markeren of blokkeren.

# De gegenereerde inhoud wordt geanalyseerd NA generatie
moderation = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": texte_genere},  # de antwoordtekst
    ],
)

Waarom beide noodzakelijk zijn

Elke laag heeft een blind vlek die de andere opvult. Bewakingsmechanismen alleen zijn niet genoeg: het model kan problematische inhoud genereren zelfs vanuit een onschuldige prompt, en input-analyse kan niet alles anticiperen. Moderatie alleen is evenmin voldoende: deze detecteert problemen achteraf en voorkomt nooit dat het model kwaadwillende verzoeken verwerkt of rekentijd daaraan verspilt.

Gecombineerd vormen ze een verdediging in de diepte: input-filtering is proactief, output-filtering is reactief, en gevaarlijke inhoud moet beide lagen passeren om de gebruiker te bereiken. Het is deze redundantie, niet de perfectie van één enkel filter, die de architectuur robuust maakt.

Uw verantwoordelijkheid als ontwikkelaar

Het Europese regelgevingskader legt concrete verplichtingen op onder de AI-wet en de AVG (Algemene Verordening Gegevensbescherming). U moet zorgen voor transparantie, wat betekent dat u gebruikers informeert dat ze met een AI communiceren, en voor traceerbaarheid, door moderatielogboeken bij te houden die bruikbaar zijn tijdens een audit. Ook geldt evenredigheid: beveiligingsdrempels voor een assistent ontworpen voor zorgprofessionals kunnen niet dezelfde zijn als die voor een consumentenchatbot, en u moet uw keuze kunnen verantwoorden. Tot slot verbiedt gegevensbescherming het verwerken van PII zonder juridische grondslag, ook niet in uw moderatielogboeken.

In deze cursus leert u deze twee verdedigingslinies te implementeren met de Mistral API, uw drempels te configureren en een complete beveiligingsarchitectuur op te bouwen voor uw productietoepassingen.

Belangrijkste punten

  • LLM’s in productie vereisen beveiligingsmechanismen
  • Mistral biedt twee complementaire benaderingen: bewaking (vooraf) en moderatie (achteraf)
  • U bent verantwoordelijk voor de inhoud die uw applicatie genereert
  • AI-beveiliging is niet optioneel; het is een juridische en ethische verplichting