Miksi tekoälysovelluksesi on suojattava
Tällä sivulla
Päivitetty 2. marraskuuta 2026 — Mallit. Mistral Large 3 (
mistral-large-2512) ja Mistral Medium 3.5 poistettiin käytöstä 31. lokakuuta 2026, ja ne poistetaan kokonaan 30. huhtikuuta 2027. Niiden nimetty seuraaja, Mistral Large 4 (mistral-large-4), on ollut julkisessa esiversiossa 6. lokakuuta lähtien. Tämän kurssin esimerkeissä käytetään aliastamistral-large-latest, joka osoittaa tällä hetkellä virallisen määrittelyn mukaan Mistral Large 3 -malliin (varmistettu 3. marraskuuta 2026). Vastaavastimistral-medium-latestosoittaa Mistral Medium 3.5 -malliin. Nämä aliakset pysyvät voimassa 30. huhtikuuta 2027 saakka. Uusissa projekteissa testaa niiden nimettyä seuraajaamistral-large-4.
Korjattu 3. marraskuuta 2026. Aiempi suojausesimerkki käytti keksittyä muotoa (
guardrails={"enabled": True}). Virallinen parametri on listamoderation_llm_v2-määrityksiä, joita käsitellään tarkemmin seuraavassa oppitunnissa. Kaksi lähteetöntä lukua (“78 % yrityksistä” ja “alle 50 ms viive”) on poistettu: Mistral ei julkaise suojaustensa viivemittareita. Lähteet: Moderation & Guardrailing ·mistralaiSDK 3.7.0.
Tekoälyn turvallisuus: Kriittinen haaste vuonna 2026
Kielimallin käyttöönotto tuotantoympäristöön ilman turvallisuusmekanismeja on kuin verkkopalvelun julkaiseminen ilman palomuuria. Suuret kielimallit (LLM) ovat tehokkaita työkaluja, mutta ne voivat tuottaa sopimatonta sisältöä, vuotaa arkaluonteisia tietoja tai joutua haittaohjelmoitujen käyttäjien manipuloimiksi. Tämä ei ole teoreettinen ongelma: se ilmenee ensimmäisten muutaman tuhannen todellisen pyynnön aikana, heti kun käyttäjäsi poikkeavat ennakoiduista skenaarioista.
Kehittäjänä olet suoraan vastuussa siitä, mitä tekoälysovelluksesi tuottaa. Jos chatbottisi antaa vaarallisia lääketieteellisiä neuvoja tai vihapuhetta, yrityksesi kantaa seuraukset – oikeudelliset, maineelliset ja taloudelliset. Kukaan ei kysy, oliko malli peräisin ulkopuoliselta tarjoajalta.
Kolme riskityyppiä
Ensimmäinen riski on sopimattoman sisällön generointi. Malli voi tuottaa väkivaltaista, seksuaalista, syrjivää tai vaarallista sisältöä, vaikka käyttäjällä ei olisi haitallisia aikomuksia. Pelkkä epäselvä kehote riittää laukaisemaan ongelmallisen vastauksen: kysy keittiöavustajalta, miten ainesosa “neutraloidaan”, ja huomaat rajan olevan hennompi kuin odotit.
Toinen riski liittyy käyttäjän manipulointiin, jota kutsutaan myös kehoteinjektioiksi (prompt injection). Haittaohjelmoituneet käyttäjät yrittävät kiertää järjestelmäohjeita pakottaakseen mallin tuottamaan kiellettyä sisältöä. Jailbreak-tekniikat kehittyvät jatkuvasti, leviävät foorumeilla tunneissa ja vaativat monikerroksista puolustusta pelkän kiellettyjen sanojen listan sijaan.
Kolmas riski on arkaluonteisten tietojen vuotaminen. Malli voi vahingossa paljastaa henkilötietoja (PII), kontekstiin syötettyjä salaisuuksia tai koulutusaineistossa ollutta luottamuksellista dataa. Mieti HR-avustajaa, jolta kysytään viattomasti: “Mitä Marien kansiossa on?” Pyyntö ei ole hyökkäävä, mutta tulos on tietovuoto.
Mistralin lähestymistapa: Kaksi puolustuslinjaa
Mistral torjuu nämä riskit kahdella täydentävällä kerroksella: yksi ylävirrassa, yksi alavirrassa. Ensimmäinen, mukautetut suojaukset (Custom Guardrails), analysoi käyttäjän kehotteen ennen kuin se reaches mallille. Jos sisältö katsotaan vaaralliseksi, pyyntö estetään 403-virheellä – malli ei koskaan näe kehotetta eikä generoi siitä mitään.
# Kehote analysoidaan ENNEN mallia
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": prompt}],
guardrails=[ # Ensimmäinen puolustuslinja
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"jailbreaking": 0.3},
"action": "block",
},
}
],
)
Toinen kerros, Moderation API, toimii päinvastaiseen suuntaan: se analysoi sisällön generoinnin jälkeen määrittääkseen riskipisteet luokittain. Toisin kuin suojaukset, se ei tee päätöksiä puolestasi. Haet pisteet ja päätät, mitä tehdä seuraavaksi: näytä, piilota, merkitse tai estä.
# Generoitu sisältö analysoidaan generoinnin JÄLKEEN
moderation = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
{"role": "user", "content": prompt},
{"role": "assistant", "content": texte_genere}, # vastaus teksti
],
)
Miksi molempia tarvitaan
Kummallakin kerroksella on sokea piste, jonka toinen kattaa. Pelkät suojaukset eivät riitä: malli voi generoida ongelmallista sisältöä jopa harmittomasta kehotteesta, eikä syötteen analyysi pysty ennakoimaan kaikkea. Pelkkä moderointikaan ei riitä: se havaitsee ongelmat jälkikäteen estämättä mallia koskaan käsittelemästä haitallisia pyyntöjä tai tuhlaamasta laskentatehoa niihin.
Yhdistettynä ne muodostavat syvyyspuolustuksen: syötteen suodatus on proaktiivista, tulosteen suodatus reaktiivista, ja vaarallisen sisällön on läpäistävä molemmat päästäkseen käyttäjälle. Juuri tämä redundanssi, ei yhden suodattimen täydellisyys, tekee arkkitehtuurista vankan.
Vastuusi kehittäjänä
Eurooppalainen sääntelykehys asettaa konkreettisia velvoitteita tekoälyasetuksen (AI Act) ja GDPR:n (yleinen tietosuoja-asetus) nojalla. Sinun on varmistettava läpinäkyvyys, eli ilmoitettava käyttäjille heidän olevan vuorovaikutuksessa tekoälyn kanssa, sekä jäljitettävyys pitämällä moderointilokit käyttökelpoisina tarkastuksen aikana. Suhteellisuus pätee myös: terveydenhuollon ammattilaisille suunnitellun avustajan turvallisuuskynnykset eivät voi olla samat kuin kuluttajien chatbotin, ja sinun on pystyttävä perustelemaan valintasi. Lopuksi tietosuoja kieltää henkilötietojen käsittelyn ilman oikeudellista perustetta, myös moderointilokeissasi.
Tällä kurssilla opit toteuttamaan nämä kaksi puolustuslinjaa Mistral API:n avulla, määrittämään kynnysarvosi ja rakentamaan täydellisen turvallisuusarkkitehtuurin tuotantosovelluksillesi.
Keskeiset asiat
- Tuotannossa olevat LLM-mallit vaativat turvallisuusmekanismeja
- Mistral tarjoaa kaksi täydentävää lähestymistapaa: suojaukset (ennen) ja moderointi (jälkeen)
- Olet vastuussa sovelluksesi generoimasta sisällöstä
- Tekoälyn turvallisuus ei ole valinnaista – se on lakisääteinen ja eettinen velvoite