Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Miksi tekoälysovelluksesi on suojattava

Oppitunti 1 / 12 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Tekoälyn turvallisuus: Kriittinen haaste vuonna 2026
  2. Kolme riskityyppiä
  3. Mistralin lähestymistapa: Kaksi puolustuslinjaa
  4. Miksi molempia tarvitaan
  5. Vastuusi kehittäjänä
  6. Keskeiset asiat

Päivitetty 2. marraskuuta 2026 — Mallit. Mistral Large 3 (mistral-large-2512) ja Mistral Medium 3.5 poistettiin käytöstä 31. lokakuuta 2026, ja ne poistetaan kokonaan 30. huhtikuuta 2027. Niiden nimetty seuraaja, Mistral Large 4 (mistral-large-4), on ollut julkisessa esiversiossa 6. lokakuuta lähtien. Tämän kurssin esimerkeissä käytetään aliasta mistral-large-latest, joka osoittaa tällä hetkellä virallisen määrittelyn mukaan Mistral Large 3 -malliin (varmistettu 3. marraskuuta 2026). Vastaavasti mistral-medium-latest osoittaa Mistral Medium 3.5 -malliin. Nämä aliakset pysyvät voimassa 30. huhtikuuta 2027 saakka. Uusissa projekteissa testaa niiden nimettyä seuraajaa mistral-large-4.

Korjattu 3. marraskuuta 2026. Aiempi suojausesimerkki käytti keksittyä muotoa (guardrails={"enabled": True}). Virallinen parametri on lista moderation_llm_v2 -määrityksiä, joita käsitellään tarkemmin seuraavassa oppitunnissa. Kaksi lähteetöntä lukua (“78 % yrityksistä” ja “alle 50 ms viive”) on poistettu: Mistral ei julkaise suojaustensa viivemittareita. Lähteet: Moderation & Guardrailing · mistralai SDK 3.7.0.

Tekoälyn turvallisuus: Kriittinen haaste vuonna 2026

Kielimallin käyttöönotto tuotantoympäristöön ilman turvallisuusmekanismeja on kuin verkkopalvelun julkaiseminen ilman palomuuria. Suuret kielimallit (LLM) ovat tehokkaita työkaluja, mutta ne voivat tuottaa sopimatonta sisältöä, vuotaa arkaluonteisia tietoja tai joutua haittaohjelmoitujen käyttäjien manipuloimiksi. Tämä ei ole teoreettinen ongelma: se ilmenee ensimmäisten muutaman tuhannen todellisen pyynnön aikana, heti kun käyttäjäsi poikkeavat ennakoiduista skenaarioista.

Kehittäjänä olet suoraan vastuussa siitä, mitä tekoälysovelluksesi tuottaa. Jos chatbottisi antaa vaarallisia lääketieteellisiä neuvoja tai vihapuhetta, yrityksesi kantaa seuraukset – oikeudelliset, maineelliset ja taloudelliset. Kukaan ei kysy, oliko malli peräisin ulkopuoliselta tarjoajalta.

2
Puolustuslinjat: syötteen suojaukset, tulosteen moderointi
11
Mistralin kattamat riskiluokat
403
HTTP-tilakoodi estetyille suojauksille
0–1
Kynnysarvojen vaihteluväli, säädettävissä luokittain

Kolme riskityyppiä

Ensimmäinen riski on sopimattoman sisällön generointi. Malli voi tuottaa väkivaltaista, seksuaalista, syrjivää tai vaarallista sisältöä, vaikka käyttäjällä ei olisi haitallisia aikomuksia. Pelkkä epäselvä kehote riittää laukaisemaan ongelmallisen vastauksen: kysy keittiöavustajalta, miten ainesosa “neutraloidaan”, ja huomaat rajan olevan hennompi kuin odotit.

Toinen riski liittyy käyttäjän manipulointiin, jota kutsutaan myös kehoteinjektioiksi (prompt injection). Haittaohjelmoituneet käyttäjät yrittävät kiertää järjestelmäohjeita pakottaakseen mallin tuottamaan kiellettyä sisältöä. Jailbreak-tekniikat kehittyvät jatkuvasti, leviävät foorumeilla tunneissa ja vaativat monikerroksista puolustusta pelkän kiellettyjen sanojen listan sijaan.

Kolmas riski on arkaluonteisten tietojen vuotaminen. Malli voi vahingossa paljastaa henkilötietoja (PII), kontekstiin syötettyjä salaisuuksia tai koulutusaineistossa ollutta luottamuksellista dataa. Mieti HR-avustajaa, jolta kysytään viattomasti: “Mitä Marien kansiossa on?” Pyyntö ei ole hyökkäävä, mutta tulos on tietovuoto.

Mistralin lähestymistapa: Kaksi puolustuslinjaa

Mistral torjuu nämä riskit kahdella täydentävällä kerroksella: yksi ylävirrassa, yksi alavirrassa. Ensimmäinen, mukautetut suojaukset (Custom Guardrails), analysoi käyttäjän kehotteen ennen kuin se reaches mallille. Jos sisältö katsotaan vaaralliseksi, pyyntö estetään 403-virheellä – malli ei koskaan näe kehotetta eikä generoi siitä mitään.

# Kehote analysoidaan ENNEN mallia
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    guardrails=[  # Ensimmäinen puolustuslinja
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"jailbreaking": 0.3},
                "action": "block",
            },
        }
    ],
)

Toinen kerros, Moderation API, toimii päinvastaiseen suuntaan: se analysoi sisällön generoinnin jälkeen määrittääkseen riskipisteet luokittain. Toisin kuin suojaukset, se ei tee päätöksiä puolestasi. Haet pisteet ja päätät, mitä tehdä seuraavaksi: näytä, piilota, merkitse tai estä.

# Generoitu sisältö analysoidaan generoinnin JÄLKEEN
moderation = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": texte_genere},  # vastaus teksti
    ],
)

Miksi molempia tarvitaan

Kummallakin kerroksella on sokea piste, jonka toinen kattaa. Pelkät suojaukset eivät riitä: malli voi generoida ongelmallista sisältöä jopa harmittomasta kehotteesta, eikä syötteen analyysi pysty ennakoimaan kaikkea. Pelkkä moderointikaan ei riitä: se havaitsee ongelmat jälkikäteen estämättä mallia koskaan käsittelemästä haitallisia pyyntöjä tai tuhlaamasta laskentatehoa niihin.

Yhdistettynä ne muodostavat syvyyspuolustuksen: syötteen suodatus on proaktiivista, tulosteen suodatus reaktiivista, ja vaarallisen sisällön on läpäistävä molemmat päästäkseen käyttäjälle. Juuri tämä redundanssi, ei yhden suodattimen täydellisyys, tekee arkkitehtuurista vankan.

Vastuusi kehittäjänä

Eurooppalainen sääntelykehys asettaa konkreettisia velvoitteita tekoälyasetuksen (AI Act) ja GDPR:n (yleinen tietosuoja-asetus) nojalla. Sinun on varmistettava läpinäkyvyys, eli ilmoitettava käyttäjille heidän olevan vuorovaikutuksessa tekoälyn kanssa, sekä jäljitettävyys pitämällä moderointilokit käyttökelpoisina tarkastuksen aikana. Suhteellisuus pätee myös: terveydenhuollon ammattilaisille suunnitellun avustajan turvallisuuskynnykset eivät voi olla samat kuin kuluttajien chatbotin, ja sinun on pystyttävä perustelemaan valintasi. Lopuksi tietosuoja kieltää henkilötietojen käsittelyn ilman oikeudellista perustetta, myös moderointilokeissasi.

Tällä kurssilla opit toteuttamaan nämä kaksi puolustuslinjaa Mistral API:n avulla, määrittämään kynnysarvosi ja rakentamaan täydellisen turvallisuusarkkitehtuurin tuotantosovelluksillesi.

Keskeiset asiat

  • Tuotannossa olevat LLM-mallit vaativat turvallisuusmekanismeja
  • Mistral tarjoaa kaksi täydentävää lähestymistapaa: suojaukset (ennen) ja moderointi (jälkeen)
  • Olet vastuussa sovelluksesi generoimasta sisällöstä
  • Tekoälyn turvallisuus ei ole valinnaista – se on lakisääteinen ja eettinen velvoite