Miks peaksid oma tehisintellekti rakendusi kaitsma
Sellel lehel
Uuendatud 2. novembril 2026 — Mudelid. Mistral Large 3 (
mistral-large-2512) ja Mistral Medium 3.5 tunnistati 31. oktoobril 2026 aegunuks ja need võetakse kasutusest maha 30. aprillil 2027. Nende ametlik järeltulija Mistral Large 4 (mistral-large-4) on olnud avalikus eelvaates alates 6. oktoobrist. Selles kursuses kasutatavad näited põhinevad aliasselmistral-large-latest, mis osutab praegu selle ametliku spetsifikatsiooni kohaselt Mudelile Mistral Large 3 (kontrollitud 3. novembril 2026). Samuti osutab aliasmistral-medium-latestmudelile Mistral Medium 3.5. Need aliased kehtivad kuni 30. aprillini 2027. Uute projektide puhul testimistral-large-4, nende ametlikku järeltulijat.
Parandatud 3. novembril 2026. Eelnev kaitsepiirde näide kasutas väljamõeldud formaati (
guardrails={"enabled": True}). Ametlik parameeter onmoderation_llm_v2konfiguratsioonide loend, mida kirjeldatakse üksikasjalikult järgmises õppetükis. Kaks allikata arvu (“78% ettevõtetest” ja “latentsus alla 50 ms”) on eemaldatud: Mistral ei avalda oma kaitsepiirete latentsusandmeid. Allikad: Moderatsioon ja kaitsepiirded ·mistralaiSDK 3.7.0.
Tehisintellekti turvalisus: kriitiline väljakutse 2026. aastal
Keelemudeli tootmisse viimine ilma turvamehhanismideta on nagu veebiteenuse käivitamine ilma tulemüürita. Suured keelemudelid (LLM-id) on võimsad tööriistad, kuid need suudavad genereerida sobimatut sisu, lekkitada tundlikke andmeid või sattuda pahatahtlike kasutajate manipuleerimise ohvriks. See pole teoreetiline probleem: see avaldub juba esimeste tuhandete reaalsete päringute käigus, niipea kui kasutajad astuvad välja sinu ettekujutatud stsenaariumidest.
Arendajana oled otseselt vastutav selle eest, mida sinu tehisintellekti rakendus toodab. Kui sinu vestlusrobot annab ohtlikke meditsiinilisi nõuandeid või loob vihakõnet, kannab tagajärgi sinu ettevõte – juriidilisi, mainelisi ja rahalisi. Keegi ei küsi, kas mudel pärines kolmanda osapoole teenusepakkujalt.
Kolm riskitüüpi
Esimene risk on sobimatu sisu genereerimine. Mudel võib toota vägivaldset, seksuaalset, diskrimineerivat või ohtlikku sisu isegi siis, kui kasutajal puudub pahatahtlikkus. Probleemse vastuse esilekutsumiseks piisab lihtsast mitmetimõistetavast sisendist: küsi kulinaariaassistendilt, kuidas koostisosa “neutraliseerida”, ja sa näed, et piir on oodatust peenem.
Teine risk tuleneb kasutaja manipuleerimisest, mida tuntakse ka sisendi süstimise (prompt injection) nime all. Pahatahtlikud kasutajad püüavad süsteemi juhiseid mööda hiilida, sundides mudelit tootma keelatud sisu. „Jailbreak“-tehnikad arenevad pidevalt, levivad foorumites tundidega ja nõuavad mitmekihilist kaitset, mitte lihtsalt keelatud sõnade nimekirja.
Kolmas risk on tundlike andmete lekkimine. Mudel võib tahtmatult avaldada isikuandmeid (PII), konteksti sisestatud saladusi või oma treeningkomplektis leiduvaid konfidentsiaalseid andmeid. Mõtle HR-assistendile, kellelt küsitakse süütult: „Mis on Marie toimikus?“ Päring pole agressiivne, ometi on tulemuseks andmeleke.
Mistrali lähenemine: kaks kaitsekihti
Mistral lahendab need riskid kahe täiendava kihiga: üks enne protsessi, teine pärast. Esimene, kohandatud kaitsepiirded (Custom Guardrails), analüüsib kasutaja sisendit enne, kui see mudelini jõuab. Kui sisu tunnistatakse ohtlikuks, blokeeritakse päring veakoodiga 403 – mudel ei näe sisendit kunagi ega genereeri selle põhjal midagi.
# Sisendit analüüsitakse ENNE mudelit
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": prompt}],
guardrails=[ # Esimene kaitsekiht
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"jailbreaking": 0.3},
"action": "block",
},
}
],
)
Teine kiht, Moderatsiooni API, toimib vastupidises suunas: see analüüsib sisu pärast genereerimist, omistades riskiskoorid kategooriate kaupa. Erinevalt kaitsepiiretest ei tee see otsuseid sinu eest. Sa saad skoorid kätte ja otsustad, mida edasi teha: kuvada, peita, märgistada või blokeerida.
# Genereeritud sisu analüüsitakse PÄRAST genereerimist
moderation = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
{"role": "user", "content": prompt},
{"role": "assistant", "content": texte_genere}, # vastuse tekst
],
)
Miks on mõlemat vaja?
Igal kihil on pimeala, mida teine katab. Ainult kaitsepiiretest ei piisa: mudel võib genereerida problemaatilist sisu isegi kahjutust sisendist lähtuvalt ja sisendi analüüs ei suuda kõike ette näha. Ainult moderatsioonist samuti ei piisa: see tuvastab probleemid tagantjärele, takistamata kunagi mudelit töötlemast pahatahtlikke päringuid või raiskamata arvutusressursse nende peale.
Kombineeritult moodustavad need sügavuskaitse: sisendi filtreerimine on proaktiivne, väljundi filtreerimine reaktiivne ja ohtlik sisu peab läbima mõlemad filtrid, et jõuda kasutajani. Just see dubleerimine, mitte ühe filtri täiuslikkus, teeb arhitektuuri robustseks.
Sinu vastutus arendajana
Euroopa regulatiivne raamistik seab tehisintellekti seaduse ja GDPR-i (üldine andmekaitsemäärus) alusel konkreetsed kohustused. Sa pead tagama läbipaistvuse, mis tähendab, et informeerid kasutajaid nende suhtlusest tehisintellektiga, ning jälgitavuse, pidades moderatsioonilogisid, mida saab auditi käigus kasutada. Kohaldatav on ka proportsionaalsus: tervishoiutöötajatele mõeldud assistendi turvaläved ei saa olla samad mis tarbijate vestlusrobotil ja sa pead suutma oma valikut põhjendada. Lõpuks keelab andmekaitse isikuandmete töötlemise ilma õigusliku aluseta, sealhulgas sinu moderatsioonilogides.
Selles kursuses õpid rakendama neid kahte kaitsekihti Mistrali API-ga, konfigureerima oma lävendeid ja looma oma tootmisrakendustele tervikliku turvarhitektuuri.
Peamised punktid
- Tootmises olevad LLM-id vajavad turvamehhanisme
- Mistral pakub kahte täiendavat lähenemist: kaitsepiirded (enne) ja moderatsioon (pärast)
- Sa oled vastutav oma rakenduse genereeritud sisu eest
- Tehisintellekti turvalisus pole valikuline – see on juriidiline ja eetiline kohustus