Miért kell biztonságossá tenni az AI-alkalmazásaidat?
Ezen az oldalon
Frissítve: 2026. november 2. — Modellek. A Mistral Large 3 (
mistral-large-2512) és a Mistral Medium 3.5 modelleket 2026. október 31-én elavulttá nyilvánították, és 2027. április 30-án végleg kivezetik őket. Hivatalos utódjuk, a Mistral Large 4 (mistral-large-4) már október 6. óta elérhető nyilvános előzetes verzióban. A tanfolyam példái amistral-large-latestálnevet használják, amely a hivatalos specifikáció szerint jelenleg a Mistral Large 3-ra mutat (ellenőrizve: 2026. november 3.). Hasonlóképpen, amistral-medium-latestalias a Mistral Medium 3.5-re irányul. Ezek az álnevek 2027. április 30-ig maradnak érvényben. Új projektek esetén teszteld a hivatalos utódnak szántmistral-large-4modellt.
Helyesbítve: 2026. november 3. A korábbi védőkorlát példa egy kitalált formátumot használt (
guardrails={"enabled": True}). A hivatalos paraméter amoderation_llm_v2konfigurációk listája, amelyet a következő leckében részletezünk. Két forrás nélküli adatot („a cégek 78%-a“ és „kevesebb mint 50 ms késleltetés“) eltávolítottunk: a Mistral nem tesz közzé késleltetési metricákat a védőkorlátjaihoz kapcsolódóan. Források: Moderáció és védőkorlátok ·mistralaiSDK 3.7.0.
AI-biztonság: Kritikus kihívás 2026-ban
Nyelvi modellt biztonsági mechanizmusok nélkül éles környezetbe deployolni olyan, mint tűzfal nélkül webes szolgáltatást indítani. A nagy nyelvi modellek (LLM-ek) hatalmas eszközök, de generálhatnak nem megfelelő tartalmat, szivárogtathatnak érzékeny adatokat, vagy rosszindulatú felhasználók manipulálhatják őket. Ez nem elméleti probléma: már az első néhány ezer valós kérés során megjelenik, amint a felhasználóid kilépnek az általad elképzelt forgatókönyvekből.
Fejlesztőként közvetlenül felelős vagy azért, amit az AI-alkalmazásod előállít. Ha a chatbotod veszélyes orvosi tanácsokat vagy gyűlöletkeltő tartalmat generál, a következményeket – jogi, hírnévbeli és pénzügyi – a vállalatod viseli. Senki nem fogja kérdezni, hogy a modellt egy harmadik féltől bérelted-e.
A kockázatok három típusa
Az első kockázat a nem megfelelő tartalom generálása. A modell erőszakos, szexuális, diszkriminatív vagy veszélyes tartalmat hozhat létre akkor is, ha a felhasználó részéről nincs rosszindulat. Egy egyszerű, ambivalens prompt is elég lehet egy problémás válasz kiváltásához: kérdezz meg egy szakács-asszisztenst, hogyan lehet „semlegesíteni“ egy hozzávalót, és látni fogod, hogy a határvonal finomabb, mint gondoltad.
A második kockázat a felhasználói manipulációból, más néven prompt-injekcióból adódik. A rosszindulatú felhasználók megpróbálják kijátszani a rendszerutasításokat, hogy rákényszerítsék a modellt tiltott tartalom előállítására. A „jailbreak“ technikák folyamatosan fejlődnek, órák alatt terjednek el a fórumokon, és többrétegű védelmet igényelnek, nem csupán egy egyszerű tiltószó-listát.
A harmadik kockázat az érzékeny adatok szivárgása. A modell akaratlanul is felfedhet személyazonosításra alkalmas információkat (PII), a kontextusba injektált titkokat vagy a tanítóadatbázisában szereplő bizalmas adatokat. Gondolj egy HR-asszisztensre, akitől ártatlanul megkérdezik: „Mi van Marie dosziéjában?“ A kérés nem agresszív, mégis az eredmény egy adatbiztonsági incidens.
A Mistral megközelítése: Két védelmi vonal
A Mistral ezeket a kockázatokat két egymást kiegészítő réteggel kezeli: egy upstream (bemeneti) és egy downstream (kimeneti) szinten. Az első, az Egyéni Védőkorlátok (Custom Guardrails), elemzi a felhasználó promptját mielőtt az elérné a modellt. Ha a tartalmat veszélyesnek ítéli, a kérést egy 403 hibával blokkolja – a modell sosem látja a promptot, és nem generál belőle semmit.
# A promptot a modell ELŐTT elemzi a rendszer
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": prompt}],
guardrails=[ # Első védelmi vonal
{
"block_on_error": True,
"moderation_llm_v2": {
"custom_category_thresholds": {"jailbreaking": 0.3},
"action": "block",
},
}
],
)
A második réteg, a Moderációs API, ellenkező irányban működik: a generálás után elemzi a tartalmat, hogy kategóriánként kockázati pontszámokat rendeljen hozzá. A védőkorlátokkal ellentétben ez nem hoz döntést helyetted. Te kapod meg a pontszámokat, és te döntöd el, mi következik: megjelenítés, elrejtés, megjelölés vagy blokkolás.
# A generált tartalmat a generálás UTÁN elemzi a rendszer
moderation = client.classifiers.moderate_chat(
model="mistral-moderation-2603",
inputs=[
{"role": "user", "content": prompt},
{"role": "assistant", "content": texte_genere}, # a válasz szövege
],
)
Miért van szükség mindkettőre?
Minden rétegnek van egy vakfoltja, amelyet a másik takar. A védőkorlátok önmagukban nem elegendőek: a modell generálhat problémás tartalmat még egy ártalmatlan promptból is, és a bemeneti elemzés nem képes mindent előre jelezni. A moderáció önmagában szintén nem elég: utólag észleli a problémákat, sosem akadályozza meg, hogy a modell feldolgozza a rosszindulatú kéréseket, vagy hogy számítási időt pazaroljon rájuk.
Együttesen mélységi védelmet (defense in depth) alkotnak: a bemeneti szűrés proaktív, a kimeneti szűrés reaktív, és a veszélyes tartalomnak mindkét szűrőn át kell jutnia, hogy elérje a felhasználót. Nem egyetlen szűrő tökéletessége, hanem ez a redundancia teszi az architektúrát robosztussá.
Felelősséged fejlesztőként
Az európai szabályozási keretrendszer konkrét kötelezettségeket ír elő az AI-törvény (AI Act) és az GDPR (Általános Adatvédelmi Rendelet) alapján. Biztosítanod kell az átláthatóságot, ami azt jelenti, hogy tájékoztatod a felhasználókat arról, hogy AI-val lépnek kapcsolatba, valamint a nyomon követhetőséget a moderációs naplók auditálható megőrzésével. Az arányosság elve is érvényesül: egy egészségügyi szakembereknek szánt asszisztens biztonsági küszöbértékei nem lehetnek ugyanazok, mint egy fogyasztói chatboté, és képesnek kell lenned a választásod indoklására. Végül az adatvédelem tiltja a személyes adatok (PII) jogalap nélküli kezelését, beleértve a moderációs naplóidat is.
Ebben a tanfolyamban megtanulod implementálni ezt a két védelmi vonalat a Mistral API segítségével, konfigurálni a küszöbértékeidet, és felépíteni egy teljes biztonsági architektúrát az éles alkalmazásaidhoz.
Főbb megállapítások
- Az éles környezetben használt LLM-ek szükségessé teszik a biztonsági mechanizmusokat
- A Mistral két egymást kiegészítő megközelítést kínál: védőkorlátok (előtte) és moderáció (utána)
- Felelős vagy az alkalmazásod által generált tartalomért
- Az AI-biztonság nem opcionális – jogi és etikai kötelezettség