Ugrás a főtartalomra
Magyar— Nyelv kiválasztása
Menü

Miért kell biztonságossá tenni az AI-alkalmazásaidat?

1. lecke 12 közül Frissítve 2026. november 3. Fejlesztő
Ezen az oldalon
  1. AI-biztonság: Kritikus kihívás 2026-ban
  2. A kockázatok három típusa
  3. A Mistral megközelítése: Két védelmi vonal
  4. Miért van szükség mindkettőre?
  5. Felelősséged fejlesztőként
  6. Főbb megállapítások

Frissítve: 2026. november 2. — Modellek. A Mistral Large 3 (mistral-large-2512) és a Mistral Medium 3.5 modelleket 2026. október 31-én elavulttá nyilvánították, és 2027. április 30-án végleg kivezetik őket. Hivatalos utódjuk, a Mistral Large 4 (mistral-large-4) már október 6. óta elérhető nyilvános előzetes verzióban. A tanfolyam példái a mistral-large-latest álnevet használják, amely a hivatalos specifikáció szerint jelenleg a Mistral Large 3-ra mutat (ellenőrizve: 2026. november 3.). Hasonlóképpen, a mistral-medium-latest alias a Mistral Medium 3.5-re irányul. Ezek az álnevek 2027. április 30-ig maradnak érvényben. Új projektek esetén teszteld a hivatalos utódnak szánt mistral-large-4 modellt.

Helyesbítve: 2026. november 3. A korábbi védőkorlát példa egy kitalált formátumot használt (guardrails={"enabled": True}). A hivatalos paraméter a moderation_llm_v2 konfigurációk listája, amelyet a következő leckében részletezünk. Két forrás nélküli adatot („a cégek 78%-a“ és „kevesebb mint 50 ms késleltetés“) eltávolítottunk: a Mistral nem tesz közzé késleltetési metricákat a védőkorlátjaihoz kapcsolódóan. Források: Moderáció és védőkorlátok · mistralai SDK 3.7.0.

AI-biztonság: Kritikus kihívás 2026-ban

Nyelvi modellt biztonsági mechanizmusok nélkül éles környezetbe deployolni olyan, mint tűzfal nélkül webes szolgáltatást indítani. A nagy nyelvi modellek (LLM-ek) hatalmas eszközök, de generálhatnak nem megfelelő tartalmat, szivárogtathatnak érzékeny adatokat, vagy rosszindulatú felhasználók manipulálhatják őket. Ez nem elméleti probléma: már az első néhány ezer valós kérés során megjelenik, amint a felhasználóid kilépnek az általad elképzelt forgatókönyvekből.

Fejlesztőként közvetlenül felelős vagy azért, amit az AI-alkalmazásod előállít. Ha a chatbotod veszélyes orvosi tanácsokat vagy gyűlöletkeltő tartalmat generál, a következményeket – jogi, hírnévbeli és pénzügyi – a vállalatod viseli. Senki nem fogja kérdezni, hogy a modellt egy harmadik féltől bérelted-e.

2
Védelmi vonalak: bemeneti védőkorlátok, kimeneti moderáció
11
A Mistral által lefedett kockázati kategóriák
403
HTTP státuszkód a blokkolt védőkorlátokhoz
0 és 1 között
Küszöbérték-tartomány, kategóriánként állítható

A kockázatok három típusa

Az első kockázat a nem megfelelő tartalom generálása. A modell erőszakos, szexuális, diszkriminatív vagy veszélyes tartalmat hozhat létre akkor is, ha a felhasználó részéről nincs rosszindulat. Egy egyszerű, ambivalens prompt is elég lehet egy problémás válasz kiváltásához: kérdezz meg egy szakács-asszisztenst, hogyan lehet „semlegesíteni“ egy hozzávalót, és látni fogod, hogy a határvonal finomabb, mint gondoltad.

A második kockázat a felhasználói manipulációból, más néven prompt-injekcióból adódik. A rosszindulatú felhasználók megpróbálják kijátszani a rendszerutasításokat, hogy rákényszerítsék a modellt tiltott tartalom előállítására. A „jailbreak“ technikák folyamatosan fejlődnek, órák alatt terjednek el a fórumokon, és többrétegű védelmet igényelnek, nem csupán egy egyszerű tiltószó-listát.

A harmadik kockázat az érzékeny adatok szivárgása. A modell akaratlanul is felfedhet személyazonosításra alkalmas információkat (PII), a kontextusba injektált titkokat vagy a tanítóadatbázisában szereplő bizalmas adatokat. Gondolj egy HR-asszisztensre, akitől ártatlanul megkérdezik: „Mi van Marie dosziéjában?“ A kérés nem agresszív, mégis az eredmény egy adatbiztonsági incidens.

A Mistral megközelítése: Két védelmi vonal

A Mistral ezeket a kockázatokat két egymást kiegészítő réteggel kezeli: egy upstream (bemeneti) és egy downstream (kimeneti) szinten. Az első, az Egyéni Védőkorlátok (Custom Guardrails), elemzi a felhasználó promptját mielőtt az elérné a modellt. Ha a tartalmat veszélyesnek ítéli, a kérést egy 403 hibával blokkolja – a modell sosem látja a promptot, és nem generál belőle semmit.

# A promptot a modell ELŐTT elemzi a rendszer
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    guardrails=[  # Első védelmi vonal
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"jailbreaking": 0.3},
                "action": "block",
            },
        }
    ],
)

A második réteg, a Moderációs API, ellenkező irányban működik: a generálás után elemzi a tartalmat, hogy kategóriánként kockázati pontszámokat rendeljen hozzá. A védőkorlátokkal ellentétben ez nem hoz döntést helyetted. Te kapod meg a pontszámokat, és te döntöd el, mi következik: megjelenítés, elrejtés, megjelölés vagy blokkolás.

# A generált tartalmat a generálás UTÁN elemzi a rendszer
moderation = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": texte_genere},  # a válasz szövege
    ],
)

Miért van szükség mindkettőre?

Minden rétegnek van egy vakfoltja, amelyet a másik takar. A védőkorlátok önmagukban nem elegendőek: a modell generálhat problémás tartalmat még egy ártalmatlan promptból is, és a bemeneti elemzés nem képes mindent előre jelezni. A moderáció önmagában szintén nem elég: utólag észleli a problémákat, sosem akadályozza meg, hogy a modell feldolgozza a rosszindulatú kéréseket, vagy hogy számítási időt pazaroljon rájuk.

Együttesen mélységi védelmet (defense in depth) alkotnak: a bemeneti szűrés proaktív, a kimeneti szűrés reaktív, és a veszélyes tartalomnak mindkét szűrőn át kell jutnia, hogy elérje a felhasználót. Nem egyetlen szűrő tökéletessége, hanem ez a redundancia teszi az architektúrát robosztussá.

Felelősséged fejlesztőként

Az európai szabályozási keretrendszer konkrét kötelezettségeket ír elő az AI-törvény (AI Act) és az GDPR (Általános Adatvédelmi Rendelet) alapján. Biztosítanod kell az átláthatóságot, ami azt jelenti, hogy tájékoztatod a felhasználókat arról, hogy AI-val lépnek kapcsolatba, valamint a nyomon követhetőséget a moderációs naplók auditálható megőrzésével. Az arányosság elve is érvényesül: egy egészségügyi szakembereknek szánt asszisztens biztonsági küszöbértékei nem lehetnek ugyanazok, mint egy fogyasztói chatboté, és képesnek kell lenned a választásod indoklására. Végül az adatvédelem tiltja a személyes adatok (PII) jogalap nélküli kezelését, beleértve a moderációs naplóidat is.

Ebben a tanfolyamban megtanulod implementálni ezt a két védelmi vonalat a Mistral API segítségével, konfigurálni a küszöbértékeidet, és felépíteni egy teljes biztonsági architektúrát az éles alkalmazásaidhoz.

Főbb megállapítások

  • Az éles környezetben használt LLM-ek szükségessé teszik a biztonsági mechanizmusokat
  • A Mistral két egymást kiegészítő megközelítést kínál: védőkorlátok (előtte) és moderáció (utána)
  • Felelős vagy az alkalmazásod által generált tartalomért
  • Az AI-biztonság nem opcionális – jogi és etikai kötelezettség