Przejdź do głównej treści
Polski— Wybierz język
Menu

Dlaczego warto zabezpieczać aplikacje AI

Lekcja 1 z 12 Zaktualizowano 3 listopada 2026 Programista
Na tej stronie
  1. Bezpieczeństwo AI: Krytyczne wyzwanie w 2026 roku
  2. Trzy rodzaje ryzyka
  3. Podejście Mistral: Dwie linie obrony
  4. Dlaczego obie są niezbędne
  5. Twoja odpowiedzialność jako programisty
  6. Kluczowe wnioski

Zaktualizowano 2 listopada 2026 — Modele. Mistral Large 3 (mistral-large-2512) oraz Mistral Medium 3.5 zostały wycofane z użytku 31 października 2026 r. i zostaną całkowicie usunięte 30 kwietnia 2027 r. Ich wyznaczony następca, Mistral Large 4 (mistral-large-4), jest dostępny w wersji publicznej (public preview) od 6 października. Przykłady w tym kursie używają aliasu mistral-large-latest, który obecnie wskazuje na Mistral Large 3 zgodnie z jego oficjalną specyfikacją (zweryfikowano 3 listopada 2026 r.). Podobnie mistral-medium-latest wskazuje na Mistral Medium 3.5. Aliasy te pozostaną ważne do 30 kwietnia 2027 r. W przypadku nowych projektów przetestuj mistral-large-4, ich wyznaczonego następcę.

Skorygowano 3 listopada 2026 r. Poprzedni przykład barierki ochronnej używał wymyślonego formatu (guardrails={"enabled": True}). Oficjalnym parametrem jest lista konfiguracji moderation_llm_v2, szczegółowo opisana w następnej lekcji. Usunięto dwie liczby bez źródła („78% firm“ i „opóźnienie poniżej 50 ms“): Mistral nie publikuje metryk opóźnienia dla swoich barierki ochronnych. Źródła: Moderation & Guardrailing · SDK mistralai 3.7.0.

Bezpieczeństwo AI: Krytyczne wyzwanie w 2026 roku

Wdrożenie modelu językowego do produkcji bez mechanizmów bezpieczeństwa jest jak uruchomienie usługi internetowej bez zapory ogniowej. Duże modele językowe (LLM) to potężne narzędzia, ale mogą generować niewłaściwe treści, ujawniać dane wrażliwe lub zostać zmanipulowane przez złośliwych użytkowników. To nie jest problem teoretyczny: ujawnia się już w ciągu pierwszych kilku tysięcy rzeczywistych żądań, gdy tylko użytkownicy wyjdą poza scenariusze, które sobie wyobraziłeś.

Jako programista jesteś bezpośrednio odpowiedzialny za to, co produkuje Twoja aplikacja AI. Jeśli Twój chatbot generuje niebezpieczne porady medyczne lub treści pełne nienawiści, konsekwencje ponosi Twoja firma – prawne, wizerunkowe i finansowe. Nikt nie będzie pytał, czy model pochodził od zewnętrznego dostawcy.

2
Linie obrony: barierki ochronne na wejściu, moderacja na wyjściu
11
Kategorie ryzyka objęte przez Mistral
403
Kod statusu HTTP dla zablokowanych barierki ochronnych
0 do 1
Zakres progu, dostosowywany dla każdej kategorii

Trzy rodzaje ryzyka

Pierwszym ryzykiem jest generowanie niewłaściwych treści. Model może produkować treści przemocy, o charakterze seksualnym, dyskryminujące lub niebezpieczne, nawet bez złej woli ze strony użytkownika. Wystarczy prosta, niejednoznaczna podpowiedź, aby wywołać problematyczną odpowiedź: zapytaj asystenta kulinarnego, jak „zneutralizować“ składnik, a przekonasz się, że granica jest cieńsza, niż się wydaje.

Drugie ryzyko wynika z manipulacji ze strony użytkownika, znanej również jako wstrzykiwanie podpowiedzi (prompt injection). Złośliwi użytkownicy próbują obejść instrukcje systemowe, aby zmusić model do wygenerowania zabronionych treści. Techniki łamania zabezpieczeń (jailbreak) ewoluują nieustannie, rozprzestrzeniają się na forach w ciągu kilku godzin i wymagają wielowarstwowej obrony, a nie jedynie prostej listy zakazanych słów.

Trzecim ryzykiem jest wyciek danych wrażliwych. Model może przypadkowo ujawnić dane osobowe (PII), sekrety wprowadzone do kontekstu lub dane poufne obecne w jego zbiorze treningowym. Wyobraź sobie asystenta HR, którego niewinnie pytają: „Co jest w aktach Marii?“. Żądanie nie jest agresywne, ale rezultatem jest naruszenie danych.

Podejście Mistral: Dwie linie obrony

Mistral rozwiązuje te problemy za pomocą dwóch komplementarnych warstw: jednej upstream (przed), drugiej downstream (po). Pierwsza, Niestandardowe barierki ochronne (Custom Guardrails), analizuje podpowiedź użytkownika zanim trafi ona do modelu. Jeśli treść zostanie uznana za niebezpieczną, żądanie jest blokowane z błędem 403 – model nigdy nie widzi podpowiedzi i nic na jej podstawie nie generuje.

# Podpowiedź jest analizowana PRZED modelem
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    guardrails=[  # Pierwsza linia obrony
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"jailbreaking": 0.3},
                "action": "block",
            },
        }
    ],
)

Druga warstwa, API Moderacji, działa w odwrotnym kierunku: analizuje treść po wygenerowaniu, aby przypisać wyniki ryzyka według kategorii. W przeciwieństwie do barierki ochronnych, nie podejmuje decyzji za Ciebie. Otrzymujesz wyniki i sam decydujesz, co zrobić dalej: wyświetlić, ukryć, oznaczyć flagą lub zablokować.

# Wygenerowana treść jest analizowana PO wygenerowaniu
moderation = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": texte_genere},  # tekst odpowiedzi
    ],
)

Dlaczego obie są niezbędne

Każda warstwa ma ślepy punkt, który pokrywa druga. Same barierki ochronne nie wystarczą: model może wygenerować problematyczne treści nawet na podstawie nieszkodliwej podpowiedzi, a analiza wejścia nie jest w stanie przewidzieć wszystkiego. Sama moderacja również nie wystarczy: wykrywa problemy post factum, nigdy nie zapobiegając przetwarzaniu złośliwych żądań przez model ani marnowaniu czasu obliczeniowego na ich obsługę.

Połączone tworzą obronę wielowarstwową (defense in depth): filtrowanie wejścia jest proaktywne, filtrowanie wyjścia reaktywne, a niebezpieczne treści muszą przejść przez obie warstwy, aby dotrzeć do użytkownika. To właśnie ta redundancja, a nie perfekcja pojedynczego filtra, sprawia, że architektura jest odporna.

Twoja odpowiedzialność jako programisty

Europejskie ramy regulacyjne nakładają konkretne obowiązki wynikające z Aktu o AI (AI Act) oraz RODO (Ogólne Rozporządzenie o Ochronie Danych). Musisz zapewnić przejrzystość, co oznacza informowanie użytkowników, że mają do czynienia z AI, oraz możliwość śledzenia (traceability) poprzez prowadzenie dzienników moderacji przydatnych podczas audytu. Zastosowanie ma również zasada proporcjonalności: progi bezpieczeństwa dla asystenta przeznaczonego dla pracowników służby zdrowia nie mogą być takie same jak dla chatbota konsumenckiego i musisz być w stanie uzasadnić swój wybór. Wreszcie, ochrona danych zabrania przetwarzania danych osobowych (PII) bez podstawy prawnej, w tym w Twoich dziennikach moderacji.

W tym kursie nauczysz się wdrażać te dwie linie obrony za pomocą API Mistral, konfigurować swoje progi i budować kompletną architekturę bezpieczeństwa dla swoich aplikacji produkcyjnych.

Kluczowe wnioski

  • LLM w środowisku produkcyjnym wymagają mechanizmów bezpieczeństwa
  • Mistral oferuje dwa komplementarne podejścia: barierki ochronne (przed) i moderację (po)
  • Ponosisz odpowiedzialność za treści generowane przez Twoją aplikację
  • Bezpieczeństwo AI nie jest opcjonalne – to obowiązek prawny i etyczny