Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Cén fáth a gcaithfidh tú d'iarratais IA a dhaingniú

Ceacht 1 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Slándáil IA: Dúshlán Criticiúil in 2026
  2. Na Trí Chineál Riosca
  3. Cur Chuige Mistral: Dhá Líne Cosanta
  4. Cén fáth a bhfuil an dá cheang ag teastáil
  5. Do Chuntas mar Fhorbróir
  6. Príomhphointí

Nuashonraithe 2 Samhain 2026 — Múnlaí. Cuireadh deireadh le Mistral Large 3 (mistral-large-2512) agus Mistral Medium 3.5 an 31 Deireadh Fómhair 2026, agus scoirfear de bheith ag tacú leo an 30 Aibreán 2027. Tá an leagan ina n-ionad, Mistral Large 4 (mistral-large-4), ar fáil le haghaidh réamhamhairc poiblí ón 6 Deireadh Fómhair. Úsáideann na samplaí sa chúrsa seo an t-ailias mistral-large-latest, a dhíríonn faoi láthair ar Mistral Large 3 de réir a sonraíochta oifigiúla (fíoraithe 3 Samhain 2026). Ar an gcaoi chéanna, díríonn mistral-medium-latest ar Mistral Medium 3.5. Fanfaidh na hailiasí seo bailí go dtí an 30 Aibreán 2027. I gcás tionscadal nua, déan tástáil ar mistral-large-4, an leagan ina n-ionad.

Ceartaithe 3 Samhain 2026. D’úsáid an sampla cosanta roimhe seo formáid fhictíseach (guardrails={"enabled": True}). Is liosta de chumraíochtaí moderation_llm_v2 an paraiméadar oifigiúil, agus miondhéanfar cur síos air sa chéad cheacht eile. Baineadh dhá fhigiúr gan fhoinse (“78% de chuideachtaí” agus “moill níos lú ná 50ms”): ní fhoilsíonn Mistral méadrachtaí moille dá chosaintí. Foinseacha: Moderation & Guardrailing · SDK mistralai 3.7.0.

Slándáil IA: Dúshlán Criticiúil in 2026

Múnla teanga a chur i bhfeidhm gan sásraí slándála is cosúil le seirbhís ghréasáin a sheoladh gan bhalla dóiteáin. Is uirlisí cumhachtacha iad múnlaí teanga mhóra (LLManna), ach is féidir leo ábhar míchuí a ghiniúint, sonraí íogaire a sceitheadh, nó bheith faoi smacht ag úsáideoirí mailíseacha. Ní fadhb theoiriciúil é seo: léiríonn sé laistigh de na chéad chúpla míle iarraidh réadach, chomh luath agus a théann do chuid úsáideoirí thar na cásanna a shamhlaigh tú.

Mar fhorbróir, tá tú freagrach go díreach as an méid a tháirgeann d’iarratas IA. Má thugann do chatbot comhairle leighis ghuaiseach nó ábhar fuatha, beidh do chuideachta freagrach as na hiarmhairtí—dlíthiúla, clú agus cáil, agus airgeadais. Ní fhiafróidh aon duine an ó sholáthraí tríú páirtí a tháinig an múnla.

2
Línte cosanta: cosaintí ionchuir, measúnú aschuir
11
Catagóirí riosca a chlúdaíonn Mistral
403
Cód stádais HTTP do chosaintí blocáilte
0 go 1
Raon tairsí, inchoigeartaithe in aghaidh na catagóire

Na Trí Chineál Riosca

Is é an chéad riosca ná ábhar míchuí a ghiniúint. Is féidir leis an múnla ábhar foréigneach, gnéasach, idirdhealaitheach nó guaiseach a tháirgeadh, fiú gan rún mailíseach ón úsáideoir. Is leor leid débhríoch simplí chun freagra fadhbach a spreagadh: iarr ar chúntóir cócaireachta conas comhábhar a “neodrú”, agus feicfidh tú go bhfuil an líne níos tanaí ná mar a shílfeá.

Tagann an dara riosca ó manipaláid úsáideoirí, ar a dtugtar instealladh leideanna (prompt injection) freisin. Déanann úsáideoirí mailíseacha iarracht treoracha an chórais a shárú chun an múnla a chur ar ábhar toirmiscthe a tháirgeadh. Forbraíonn teicnící “jailbreak” go leanúnach, scaipeann siad ar fud fóram laistigh d’uair an chloig, agus éilíonn siad cosaintí ilchiseacha seachas liosta simplí d’fhocail toirmiscthe.

Is é an tríú riosca ná sceitheadh sonraí íogaire. Is féidir leis an múnla faisnéis phearsanta inaitheanta (PII), rúin a instealladh sa chomhthéacs, nó sonraí rúnda atá ina shraith oiliúna a nochtadh go heaspántach. Samhlaigh cúntóir ACF a iarrtar air go neamhurchóideach, “Cad atá i gcomhad Mháire?” Níl an t-iarratas ionsaitheach, ach is sárú sonraí an toradh.

Cur Chuige Mistral: Dhá Líne Cosanta

Déileálann Mistral leis na rioscaí seo le dhá shraith chomhlántacha: ceann suas srutha, ceann síos srutha. An chéad cheann, Cosaintí Saincheaptha (Custom Guardrails), déanann sé anailís ar leid an úsáideora sula sroicheann sé an múnla. Má mheastar go bhfuil an t-ábhar guaiseach, déantar an t-iarratas a bhlocáil le hearráid 403—ní fheiceann an múnla an leid riamh agus ní ghineann sé aon rud uaidh.

# Déantar anailís ar an leid ROIMH an múnla
response = client.chat.complete(
    model="mistral-large-latest",
    messages=[{"role": "user", "content": prompt}],
    guardrails=[  # An chéad líne cosanta
        {
            "block_on_error": True,
            "moderation_llm_v2": {
                "custom_category_thresholds": {"jailbreaking": 0.3},
                "action": "block",
            },
        }
    ],
)

Is é an dara sraith, an API Measúnaithe (Moderation API), a oibríonn sa treo contrártha: déanann sé anailís ar an ábhar tar éis na giniúna chun scóir riosca a shannadh de réir catagóire. Murab ionann agus na cosaintí, ní dhéanann sé cinntí duitse. Faigheann tú na scóir agus déanann tú an cinneadh cad a dhéanfar ina dhiaidh sin: taispeáint, folach, bratú, nó blocáil.

# Déantar anailís ar an ábhar ginte TAR ÉIS na giniúna
moderation = client.classifiers.moderate_chat(
    model="mistral-moderation-2603",
    inputs=[
        {"role": "user", "content": prompt},
        {"role": "assistant", "content": texte_genere},  # an téacs freagartha
    ],
)

Cén fáth a bhfuil an dá cheang ag teastáil

Tá dallphointe ag gach sraith a chlúdaíonn an ceann eile. Ní leor na cosaintí amháin: is féidir leis an múnla ábhar fadhbach a ghiniúint fiú ó leid díobhálach, agus ní féidir le hanailís ionchuir gach rud a réamh-mheas. Ní leor an measúnú amháin ach oiread: braitheann sé fadhbanna tar éis an fhíric, gan cosc a chur riamh ar an múnla ó iarratais mhalíseacha a phróiseáil nó am ríomhaireachta a chur amú orthu.

Nuair a chuirtear le chéile iad, cruthaíonn siad cosaint i doimhneacht: tá scagadh ionchuir réamhghníomhach, tá scagadh aschuir imoibríoch, agus caithfidh ábhar guaiseach dul tríd an dá cheann sula sroicheann sé an t-úsáideoir. Is é an t-iomarcaíocht seo, seachas foirfeacht scagaire amháin, a dhéanann an ailtireacht láidir.

Do Chuntas mar Fhorbróir

Cuirtear oibleagáidí concreáideacha ort faoin gcreat rialála Eorpach faoin Acht IA agus faoin GDPR (An Rialachán Ginearálta maidir le Cosaint Sonraí). Caithfidh tú trédhearcacht a chinntiú, rud a chiallaíonn go gcuireann tú in iúl d’úsáideoirí go bhfuil siad ag idirghníomhú le IA, agus inrianaitheacht, trí logaí measúnaithe a choinneáil atá inúsáidte le linn iniúchta. Baineann comhréireacht leis freisin: ní féidir leis na tairsí slándála do chúntóir atá deartha do ghairmithe cúraim sláinte a bheith mar an gcéanna le tairsí do chatbot tomhaltóra, agus caithfidh tú a bheith in ann do rogha a chosaint. Ar deireadh, toirmisceann cosaint sonraí próiseáil PII gan bonn dlíthiúil, lena n-áirítear i do logaí measúnaithe.

Sa chúrsa seo, foghlaimeoidh tú conas an dá líne cosanta seo a chur i bhfeidhm le API Mistral, do thairsí a chumrú, agus ailtireacht slándála iomlán a thógáil do d’iarratais táirgeachta.

Príomhphointí

  • Éilíonn LLManna i dtáirgeadh sásraí slándála
  • Tairgeann Mistral dhá chur chuige chomhlántacha: cosaintí (roimh) agus measúnú (tar éis)
  • Tá tú freagrach as an ábhar a ghineann d’iarratas
  • Ní rogha é slándáil IA—is oibleagáid dhlíthiúil agus eiticiúil í