Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Palaikomi modeliai ir suderinamumas

Paskaita 3 iš 12 Atnaujinta 2026 m. lapkričio 2 d. Kūrėjas
Šiame puslapyje
  1. „Mistral“ modelių suderinamumas
  2. Pagrindiniai modeliai
  3. Tinkamo modelio pasirinkimas
  4. Parametras temperature
  5. Programinis suderinamumo tikrinimas
  6. Svarbiausi punktai

„Mistral“ modelių suderinamumas

Ne visi „Mistral“ modeliai vienodai tvarko struktūrizuotų duomenų išvesties. Prieš rašydamas bent vieną kodo eilutę, įsitikink, kad tavo pasirinktas modelis palaiko tavo taikomą metodą. Šis trisdešimties sekundžių patikrinimas sutaupys tave nuo nesuprantamos API klaidos kūrimo proceso pabaigoje.

Štai geroji naujiena vienu sakiniu: beveik visi „Mistral“ modeliai palaiko struktūrizuotą išvestį, tiek JSON režimu, tiek naudojant tinkintas struktūrizuotas išvestis. Vienintelė išimtis, codestral-mamba, buvo nutraukta „Mistral“ 2025 m. birželio mėn.

Pagrindiniai modeliai

Štai dažniausiai naudojami modeliai ir jų suderinamumo būsena (2026 m. balandžio mėn. duomenimis):

ModelisSuderinamumasTipinis naudojimo atvejis
mistral-large-latestPilnas palaikymas (JSON režimas + tinkintas)Sudėtingos užduotys, reikalaujančios patikimos struktūrizuotos išvesties
mistral-medium-latestPilnas palaikymasGeriausias našumo ir kainos santykis gamybos sistemoms
mistral-small-latestPilnas palaikymasPaprastos užduotys (klasifikavimas, pagrindinių entitetų išskyrimas) esant ribotam biudžetui
ministral-8b-latestPilnas palaikymasLengvasis duomenų išskyrimas su minimalia delsos trukme
ministral-3b-latestPilnas palaikymasLengviausias pasirinkimas, kai greitis svarbesnis už sudėtingumą
codestral-latestPilnas palaikymasOptimizuotas kodui, bet tinka ir nekoduojamoms užduotims
mistral-embedNetaikomaĮterpimų modelis; negeneruoja teksto

Bendrosios paskirties „Large“, „Medium“ ir „Small“ modeliai patenkina daugumą poreikių, o „Ministral“ šeima sprendžia delsos laiko apribojimus.

Tinkamo modelio pasirinkimas

Prototipų kūrimo etape naudok mistral-small-latest arba ministral-8b-latest. Jie yra greiti, nebrangūs ir daugiau nei pakankami norint patvirtinti, kad tavo schema veikia, o tavo prompt’as sako tai, ką manai sakantis. Mokėti už galingiausią modelį tik norint vėliau atrasti, kad laukas buvo neteisingai pavadintas, yra švaistymas.

# Prototipų kūrimas — lengvasis modelis
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

Gamyboje kriterijai keičiasi. Daugialypių laukų išskyrimas, niuansuota nuotaikų analizė arba smulkus klasifikavimas pateisina mistral-large-latest naudojimą. Priešingai, paprasta užduotis, apdorojama dideliais kiekiais, vis tiek puikiai veikia su mistral-small-latest. Atkreipk dėmesį į čia pridėtą temperature=0; šį parametrą išsamiau aptarsime žemiau.

# Gamyba — galingas modelis
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maksimalus atkuriamumas
)

Galiausiai, apsvarstyk didelės spartos sistemas, kuriose delsa yra pagrindinis apribojimas. Jei apdoroji tūkstančius užklausų per minutę – pavyzdžiui, bilietų klasifikavimą ar el. laiškų rūšiavimą – ministral-8b-latest siūlo geriausią delsos ir kokybės santykį. maxTokens ribojimas neleidžia modeliui užsibūti ties per ilgomis atsakymų generacijomis.

// TypeScript — didelės spartos sistema
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Ribojimas greičiui
});

Parametras temperature

Vienas punktas nusipelno tavo dėmesio: temperature daro įtaką išvesties kintamumui net ir struktūrizuotu režimu. Esant 0, išvestis yra deterministinė. Tai yra rekomenduojamas nustatymas gamybai ir visur, kur svarbus atkuriamumas – du vykdymai su tuo pačiu dokumentu turi duoti tą patį įrašą. Nuo 0.1 iki 0.3 įvedi nedidelį kintamumą, kas naudinga tik tada, kai nori skirtingų formuluuočių laisvo teksto laukuose, pavyzdžiui, santraukoje. Nuo 0.7 ir aukščiau kintamumas tampa stiprus, ir modelis gali generuoti nenuoseklias reikšmes. Venk to naudodamas struktūrizuotą išvestį.

Programinis suderinamumo tikrinimas

Gamyboje, užuot pasikliovęs statiniu sąrašu, perimk SDK grąžinamą klaidą, kai modelis negali įvykdyti užklausos:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # identifikatorius nuskaitytas iš tavo konfigūracijos
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Modelis nesuderinamas: {e}")

Šis įprotis išlieka vertingas ilgainiui. „Mistral“ reguliariai išleidžia naujus modelius, o struktūrizuotos išvesties palaikymas tapo standartu, kurį naujos kartos palaiko sistemingai. Prieš fiksuojant identifikatorių savo konfigūracijoje, pasitikrink oficialią dokumentaciją dėl aktualaus sąrašo.

Svarbiausi punktai

  • Dabartiniai „Mistral“ modeliai palaiko struktūrizuotą išvestį; istorinė išimtis, codestral-mamba, buvo nutraukta 2025 m. birželio mėn.
  • Gamyboje naudok temperature: 0, kad gautum atkuriamą išvestį.
  • Pasirink modelį pagal savo poreikius: mistral-large kokybei, ministral-8b greičiui.
  • Abu metodai (JSON režimas ir tinkintas) yra palaikomi tų pačių modelių.