Palaikomi modeliai ir suderinamumas
Šiame puslapyje
„Mistral“ modelių suderinamumas
Ne visi „Mistral“ modeliai vienodai tvarko struktūrizuotų duomenų išvesties. Prieš rašydamas bent vieną kodo eilutę, įsitikink, kad tavo pasirinktas modelis palaiko tavo taikomą metodą. Šis trisdešimties sekundžių patikrinimas sutaupys tave nuo nesuprantamos API klaidos kūrimo proceso pabaigoje.
Štai geroji naujiena vienu sakiniu: beveik visi „Mistral“ modeliai palaiko struktūrizuotą išvestį, tiek JSON režimu, tiek naudojant tinkintas struktūrizuotas išvestis. Vienintelė išimtis, codestral-mamba, buvo nutraukta „Mistral“ 2025 m. birželio mėn.
Pagrindiniai modeliai
Štai dažniausiai naudojami modeliai ir jų suderinamumo būsena (2026 m. balandžio mėn. duomenimis):
| Modelis | Suderinamumas | Tipinis naudojimo atvejis |
|---|---|---|
mistral-large-latest | Pilnas palaikymas (JSON režimas + tinkintas) | Sudėtingos užduotys, reikalaujančios patikimos struktūrizuotos išvesties |
mistral-medium-latest | Pilnas palaikymas | Geriausias našumo ir kainos santykis gamybos sistemoms |
mistral-small-latest | Pilnas palaikymas | Paprastos užduotys (klasifikavimas, pagrindinių entitetų išskyrimas) esant ribotam biudžetui |
ministral-8b-latest | Pilnas palaikymas | Lengvasis duomenų išskyrimas su minimalia delsos trukme |
ministral-3b-latest | Pilnas palaikymas | Lengviausias pasirinkimas, kai greitis svarbesnis už sudėtingumą |
codestral-latest | Pilnas palaikymas | Optimizuotas kodui, bet tinka ir nekoduojamoms užduotims |
mistral-embed | Netaikoma | Įterpimų modelis; negeneruoja teksto |
Bendrosios paskirties „Large“, „Medium“ ir „Small“ modeliai patenkina daugumą poreikių, o „Ministral“ šeima sprendžia delsos laiko apribojimus.
Tinkamo modelio pasirinkimas
Prototipų kūrimo etape naudok mistral-small-latest arba ministral-8b-latest. Jie yra greiti, nebrangūs ir daugiau nei pakankami norint patvirtinti, kad tavo schema veikia, o tavo prompt’as sako tai, ką manai sakantis. Mokėti už galingiausią modelį tik norint vėliau atrasti, kad laukas buvo neteisingai pavadintas, yra švaistymas.
# Prototipų kūrimas — lengvasis modelis
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Gamyboje kriterijai keičiasi. Daugialypių laukų išskyrimas, niuansuota nuotaikų analizė arba smulkus klasifikavimas pateisina mistral-large-latest naudojimą. Priešingai, paprasta užduotis, apdorojama dideliais kiekiais, vis tiek puikiai veikia su mistral-small-latest. Atkreipk dėmesį į čia pridėtą temperature=0; šį parametrą išsamiau aptarsime žemiau.
# Gamyba — galingas modelis
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksimalus atkuriamumas
)
Galiausiai, apsvarstyk didelės spartos sistemas, kuriose delsa yra pagrindinis apribojimas. Jei apdoroji tūkstančius užklausų per minutę – pavyzdžiui, bilietų klasifikavimą ar el. laiškų rūšiavimą – ministral-8b-latest siūlo geriausią delsos ir kokybės santykį. maxTokens ribojimas neleidžia modeliui užsibūti ties per ilgomis atsakymų generacijomis.
// TypeScript — didelės spartos sistema
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Ribojimas greičiui
});
Parametras temperature
Vienas punktas nusipelno tavo dėmesio: temperature daro įtaką išvesties kintamumui net ir struktūrizuotu režimu. Esant 0, išvestis yra deterministinė. Tai yra rekomenduojamas nustatymas gamybai ir visur, kur svarbus atkuriamumas – du vykdymai su tuo pačiu dokumentu turi duoti tą patį įrašą. Nuo 0.1 iki 0.3 įvedi nedidelį kintamumą, kas naudinga tik tada, kai nori skirtingų formuluuočių laisvo teksto laukuose, pavyzdžiui, santraukoje. Nuo 0.7 ir aukščiau kintamumas tampa stiprus, ir modelis gali generuoti nenuoseklias reikšmes. Venk to naudodamas struktūrizuotą išvestį.
Programinis suderinamumo tikrinimas
Gamyboje, užuot pasikliovęs statiniu sąrašu, perimk SDK grąžinamą klaidą, kai modelis negali įvykdyti užklausos:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikatorius nuskaitytas iš tavo konfigūracijos
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Modelis nesuderinamas: {e}")
Šis įprotis išlieka vertingas ilgainiui. „Mistral“ reguliariai išleidžia naujus modelius, o struktūrizuotos išvesties palaikymas tapo standartu, kurį naujos kartos palaiko sistemingai. Prieš fiksuojant identifikatorių savo konfigūracijoje, pasitikrink oficialią dokumentaciją dėl aktualaus sąrašo.
Svarbiausi punktai
- Dabartiniai „Mistral“ modeliai palaiko struktūrizuotą išvestį; istorinė išimtis,
codestral-mamba, buvo nutraukta 2025 m. birželio mėn. - Gamyboje naudok
temperature: 0, kad gautum atkuriamą išvestį. - Pasirink modelį pagal savo poreikius:
mistral-largekokybei,ministral-8bgreičiui. - Abu metodai (JSON režimas ir tinkintas) yra palaikomi tų pačių modelių.