Toetatud mudelid ja ühilduvus
Sellel lehel
Mistrali mudelite ühilduvus
Kõik Mistrali mudelid ei töötle struktureeritud väljundeid ühtemoodi. Enne kui kirjutad esimesegi koodirea, veendu, et sinu sihtmudel toetab valitud lähenemist. See kolmekümne sekundi pikkune kontroll hoiab sind arendustsükli lõpus kokku puutumast arusaamatu API-veaga.
Hea uudis mahub ühte lausesse: peaaegu kõik Mistrali mudelid toetavad struktureeritud väljundeid, nii JSON-režiimis kui ka kohandatud struktureeritud väljundite puhul. Ainus erand, codestral-mamba, võeti Mistrali poolt kasutusest maha 2025. aasta juunis.
Põhimudelid
Siin on kõige sagedamini kasutatavad mudelid ja nende ühilduvusolek (seisuga aprill 2026):
| Mudel | Ühilduvus | Tüüpiline kasutusjuhtum |
|---|---|---|
mistral-large-latest | Täielik tugi (JSON-režiim + Kohandatud) | Komplekssed ülesanded, mis nõuavad usaldusväärseid struktureeritud väljundeid |
mistral-medium-latest | Täielik tugi | Parim jõudluse ja kulude suhe tootmiskeskkonna torustikes |
mistral-small-latest | Täielik tugi | Lihtsad ülesanded (klassifitseerimine, põhiline olemite eraldamine) piiratud eelarve korral |
ministral-8b-latest | Täielik tugi | Kerged ekstraheerimised minimaalse latentsusega |
ministral-3b-latest | Täielik tugi | Kergeim variant, kui kiirus on olulisem keerukusest |
codestral-latest | Täielik tugi | Optimeeritud koodi jaoks, kuid sobib ka mitte-koodi ülesanneteks |
mistral-embed | Ei kohaldata | Manustamismudel; ei genereeri teksti |
Üldotstarbelised Large, Medium ja Small mudelid katavad enamiku vajadusi, samas kui Ministrali perekond lahendab latentsuspiirangud.
Õige mudeli valimine
Prototüüpimise etapis kasuta mudelit mistral-small-latest või ministral-8b-latest. Need on kiired, odavad ja enam kui piisavad, et valideerida skeemi toimimist ja veenduda, et sinu prompt ütleb seda, mida sa arvad, et ta ütleb. On raiskamine maksta võimsaima mudeli eest ainult selleks, et avastada hiljem välja valesti nimetatud väli.
# Prototüüpimine — kerge mudel
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Tootmiskeskkonnas muutuvad kriteeriumid. Mitme välja ekstraheerimine, nüansirikas sentimentaalne analüüs või peeneteraline klassifitseerimine õigustavad mudeli mistral-large-latest kasutamist. Vastupidi, lihtne ülesanne, mida töödeldakse suurtes kogustes, töötab suurepäraselt ka mudeliga mistral-small-latest. Pane tähele lisatud parameetrit temperature=0; arutleme seda parameetrit üksikasjalikumalt allpool.
# Tootmine — võimas mudel
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksimaalne reprodutseeritavus
)
Lõpuks mõtle kõrge sagedusega torustikele, kus latentsus on domineeriv piirang. Kui töötleid tuhandeid päringuid minutis – näiteks piletite klassifitseerimine või e-kirjade sorteerimine – pakub ministral-8b-latest parimat latentsuse ja kvaliteedi suhet. Parameetri maxTokens piiramine hoiab ära mudeli liiga pikkade vastuste genereerimise.
// TypeScript — kõrge sagedusega torustik
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Kiiruse piirang
});
Parameeter temperature
Üks punkt väärib erilist tähelepanu: temperature mõjutab väljundi varieeruvust isegi struktureeritud režiimis. Väärtusel 0 on väljund deterministlik. See on soovitatav seade tootmiskeskkonnas ja kõikjal, kus loeb reprodutseeritavus – kaks sama dokumendiga tehtud käivitust peavad andma sama kirje. Vahemikus 0.1 kuni 0.3 tood sisse kerget varieeruvust, mis on kasulik ainult siis, kui soovid erinevaid sõnastusi vaba teksti väljades, nagu kokkuvõte. Alates väärtusest 0.7 muutub varieeruvus tugevaks ja mudel võib genereerida ebajärjekindlaid väärtusi. Välti seda struktureeritud väljundite puhul.
Ühilduvuse programmeerimine kontrollimine
Tootmiskeskkonnas, selle asemel et tugineda staatilisele loetelule, püüda kinni viga, mille SDK tagastab, kui mudel ei suuda päringut täita:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikaator loetakse sinu konfiguratsioonist
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Mudel ei ühildu: {e}")
See harjumus jääb ajas väärtuslikuks. Mistral avaldab regulaarselt uusi mudeleid ja struktureeritud väljundite tugi on muutunud standardiks, mida uued põlvkonnad süstemaatiliselt toetavad. Enne identifikaatori fikseerimist oma konfiguratsioonis konsulteeri ametliku dokumentatsiooniga, et saada jooksev nimekiri.
Peamised punktid
- Praegused Mistrali mudelid toetavad struktureeritud väljundeid; ajalooline erand,
codestral-mamba, võeti kasutusest maha 2025. aasta juunis - Kasuta tootmiskeskkonnas reprodutseeritavate väljundite saamiseks väärtust
temperature: 0 - Vali mudel oma vajaduste põhjal:
mistral-largekvaliteedi jaoks,ministral-8bkiiruse jaoks - Mõlemat lähenemist (JSON-režiim ja Kohandatud) toetavad samad mudelid