Podprti modeli in združljivost
Na tej strani
Združljivost modelov Mistral
Vsi modeli Mistral ne obravnavajo strukturiranih izhodov enako. Preden napišeš prvo vrstico kode, preveri, ali tvoj ciljni model podpira izbrani pristop. Ta tridesetsekundni pregled ti prihrani nerazumljive napake API-ja ob koncu razvoja.
Dobra novica v enem stavku: skoraj vsi modeli Mistral podpirajo strukturirane izhode, tako v načinu JSON kot pri prilagojenih strukturiranih izhodih. Edina izjema, codestral-mamba, je bila umaknjena junija 2025.
Osnovni modeli
Tukaj so najpogosteje uporabljeni modeli in njihov status združljivosti (stanje april 2026):
| Model | Združljivost | Tipičen primer uporabe |
|---|---|---|
mistral-large-latest | Polna podpora (način JSON + prilagojeno) | Zahtevne naloge, ki zahtevajo zanesljive strukturirane izhode |
mistral-medium-latest | Polna podpora | Najboljše razmerje med zmogljivostjo in stroški za produkcijske cevovode |
mistral-small-latest | Polna podpora | Preproste naloge (klasifikacija, osnovno ekstrakcija entitet) z omejenim proračunom |
ministral-8b-latest | Polna podpora | Lahkotne ekstrakcije z minimalno zakasnitvijo |
ministral-3b-latest | Polna podpora | Najlažja možnost, ko je hitrost pomembnejša od kompleksnosti |
codestral-latest | Polna podpora | Optimiziran za kodo, deluje pa tudi za naloge, ki niso vezane na kodo |
mistral-embed | Ni relevantno | Model za vgradnje (embedding); ne generira besedila |
Splošni modeli Large, Medium in Small pokrivajo večino potreb, medtem ko družina Ministral obravnava omejitve glede zakasnitve.
Izbira pravega modela
Med prototipiranjem uporabi mistral-small-latest ali ministral-8b-latest. Hitra sta, poceni in več kot dovolj dobra, da preveriš, ali tvoja shema drži in ali tvoj poziv dejansko pove to, kar misliš. Plačevanje najzmogljivejšega modela, da bi šele nato odkril napačno poimenovano polje, je zapravljanje denarja.
# Prototipiranje — lahkoten model
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
V produkciji se merila spremenijo. Ekstrakcija več polj, niansirana analiza sentimenta ali fino zrnata klasifikacija upravičijo uporabo mistral-large-latest. Nasprotno pa preprosta naloga, obdelana v velikem obsegu, še vedno odlično teče na mistral-small-latest. Opazi dodatek temperature=0; ta parameter bomo podrobneje obravnavali spodaj.
# Produkcija — zmogljiv model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Največja ponovljivost
)
Končno razmisli o cevovodih z visoko frekvenco, kjer je zakasnitev glavna omejitev. Če obdeluješ na tisoče zahtev na minuto – kot je klasifikacija vstopnic ali razvrščanje e-pošte – ministral-8b-latest ponuja najboljše razmerje med zakasnitvijo in kakovostjo. Omejitev maxTokens prepreči, da bi se model predolgo zadrževal pri pretirano dolgih odgovorih.
// TypeScript — cevovod z visoko frekvenco
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Omejitev za hitrost
});
Parameter temperature
Ena točka si zasluži tvojo pozornost: temperature vpliva na variabilnost izhoda tudi v strukturiranem načinu. Pri vrednosti 0 je izhod determinističen. To je priporočena nastavitev za produkcijo in povsod tam, kjer je pomembna ponovljivost – dva zagona na istem dokumentu morata vrniti isti zapis. Med 0.1 in 0.3 vneseš rahlo variabilnost, kar je uporabno le, če želiš različne formulacije v poljih s prostim besedilom, kot je povzetek. Od 0.7 naprej postane variabilnost močna in model lahko ustvari nedosledne vrednosti. Pri strukturiranih izhodih se temu izogni.
Programsko preverjanje združljivosti
V produkciji se namesto zanašanja na statični seznam odzovi na napako, ki jo vrne SDK, ko model ne more izpolniti zahteve:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikator prebran iz tvoje konfiguracije
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model ni združljiv: {e}")
Ta navada ostaja dragocena skozi čas. Mistral redno izdaja nove modele, podpora za strukturirane izhode pa je postala standard, ki ga nove generacije sistematično podpirajo. Preden v konfiguraciji določiš identifikator, preveri uradno dokumentacijo za trenutni seznam.
Ključne ugotovitve
- Trenutni modeli Mistral podpirajo strukturirane izhode; zgodovinska izjema,
codestral-mamba, je bila umaknjena junija 2025 - V produkciji uporabi
temperature: 0za ponovljive izhode - Model izberi glede na svoje potrebe:
mistral-largeza kakovost,ministral-8bza hitrost - Ob pristopa (način JSON in prilagojeno) podpirajo isti modeli