Understøttede modeller og kompatibilitet
På denne side
Kompatibilitet med Mistral-modeller
Ikke alle Mistral-modeller håndterer strukturerede output på samme måde. Før du skriver en eneste linje kode, skal du verificere, at din valgte model understøtter den tilgang, du har valgt. Dette tjek på tredive sekunder sparer dig for at støde på en uforståelig API-fejl helt tilbage i udviklingsfasen.
Her er de gode nyheder i én sætning: næsten alle Mistral-modeller understøtter strukturerede output, både i JSON-tilstand og med brugerdefinerede strukturerede output. Den eneste undtagelse, codestral-mamba, blev udfaset af Mistral i juni 2025.
Kernemodeller
Her er de mest anvendte modeller og deres kompatibilitetsstatus (pr. april 2026):
| Model | Kompatibilitet | Typisk brugssag |
|---|---|---|
mistral-large-latest | Fuld understøttelse (JSON-tilstand + Brugerdefineret) | Komplekse opgaver, der kræver pålidelige strukturerede output |
mistral-medium-latest | Fuld understøttelse | Bedste balance mellem ydeevne og omkostninger til produktionspipelines |
mistral-small-latest | Fuld understøttelse | Enkle opgaver (klassificering, grundlæggende enhedsekstraktion) med begrænset budget |
ministral-8b-latest | Fuld understøttelse | Letvægts-ekstraktioner med minimal ventetid |
ministral-3b-latest | Fuld understøttelse | Det letteste valg, når hastighed vægter højere end kompleksitet |
codestral-latest | Fuld understøttelse | Optimeret til kode, men fungerer også til ikke-kode relaterede opgaver |
mistral-embed | Ikke relevant | Indlejringsmodel; genererer ikke tekst |
De generelle Large-, Medium- og Small-modeller dækker de fleste behov, mens Ministral-familien håndterer begrænsninger relateret til ventetid.
Valg af den rigtige model
Under prototyping bør du bruge mistral-small-latest eller ministral-8b-latest. De er hurtige, billige og mere end tilstrækkelige til at validere, at dit skema holder, og at din prompt siger det, du tror, den siger. Det er spild af penge at betale for den mest kraftfulde model, kun for at opdage, at et felt er navngivet forkert.
# Prototyping — letvægtsmodel
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
I produktion ændres kriterierne. Ekstraktion af flere felter, nuanceret sentimenanalyse eller finkornet klassificering berettiger brugen af mistral-large-latest. Omvendt kører en simpel opgave, der behandles i stort volumen, stadig fint på mistral-small-latest. Bemærk tilføjelsen af temperature=0 her; vi vil dække denne parameter i detaljer nedenfor.
# Produktion — kraftfuld model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksimal reproducerbarhed
)
Overvej endelig pipelines med høj frekvens, hvor ventetid er den dominerende begrænsning. Hvis du behandler tusindvis af anmodninger i minuttet – såsom billetklassificering eller e-mail-sortering – tilbyder ministral-8b-latest det bedste forhold mellem ventetid og kvalitet. Begrænsning af maxTokens forhindrer modellen i at bruge for lang tid på alt for lange svar.
// TypeScript — pipeline med høj frekvens
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Grænse for hastighed
});
Parameteren temperature
Ét punkt fortjener din opmærksomhed: temperature påvirker variabiliteten i outputtet, selv i struktureret tilstand. Ved 0 er outputtet deterministisk. Dette er den anbefalede indstilling til produktion og alle steder, hvor reproducerbarhed er vigtig – to kørsler på samme dokument skal give den samme post. Mellem 0.1 og 0.3 introducerer du en let variabilitet, hvilket kun er nyttigt, hvis du ønsker forskellige formuleringer i frit tekstfelt som f.eks. et resumé. Fra 0.7 og opefter bliver variabiliteten stærk, og modellen kan producere inkonsistente værdier. Undgå dette ved strukturerede output.
Programmatisk kontrol af kompatibilitet
I produktionen bør du i stedet for at stole på en statisk liste fange den fejl, som SDK’en returnerer, når en model ikke kan opfylde anmodningen:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikator læst fra din konfiguration
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model ikke kompatibel: {e}")
Denne vane forbliver værdifuld over tid. Mistral udgiver regelmæssigt nye modeller, og understøttelse af strukturerede output er blevet en standard, som nye generationer understøtter systematisk. Konsulter den officielle dokumentation for den aktuelle liste, før du låser en identifikator fast i din konfiguration.
Vigtige pointer
- Nuværende Mistral-modeller understøtter strukturerede output; den historiske undtagelse,
codestral-mamba, blev udfaset i juni 2025 - Brug
temperature: 0i produktion for reproducerbare output - Vælg din model ud fra dine behov:
mistral-largetil kvalitet,ministral-8btil hastighed - Begge tilgange (JSON-tilstand og Brugerdefineret) understøttes af de samme modeller