Modeller som stöds och kompatibilitet
På denna sida
Kompatibilitet för Mistral-modeller
Inte alla Mistral-modeller hanterar strukturerade utdata på samma sätt. Innan du skriver en enda rad kod måste du verifiera att din målmodell stöder den metod du har valt. Denna kontroll på trettio sekunder sparar dig från att stöta på ett obegripligt API-fel i slutet av utvecklingen.
Här är de goda nyheterna i en mening: nästan alla Mistral-modeller stöder strukturerade utdata, både i JSON-läge och med anpassade strukturerade utdata. Det enda undantaget, codestral-mamba, togs ur bruk av Mistral i juni 2025.
Kärnmodeller
Här är de vanligaste modellerna och deras kompatibilitetsstatus (från och med april 2026):
| Modell | Kompatibilitet | Typiskt användningsområde |
|---|---|---|
mistral-large-latest | Fullt stöd (JSON-läge + Anpassat) | Komplexa uppgifter som kräver tillförlitliga strukturerade utdata |
mistral-medium-latest | Fullt stöd | Bästa balans mellan prestanda och kostnad för produktionsflöden |
mistral-small-latest | Fullt stöd | Enkla uppgifter (klassificering, grundläggande entitetsutvinning) med begränsad budget |
ministral-8b-latest | Fullt stöd | Lättviktig utvinning med minimal latens |
ministral-3b-latest | Fullt stöd | Det lättaste alternativet när hastighet väger tyngre än komplexitet |
codestral-latest | Fullt stöd | Optimerad för kod, men fungerar även för icke-kodrelaterade uppgifter |
mistral-embed | Ej tillämpligt | Inbäddningsmodell; genererar ingen text |
De allmänna modellerna Large, Medium och Small täcker de flesta behov, medan Ministral-familjen hanterar krav på låg latens.
Välja rätt modell
Under prototypfasen bör du använda mistral-small-latest eller ministral-8b-latest. De är snabba, billiga och mer än tillräckliga för att validera att ditt schema håller och att din prompt säger det du tror att den säger. Att betala för den kraftfullaste modellen bara för att upptäcka att ett fält har fel namn är slöseri.
# Prototyp — lättviktig modell
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
I produktion ändras kriterierna. Utvinning av flera fält, nyanserad sentimentanalys eller finmaskig klassificering motiverar användningen av mistral-large-latest. Å andra sidan fungerar en enkel uppgift som bearbetas i hög volym fortfarande utmärkt på mistral-small-latest. Notera tillägget av temperature=0 här; vi kommer att gå igenom den parametern i detalj nedan.
# Produktion — kraftfull modell
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maximal reproducerbarhet
)
Tänk slutligen på flöden med hög frekvens där latens är den dominerande begränsningen. Om du bearbetar tusentals förfrågningar per minut – till exempel för ticket-klassificering eller e-postsortering – erbjuder ministral-8b-latest bäst förhållande mellan latens och kvalitet. Att sätta ett tak för maxTokens förhindrar att modellen dröjer sig kvar vid alltför långa svar.
// TypeScript — flöde med hög frekvens
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Gräns för hastighet
});
Parametern temperature
En punkt förtjänar din uppmärksamhet: temperature påverkar variationen i utdata även i strukturerat läge. Vid 0 är utdata deterministisk. Detta är den rekommenderade inställningen för produktion och överallt där reproducerbarhet spelar roll – två körningar på samma dokument måste ge samma post. Mellan 0.1 och 0.3 introducerar du en liten variation, vilket bara är användbart om du vill ha olika formuleringar i fritextfält som en sammanfattning. Från 0.7 och uppåt blir variationen stark, och modellen kan producera inkonsekventa värden. Undvik detta vid strukturerade utdata.
Kontrollera kompatibilitet programmatiskt
I produktion, istället för att förlita dig på en statisk lista, fånga felet som returneras av SDK:n när en modell inte kan uppfylla begäran:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifierare läst från din konfiguration
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Modellen är inte kompatibel: {e}")
Denna vana förblir värdefull över tid. Mistral släpper regelbundet nya modeller, och stöd för strukturerade utdata har blivit en standard som nya generationer stöder systematiskt. Konsultera den officiella dokumentationen för den aktuella listan innan du låser ett identifierare i din konfiguration.
Viktiga punkter
- Nuvarande Mistral-modeller stöder strukturerade utdata; det historiska undantaget,
codestral-mamba, togs ur bruk i juni 2025 - Använd
temperature: 0i produktion för reproducerbara utdata - Välj din modell baserat på dina behov:
mistral-largeför kvalitet,ministral-8bför hastighet - Båda metoderna (JSON-läge och Anpassat) stöds av samma modeller