Ondersteunde modellen en compatibiliteit
Op deze pagina
Compatibiliteit van Mistral-modellen
Niet alle Mistral-modellen gaan op dezelfde manier om met gestructureerde uitvoer. Voordat u ook maar één regel code schrijft, verifieert u of uw doelmodel de gekozen aanpak ondersteunt. Deze controle van dertig seconden bespaart u een onbegrijpelijke API-fout aan het einde van de ontwikkelcyclus.
Het goede nieuws in één zin: bijna alle Mistral-modellen ondersteunen gestructureerde uitvoer, zowel in JSON-modus als met aangepaste gestructureerde uitvoer. De enige uitzondering, codestral-mamba, is in juni 2025 door Mistral uitgefaseerd.
Kernmodellen
Hieronder vindt u de meest gebruikte modellen en hun compatibiliteitsstatus (peildatum april 2026):
| Model | Compatibiliteit | Typisch gebruiksscenario |
|---|---|---|
mistral-large-latest | Volledige ondersteuning (JSON-modus + Aangepast) | Complexe taken die betrouwbare gestructureerde uitvoer vereisen |
mistral-medium-latest | Volledige ondersteuning | Beste balans tussen prestaties en kosten voor productiepijplijnen |
mistral-small-latest | Volledige ondersteuning | Eenvoudige taken (classificatie, basis entity-extractie) met een beperkt budget |
ministral-8b-latest | Volledige ondersteuning | Lichtgewicht extracties met minimale latentie |
ministral-3b-latest | Volledige ondersteuning | De lichtste optie wanneer snelheid belangrijker is dan complexiteit |
codestral-latest | Volledige ondersteuning | Geoptimaliseerd voor code, maar werkt ook voor niet-code taken |
mistral-embed | Niet van toepassing | Embedding-model; genereert geen tekst |
De algemene modellen Large, Medium en Small dekken de meeste behoeften, terwijl de Ministral-familie zich richt op beperkingen qua latentie.
Het juiste model kiezen
Gebruik tijdens het prototypen mistral-small-latest of ministral-8b-latest. Ze zijn snel, goedkoop en meer dan voldoende om te valideren of uw schema standhoudt en uw prompt doet wat u denkt dat het doet. Betalen voor het krachtigste model om vervolgens te ontdekken dat een veld verkeerd is genoemd, is zonde van het geld.
# Prototyping — lightweight model
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
In productie veranderen de criteria. Extractie van meerdere velden, genuanceerde sentimentanalyse of fijnmazige classificatie rechtvaardigen het gebruik van mistral-large-latest. Omgekeerd draait een eenvoudige taak die in hoge volumes wordt verwerkt, nog steeds prima op mistral-small-latest. Let op de toevoeging van temperature=0 hier; we behandelen die parameter hieronder in detail.
# Production — powerful model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maximum reproducibility
)
Houd tot slot rekening met pijplijnen met een hoge frequentie waar latentie de doorslaggevende beperking is. Als u duizenden verzoeken per minuut verwerkt, zoals bij ticketclassificatie of e-mailtriage, biedt ministral-8b-latest de beste verhouding tussen latentie en kwaliteit. Het begrenzen van maxTokens voorkomt dat het model te lang blijft hangen op overly lange antwoorden.
// TypeScript — high-frequency pipeline
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Limit for speed
});
De parameter temperature
Eén punt verdient uw aandacht: temperature beïnvloedt de variabiliteit van de uitvoer, zelfs in de gestructureerde modus. Bij 0 is de uitvoer deterministisch. Dit is de aanbevolen instelling voor productie en overal waar reproduceerbaarheid belangrijk is; twee runs op hetzelfde document moeten hetzelfde record opleveren. Tussen 0.1 en 0.3 introduceert u lichte variabiliteit, wat alleen nuttig is als u verschillende formuleringen wilt in vrije-tekstvelden zoals een samenvatting. Vanaf 0.7 wordt de variabiliteit sterk en kan het model inconsistente waarden produceren. Vermijd dit bij gestructureerde uitvoer.
Programmatisch controleren van compatibiliteit
Vang in productie, in plaats van te vertrouwen op een statische lijst, de fout op die door de SDK wordt teruggegeven wanneer een model het verzoek niet kan uitvoeren:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifier read from your configuration
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model not compatible: {e}")
Deze gewoonte blijft waardevol naarmate de tijd verstrijkt. Mistral brengt regelmatig nieuwe modellen uit en ondersteuning voor gestructureerde uitvoer is een standaard geworden die nieuwe generaties systematisch ondersteunen. Raadpleeg de officiële documentatie voor de huidige lijst voordat u een identifier in uw configuratie vastlegt.
Belangrijkste punten
- Huidige Mistral-modellen ondersteunen gestructureerde uitvoer; de historische uitzondering,
codestral-mamba, is in juni 2025 uitgefaseerd - Gebruik
temperature: 0in productie voor reproduceerbare uitvoer - Kies uw model op basis van uw behoeften:
mistral-largevoor kwaliteit,ministral-8bvoor snelheid - Beide benaderingen (JSON-modus en Aangepast) worden door dezelfde modellen ondersteund