Unterstützte Modelle und Kompatibilität
Auf dieser Seite
Kompatibilität mit Mistral-Modellen
Nicht alle Mistral-Modelle verarbeiten strukturierte Ausgaben auf dieselbe Weise. Bevor Sie eine einzige Zeile Code schreiben, überprüfen Sie, ob Ihr Zielmodell die gewählte Methode unterstützt. Diese dreißigsekündige Prüfung spart Ihnen einen unverständlichen API-Fehler am Ende der Entwicklung.
Die gute Nachricht in einem Satz: fast alle Mistral-Modelle unterstützen strukturierte Ausgaben, sowohl im JSON-Modus als auch bei benutzerdefinierten strukturierten Ausgaben. Die einzige Ausnahme, codestral-mamba, wurde von Mistral im Juni 2025 eingestellt.
Kernmodelle
Hier sind die am häufigsten verwendeten Modelle und ihr Kompatibilitätsstatus (Stand April 2026):
| Modell | Kompatibilität | Typischer Anwendungsbereich |
|---|---|---|
mistral-large-latest | Vollständige Unterstützung (JSON-Modus + Benutzertyp) | Komplexe Aufgaben, die zuverlässige strukturierte Ausgaben erfordern |
mistral-medium-latest | Vollständige Unterstützung | Beste Leistung/Kosten-Relation für Produktionspipelines |
mistral-small-latest | Vollständige Unterstützung | Einfache Aufgaben (Klassifizierung, grundlegende Entitätsextraktion) bei begrenztem Budget |
ministral-8b-latest | Vollständige Unterstützung | Leichte Extraktionen mit minimaler Latenz |
ministral-3b-latest | Vollständige Unterstützung | Die leichteste Option, wenn Geschwindigkeit vor Komplexität geht |
codestral-latest | Vollständige Unterstützung | Optimiert für Code, funktioniert aber auch für nicht-codetechnische Aufgaben |
mistral-embed | Nicht anwendbar | Embedding-Modell; generiert keinen Text |
Die allgemeinen Large-, Medium- und Small-Modelle decken die meisten Bedürfnisse ab, während die Ministral-Familie Latenzbeschränkungen bewältigt.
Das richtige Modell auswählen
Während der Prototypenentwicklung verwenden Sie mistral-small-latest oder ministral-8b-latest. Sie sind schnell, kostengünstig und mehr als ausreichend, um zu validieren, dass Ihr Schema standhält und Ihr Prompt sagt, was Sie denken, dass es sagt. Für das teuerste Modell zu bezahlen, nur um festzustellen, dass ein Feld falsch benannt war, ist Verschwendung.
# Prototypenentwicklung — leichtes Modell
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Die Produktionsumgebung ändert die Kriterien. Mehrfeld-Extraktion, differenzierte Sentiment-Analyse oder feingranulare Klassifizierung rechtfertigen mistral-large-latest. Umgekehrt läuft eine einfache Aufgabe bei hohem Volumen weiterhin gut auf mistral-small-latest. Beachten Sie hier die Hinzufügung von temperature=0; wir werden diesen Parameter im Detail unten behandeln.
# Produktion — leistungsstarkes Modell
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maximale Reproduzierbarkeit
)
Schließlich sollten Sie Hochfrequenzpipelines in Betracht ziehen, bei denen Latenz die dominierende Beschränkung ist. Wenn Sie Tausende von Anfragen pro Minute verarbeiten – wie z. B. Ticket-Klassifizierung oder E-Mail-Triage – bietet ministral-8b-latest das beste Verhältnis von Latenz zu Qualität. Das Begrenzen von maxTokens verhindert, dass das Modell bei überlangen Antworten verweilt.
// TypeScript — Hochfrequenzpipeline
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Begrenzung für Geschwindigkeit
});
Der temperature-Parameter
Ein Punkt verdient Ihre Aufmerksamkeit: temperature beeinflusst die Ausgabevariabilität auch im strukturierten Modus. Bei 0 ist die Ausgabe deterministisch. Dies ist die empfohlene Einstellung für die Produktion und überall, wo Reproduzierbarkeit wichtig ist – zwei Durchläufe auf demselben Dokument müssen denselben Datensatz ergeben. Zwischen 0,1 und 0,3 führen Sie eine geringe Variabilität ein, was nur dann nützlich ist, wenn Sie in Freitextfeldern wie einer Zusammenfassung unterschiedliche Formulierungen wünschen. Ab 0,7 wird die Variabilität stark, und das Modell kann inkonsistente Werte erzeugen. Vermeiden Sie dies bei strukturierten Ausgaben.
Kompatibilität programmatisch prüfen
In der Produktion verlassen Sie sich nicht auf eine statische Liste, sondern fangen Sie den Fehler ab, den das SDK zurückgibt, wenn ein Modell die Anfrage nicht erfüllen kann:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # Identifier, der aus Ihrer Konfiguration gelesen wird
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Modell nicht kompatibel: {e}")
Diese Gewohnheit bleibt im Laufe der Zeit wertvoll. Mistral veröffentlicht regelmäßig neue Modelle, und die Unterstützung für strukturierte Ausgaben ist zu einem Standard geworden, den neue Generationen systematisch unterstützen. Konsultieren Sie die offizielle Dokumentation für die aktuelle Liste, bevor Sie einen Identifier in Ihrer Konfiguration festlegen.
Kernaussagen
- Aktuelle Mistral-Modelle unterstützen strukturierte Ausgaben; die historische Ausnahme,
codestral-mamba, wurde im Juni 2025 eingestellt - Verwenden Sie
temperature: 0in der Produktion für reproduzierbare Ausgaben - Wählen Sie Ihr Modell basierend auf Ihren Bedürfnissen:
mistral-largefür Qualität,ministral-8bfür Geschwindigkeit - Beide Ansätze (JSON-Modus und Benutzertyp) werden von denselben Modellen unterstützt