Zum Hauptinhalt springen
Lektion 3 von 12 · Strukturierte Ausgabe: JSON und Schemata

Unterstützte Modelle und Kompatibilität

Lektion 3 von 12 Aktualisiert am 2. November 2026 Entwickler
Auf dieser Seite
  1. Kompatibilität mit Mistral-Modellen
  2. Kernmodelle
  3. Das richtige Modell auswählen
  4. Der temperature-Parameter
  5. Kompatibilität programmatisch prüfen
  6. Kernaussagen

Kompatibilität mit Mistral-Modellen

Nicht alle Mistral-Modelle verarbeiten strukturierte Ausgaben auf dieselbe Weise. Bevor Sie eine einzige Zeile Code schreiben, überprüfen Sie, ob Ihr Zielmodell die gewählte Methode unterstützt. Diese dreißigsekündige Prüfung spart Ihnen einen unverständlichen API-Fehler am Ende der Entwicklung.

Die gute Nachricht in einem Satz: fast alle Mistral-Modelle unterstützen strukturierte Ausgaben, sowohl im JSON-Modus als auch bei benutzerdefinierten strukturierten Ausgaben. Die einzige Ausnahme, codestral-mamba, wurde von Mistral im Juni 2025 eingestellt.

Kernmodelle

Hier sind die am häufigsten verwendeten Modelle und ihr Kompatibilitätsstatus (Stand April 2026):

ModellKompatibilitätTypischer Anwendungsbereich
mistral-large-latestVollständige Unterstützung (JSON-Modus + Benutzertyp)Komplexe Aufgaben, die zuverlässige strukturierte Ausgaben erfordern
mistral-medium-latestVollständige UnterstützungBeste Leistung/Kosten-Relation für Produktionspipelines
mistral-small-latestVollständige UnterstützungEinfache Aufgaben (Klassifizierung, grundlegende Entitätsextraktion) bei begrenztem Budget
ministral-8b-latestVollständige UnterstützungLeichte Extraktionen mit minimaler Latenz
ministral-3b-latestVollständige UnterstützungDie leichteste Option, wenn Geschwindigkeit vor Komplexität geht
codestral-latestVollständige UnterstützungOptimiert für Code, funktioniert aber auch für nicht-codetechnische Aufgaben
mistral-embedNicht anwendbarEmbedding-Modell; generiert keinen Text

Die allgemeinen Large-, Medium- und Small-Modelle decken die meisten Bedürfnisse ab, während die Ministral-Familie Latenzbeschränkungen bewältigt.

Das richtige Modell auswählen

Während der Prototypenentwicklung verwenden Sie mistral-small-latest oder ministral-8b-latest. Sie sind schnell, kostengünstig und mehr als ausreichend, um zu validieren, dass Ihr Schema standhält und Ihr Prompt sagt, was Sie denken, dass es sagt. Für das teuerste Modell zu bezahlen, nur um festzustellen, dass ein Feld falsch benannt war, ist Verschwendung.

# Prototypenentwicklung — leichtes Modell
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

Die Produktionsumgebung ändert die Kriterien. Mehrfeld-Extraktion, differenzierte Sentiment-Analyse oder feingranulare Klassifizierung rechtfertigen mistral-large-latest. Umgekehrt läuft eine einfache Aufgabe bei hohem Volumen weiterhin gut auf mistral-small-latest. Beachten Sie hier die Hinzufügung von temperature=0; wir werden diesen Parameter im Detail unten behandeln.

# Produktion — leistungsstarkes Modell
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maximale Reproduzierbarkeit
)

Schließlich sollten Sie Hochfrequenzpipelines in Betracht ziehen, bei denen Latenz die dominierende Beschränkung ist. Wenn Sie Tausende von Anfragen pro Minute verarbeiten – wie z. B. Ticket-Klassifizierung oder E-Mail-Triage – bietet ministral-8b-latest das beste Verhältnis von Latenz zu Qualität. Das Begrenzen von maxTokens verhindert, dass das Modell bei überlangen Antworten verweilt.

// TypeScript — Hochfrequenzpipeline
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Begrenzung für Geschwindigkeit
});

Der temperature-Parameter

Ein Punkt verdient Ihre Aufmerksamkeit: temperature beeinflusst die Ausgabevariabilität auch im strukturierten Modus. Bei 0 ist die Ausgabe deterministisch. Dies ist die empfohlene Einstellung für die Produktion und überall, wo Reproduzierbarkeit wichtig ist – zwei Durchläufe auf demselben Dokument müssen denselben Datensatz ergeben. Zwischen 0,1 und 0,3 führen Sie eine geringe Variabilität ein, was nur dann nützlich ist, wenn Sie in Freitextfeldern wie einer Zusammenfassung unterschiedliche Formulierungen wünschen. Ab 0,7 wird die Variabilität stark, und das Modell kann inkonsistente Werte erzeugen. Vermeiden Sie dies bei strukturierten Ausgaben.

Kompatibilität programmatisch prüfen

In der Produktion verlassen Sie sich nicht auf eine statische Liste, sondern fangen Sie den Fehler ab, den das SDK zurückgibt, wenn ein Modell die Anfrage nicht erfüllen kann:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # Identifier, der aus Ihrer Konfiguration gelesen wird
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Modell nicht kompatibel: {e}")

Diese Gewohnheit bleibt im Laufe der Zeit wertvoll. Mistral veröffentlicht regelmäßig neue Modelle, und die Unterstützung für strukturierte Ausgaben ist zu einem Standard geworden, den neue Generationen systematisch unterstützen. Konsultieren Sie die offizielle Dokumentation für die aktuelle Liste, bevor Sie einen Identifier in Ihrer Konfiguration festlegen.

Kernaussagen

  • Aktuelle Mistral-Modelle unterstützen strukturierte Ausgaben; die historische Ausnahme, codestral-mamba, wurde im Juni 2025 eingestellt
  • Verwenden Sie temperature: 0 in der Produktion für reproduzierbare Ausgaben
  • Wählen Sie Ihr Modell basierend auf Ihren Bedürfnissen: mistral-large für Qualität, ministral-8b für Geschwindigkeit
  • Beide Ansätze (JSON-Modus und Benutzertyp) werden von denselben Modellen unterstützt