Podporované modely a kompatibilita
Na tejto strane
Kompatibilita modelov Mistral
Nie všetky modely Mistral spracovávajú štruktúrované výstupy rovnakým spôsobom. Skôr než napíšeš prvý riadok kódu, over si, či tvoj cieľový model podporuje zvolený prístup. Táto tridsaťsekundová kontrola ťa ušetrí od nepochopiteľnej chyby API až na konci vývoja.
Tu je dobrá správa v jednej vete: takmer všetky modely Mistral podporujú štruktúrované výstupy, a to ako v režime JSON, tak aj pri vlastných štruktúrovaných výstupoch. Jedinou výnimkou bol codestral-mamba, ktorý spoločnosť Mistral vyradila v júni 2025.
Základné modely
Tu sú najpoužívanejšie modely a ich stav kompatibility (k aprílu 2026):
| Model | Kompatibilita | Typické použitie |
|---|---|---|
mistral-large-latest | Plná podpora (režim JSON + vlastné) | Zložité úlohy vyžadujúce spoľahlivé štruktúrované výstupy |
mistral-medium-latest | Plná podpora | Najlepší pomer výkonu a nákladov pre produkčné pipeline |
mistral-small-latest | Plná podpora | Jednoduché úlohy (klasifikácia, základná extrakcia entít) s obmedzeným rozpočtom |
ministral-8b-latest | Plná podpora | Ľahké extrakcie s minimálnou latenciou |
ministral-3b-latest | Plná podpora | Najľahšia možnosť, keď je rýchlosť dôležitejšia ako zložitosť |
codestral-latest | Plná podpora | Optimalizované pre kód, ale funguje aj pre úlohy nesúvisiace s kódom |
mistral-embed | Neuplatňuje sa | Model na vytváranie vektorových reprezentácií; negeneruje text |
Všeobecné modely Large, Medium a Small pokrývajú väčšinu potrieb, zatiaľ čo rodina Ministral rieši obmedzenia týkajúce sa latencie.
Výber správneho modelu
Počas prototypovania používaj mistral-small-latest alebo ministral-8b-latest. Sú rýchle, lacné a viac než dostatočné na overenie, či tvoja schéma obstojí a či tvoj prompt hovorí presne to, čo si myslíš, že hovorí. Platiť za najvýkonnejší model len preto, aby si zistil, že pole bolo pomýlene nazvané, je plytvanie.
# Prototypovanie — ľahký model
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
V produkcii sa kritériá menia. Extrakcia viacerých polí, nuansová analýza sentimentu alebo jemná klasifikácia odôvodňujú použitie mistral-large-latest. Naopak, jednoduchá úloha spracovávaná vo veľkom objeme stále dobre funguje na mistral-small-latest. Všimni si pridanie parametra temperature=0; týmto parametrom sa budeme podrobnejšie zaoberať nižšie.
# Produkcia — výkonný model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maximálna reprodukovateľnosť
)
Nakoniec zváž vysokofrekvenčné pipeline, kde je dominantným obmedzením latencia. Ak spracovávaš tisíce požiadaviek za minútu – napríklad klasifikáciu ticketov alebo triáž e-mailov – ministral-8b-latest ponúka najlepší pomer latencie a kvality. Obmedzenie maxTokens zabráni modelu zdržiavať sa príliš dlhými odpoveďami.
// TypeScript — vysokofrekvenčný pipeline
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Limit pre rýchlosť
});
Parameter temperature
Jeden bod si zaslúži tvoju pozornosť: temperature ovplyvňuje variabilitu výstupu aj v štruktúrovanom režime. Pri hodnote 0 je výstup deterministický. Toto je odporúčané nastavenie pre produkciu a všade tam, kde záleží na reprodukovateľnosti – dva behy na tom istom dokumente musia vyprodukovať ten istý záznam. Medzi 0.1 a 0.3 zavádzaš miernu variabilitu, čo je užitočné len vtedy, ak chceš rôzne formulácie v textových poliach, ako je napríklad zhrnutie. Od hodnoty 0.7 vyššie sa variabilita stáva silnou a model môže produkovať nekonzistentné hodnoty. Pri štruktúrovaných výstupoch sa tomu vyhni.
Programové overenie kompatibility
V produkcii sa nespoliehaj na statický zoznam, ale zachyť chybu vrátenú SDK, keď model nedokáže splniť požiadavku:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikátor načítaný z tvojej konfigurácie
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model nie je kompatibilný: {e}")
Tento zvyk zostáva cenný aj v čase. Mistral pravidelne vydáva nové modely a podpora štruktúrovaných výstupov sa stala štandardom, ktorý nové generácie podporujú systematicky. Pred tým, než v konfigurácii fixuješ identifikátor, konzultuj aktuálny zoznam v oficiálnej dokumentácii.
Kľúčové poznatky
- Aktuálne modely Mistral podporujú štruktúrované výstupy; historická výnimka,
codestral-mamba, bola vyradená v júni 2025 - V produkcii používaj
temperature: 0pre reprodukovateľné výstupy - Vyber si model podľa svojich potrieb:
mistral-largepre kvalitu,ministral-8bpre rýchlosť - Oba prístupy (režim JSON aj vlastné štruktúrované výstupy) podporujú tie isté modely