Támogatott modellek és kompatibilitás
Ezen az oldalon
Mistral modell-kompatibilitás
Nem minden Mistral modell kezeli ugyanúgy a strukturált kimeneteket. Mielőtt egyetlen sor kódot is írnál, győződj meg arról, hogy a kiválasztott modelled támogatja a választott megközelítést. Ez a harminc másodperces ellenőrzés megkímél attól, hogy a fejlesztés végén érthetetlen API-hibába ütközz.
Íme a jó hír egy mondatban: szinte az összes Mistral modell támogatja a strukturált kimeneteket, mind JSON módban, mind egyéni strukturált kimenetek esetén. Az egyetlen kivétel, a codestral-mamba, amelyet a Mistral 2025 júniusában nyugdíjazott.
Alapmodellek
Íme a leggyakrabban használt modellek és kompatibilitási státuszuk (2026 áprilisi állapot szerint):
| Modell | Kompatibilitás | Tipikus használati eset |
|---|---|---|
mistral-large-latest | Teljes támogatás (JSON mód + Egyéni) | Komplex feladatok, amelyek megbízható strukturált kimenetet igényelnek |
mistral-medium-latest | Teljes támogatás | A legjobb teljesítmény/költség arány éles környezetben futó folyamatokhoz |
mistral-small-latest | Teljes támogatás | Egyszerű feladatok (osztályozás, alapvető entitáskinyerés) korlátozott költségvetés mellett |
ministral-8b-latest | Teljes támogatás | Könnyűsúlyú kinyerés minimális késleltetéssel |
ministral-3b-latest | Teljes támogatás | A legkönnyebb opció, amikor a sebesség fontosabb a komplexitásnál |
codestral-latest | Teljes támogatás | Kódra optimalizálva, de nem kódolási feladatokhoz is működik |
mistral-embed | Nem alkalmazható | Beágyazási modell; nem generál szöveget |
Az általános célú Large, Medium és Small modellek lefedik a legtöbb igényt, míg a Ministral család a késleltetési korlátokat kezeli.
A megfelelő modell kiválasztása
A prototípus-készítés során használd a mistral-small-latest vagy a ministral-8b-latest modelleket. Ezek gyorsak, olcsók, és több mint elegendőek annak validálásához, hogy a sémád megállja a helyét, és a promptod azt mondja, amit gondolsz. Pénzt kidobni a legerősebb modellre csak azért, hogy utólag kiderüljön: egy mező neve rossz, felesleges.
# Prototípus-készítés — könnyűsúlyú modell
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
Éles környezetben a kritériumok megváltoznak. Többmezős kinyerés, árnyalt szentiment-elemzés vagy finomhangolt osztályozás indokolttá teszi a mistral-large-latest használatát. Ezzel szemben egy nagy mennyiségben feldolgozott egyszerű feladat még mindig jól fut a mistral-small-latest modellen. Figyeld meg a temperature=0 hozzáadását itt; ezt a paramétert lentebb részletesen tárgyaljuk.
# Éles környezet — erőteljes modell
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maximális reprodukálhatóság
)
Végül vedd figyelembe azokat a nagy gyakoriságú folyamatokat, ahol a késleltetés a domináns korlát. Ha percenkénti ezres nagyságrendű kérést dolgozol fel – például jegyek osztályozása vagy e-mailek triázsolása –, a ministral-8b-latest kínálja a legjobb késleltetés/minőség arányt. A maxTokens korlátozása megakadályozza, hogy a modell túlságosan hosszú válaszoknál időzzön.
// TypeScript — nagy gyakoriságú folyamat
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Sebességkorlát
});
A temperature paraméter
Egy pontra különösen figyelj: a temperature befolyásolja a kimenet változékonyságát még strukturált módban is. 0 értéknél a kimenet determinisztikus. Ez az ajánlott beállítás éles környezetben és mindenhol, ahol a reprodukálhatóság számít – ugyanazon a dokumentumon két futtatásnak ugyanazt az rekordot kell eredményeznie. 0.1 és 0.3 között enyhe változékonyságot vezetsz be, ami csak akkor hasznos, ha különböző megfogalmazásokat szeretnél a szabad szöveges mezőkben, például egy összefoglalóban. 0.7-től felfelé a változékonyság erőssé válik, és a modell inkonzisztens értékeket produkálhat. Kerüld ezt strukturált kimenetek esetén.
Kompatibilitás programozott ellenőrzése
Éles környezetben, ahelyett, hogy statikus listára hagyatkoznál, kezeld le azt a hibát, amelyet az SDK ad vissza, amikor egy modell nem tudja teljesíteni a kérést:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # azonosító a konfigurációból olvasva
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Modell nem kompatibilis: {e}")
Ez a szokás idővel is értékes marad. A Mistral rendszeresen ad ki új modelleket, és a strukturált kimenetek támogatása olyan szabvánnyá vált, amelyet az új generációk szisztematikusan támogatnak. Mielőtt rögzítenél egy azonosítót a konfigurációdban, konzultálj a hivatalos dokumentációval a jelenlegi lista érdekében.
Főbb megállapítások
- A jelenlegi Mistral modellek támogatják a strukturált kimeneteket; a történelmi kivétel, a
codestral-mamba, 2025 júniusában nyugdíjazásra került - Használj
temperature: 0értéket éles környezetben a reprodukálható kimenetek érdekében - Igényeid alapján válassz modellt:
mistral-largea minőséghez,ministral-8ba sebességhez - Mindkét megközelítést (JSON mód és Egyéni) ugyanazok a modellek támogatják