Podržani modeli i kompatibilnost
Na ovoj stranici
Kompatibilnost Mistral modela
Neki Mistral modeli ne obrađuju strukturirane izlaze na isti način. Prije nego što napišeš ijednu liniju koda, provjeri podržava li tvoj ciljani model odabrani pristup. Ova tridesetosekundna provjera štedi ti susret s neshvatljivom API pogreškom na kraju razvoja.
Evo dobre vijesti u jednoj rečenici: gotovo svi Mistral modeli podržavaju strukturirane izlaze, kako u JSON načinu rada tako i za prilagođene strukturirane izlaze. Jedina iznimka, codestral-mamba, povučena je iz upotrebe u lipnju 2025.
Osnovni modeli
Ovo su najčešće korišteni modeli i njihov status kompatibilnosti (stanje u travnju 2026.):
| Model | Kompatibilnost | Tipičan slučaj upotrebe |
|---|---|---|
mistral-large-latest | Puna podrška (JSON Mode + Custom) | Složeni zadaci koji zahtijevaju pouzdane strukturirane izlaze |
mistral-medium-latest | Puna podrška | Najbolji omjer performansi i troškova za produkcijske pipelinee |
mistral-small-latest | Puna podrška | Jednostavni zadaci (klasifikacija, osnovno izvlačenje entiteta) s ograničenim budžetom |
ministral-8b-latest | Puna podrška | Lagana izvlačenja uz minimalnu latenciju |
ministral-3b-latest | Puna podrška | Najlakša opcija kada brzina ima prednost nad složenošću |
codestral-latest | Puna podrška | Optimiziran za kod, ali radi i za zadatke koji nisu vezani uz kod |
mistral-embed | Nije primjenjivo | Model za ugradnju (embedding); ne generira tekst |
Općenamjenski modeli Large, Medium i Small pokrivaju većinu potreba, dok obitelj Ministral rješava ograničenja latencije.
Odabir pravog modela
Tijekom izrade prototipa koristi mistral-small-latest ili ministral-8b-latest. Brzi su, jeftini i više nego dovoljni da potvrdiš kako tvoja shema funkcionira i da tvoj prompt govori ono što misliš da govori. Plaćanje najmoćnijeg modela samo da bi se otkrilo kako je polje pogrešno nazvano predstavlja gubitak.
# Izrada prototipa — lagani model
response = client.chat.parse(
model="ministral-8b-latest",
messages=messages,
response_format=MonSchema
)
U produkciji kriteriji se mijenjaju. Izvlačenje više polja, nijansirana analiza sentimenta ili fino granulirana klasifikacija opravdavaju upotrebu mistral-large-latest. S druge strane, jednostavan zadatak koji se obrađuje u velikom obujmu i dalje dobro radi na mistral-small-latest. Obrati pozornost na dodatak temperature=0 ovdje; taj ćemo parametar detaljno obraditi u nastavku.
# Produkcija — moćni model
response = client.chat.parse(
model="mistral-large-latest",
messages=messages,
response_format=MonSchema,
temperature=0 # Maksimalna reproducibilnost
)
Konačno, razmotri pipelinee visoke učestalosti gdje je latencija dominantno ograničenje. Ako obrađuješ tisuće zahtjeva u minuti – poput klasifikacije tiketa ili trijaže e-pošte – ministral-8b-latest nudi najbolji omjer latencije i kvalitete. Ograničavanje maxTokens sprječava model da se zadrži na predugim odgovorima.
// TypeScript — pipeline visoke učestalosti
const response = await client.chat.parse({
model: "ministral-8b-latest",
messages,
responseFormat: MonSchema,
maxTokens: 128, // Ograničenje radi brzine
});
Parametar temperature
Jedna točka zaslužuje tvoju pozornost: temperature utječe na varijabilnost izlaza čak i u strukturiranom načinu rada. Pri vrijednosti 0, izlaz je deterministički. Ovo je preporučena postavka za produkciju i svugdje gdje je bitna reproducibilnost – dva pokretanja na istom dokumentu moraju dati isti zapis. Između 0.1 i 0.3 uvodiš blagu varijabilnost, što je korisno samo ako želiš različite formulacije u poljima slobodnog teksta poput sažetka. Od 0.7 naviše, varijabilnost postaje jaka i model može proizvesti nedosljedne vrijednosti. Izbjegavaj ovo kod strukturiranih izlaza.
Programsko provjeravanje kompatibilnosti
U produkciji, umjesto oslanjanja na statički popis, uhvati pogrešku koju vraća SDK kada model ne može ispuniti zahtjev:
from mistralai.client import Mistral
from mistralai.client.errors import SDKError
client = Mistral(api_key=api_key)
try:
response = client.chat.parse(
model=modele, # identifikator učitan iz tvoje konfiguracije
messages=[{"role": "user", "content": "Test"}],
response_format=MonSchema
)
except SDKError as e:
print(f"Model nije kompatibilan: {e}")
Ova navika ostaje vrijedna tijekom vremena. Mistral redovito objavljuje nove modele, a podrška za strukturirane izlaze postala je standard koji nove generacije sustavno podržavaju. Prije nego što fiksiraš identifikator u svojoj konfiguraciji, provjeri službenu dokumentaciju za trenutni popis.
Ključne točke
- Trenutni Mistral modeli podržavaju strukturirane izlaze; povijesna iznimka,
codestral-mamba, povučena je u lipnju 2025. - Koristi
temperature: 0u produkciji za reproducibilne izlaze - Odaberi model prema svojim potrebama:
mistral-largeza kvalitetu,ministral-8bza brzinu - Oba pristupa (JSON Mode i Custom) podržana su od strane istih modela