Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Podržani modeli i kompatibilnost

Lekcija 3 od 12 Ažurirano 2. studenoga 2026. Programer
Na ovoj stranici
  1. Kompatibilnost Mistral modela
  2. Osnovni modeli
  3. Odabir pravog modela
  4. Parametar temperature
  5. Programsko provjeravanje kompatibilnosti
  6. Ključne točke

Kompatibilnost Mistral modela

Neki Mistral modeli ne obrađuju strukturirane izlaze na isti način. Prije nego što napišeš ijednu liniju koda, provjeri podržava li tvoj ciljani model odabrani pristup. Ova tridesetosekundna provjera štedi ti susret s neshvatljivom API pogreškom na kraju razvoja.

Evo dobre vijesti u jednoj rečenici: gotovo svi Mistral modeli podržavaju strukturirane izlaze, kako u JSON načinu rada tako i za prilagođene strukturirane izlaze. Jedina iznimka, codestral-mamba, povučena je iz upotrebe u lipnju 2025.

Osnovni modeli

Ovo su najčešće korišteni modeli i njihov status kompatibilnosti (stanje u travnju 2026.):

ModelKompatibilnostTipičan slučaj upotrebe
mistral-large-latestPuna podrška (JSON Mode + Custom)Složeni zadaci koji zahtijevaju pouzdane strukturirane izlaze
mistral-medium-latestPuna podrškaNajbolji omjer performansi i troškova za produkcijske pipelinee
mistral-small-latestPuna podrškaJednostavni zadaci (klasifikacija, osnovno izvlačenje entiteta) s ograničenim budžetom
ministral-8b-latestPuna podrškaLagana izvlačenja uz minimalnu latenciju
ministral-3b-latestPuna podrškaNajlakša opcija kada brzina ima prednost nad složenošću
codestral-latestPuna podrškaOptimiziran za kod, ali radi i za zadatke koji nisu vezani uz kod
mistral-embedNije primjenjivoModel za ugradnju (embedding); ne generira tekst

Općenamjenski modeli Large, Medium i Small pokrivaju većinu potreba, dok obitelj Ministral rješava ograničenja latencije.

Odabir pravog modela

Tijekom izrade prototipa koristi mistral-small-latest ili ministral-8b-latest. Brzi su, jeftini i više nego dovoljni da potvrdiš kako tvoja shema funkcionira i da tvoj prompt govori ono što misliš da govori. Plaćanje najmoćnijeg modela samo da bi se otkrilo kako je polje pogrešno nazvano predstavlja gubitak.

# Izrada prototipa — lagani model
response = client.chat.parse(
    model="ministral-8b-latest",
    messages=messages,
    response_format=MonSchema
)

U produkciji kriteriji se mijenjaju. Izvlačenje više polja, nijansirana analiza sentimenta ili fino granulirana klasifikacija opravdavaju upotrebu mistral-large-latest. S druge strane, jednostavan zadatak koji se obrađuje u velikom obujmu i dalje dobro radi na mistral-small-latest. Obrati pozornost na dodatak temperature=0 ovdje; taj ćemo parametar detaljno obraditi u nastavku.

# Produkcija — moćni model
response = client.chat.parse(
    model="mistral-large-latest",
    messages=messages,
    response_format=MonSchema,
    temperature=0  # Maksimalna reproducibilnost
)

Konačno, razmotri pipelinee visoke učestalosti gdje je latencija dominantno ograničenje. Ako obrađuješ tisuće zahtjeva u minuti – poput klasifikacije tiketa ili trijaže e-pošte – ministral-8b-latest nudi najbolji omjer latencije i kvalitete. Ograničavanje maxTokens sprječava model da se zadrži na predugim odgovorima.

// TypeScript — pipeline visoke učestalosti
const response = await client.chat.parse({
  model: "ministral-8b-latest",
  messages,
  responseFormat: MonSchema,
  maxTokens: 128,  // Ograničenje radi brzine
});

Parametar temperature

Jedna točka zaslužuje tvoju pozornost: temperature utječe na varijabilnost izlaza čak i u strukturiranom načinu rada. Pri vrijednosti 0, izlaz je deterministički. Ovo je preporučena postavka za produkciju i svugdje gdje je bitna reproducibilnost – dva pokretanja na istom dokumentu moraju dati isti zapis. Između 0.1 i 0.3 uvodiš blagu varijabilnost, što je korisno samo ako želiš različite formulacije u poljima slobodnog teksta poput sažetka. Od 0.7 naviše, varijabilnost postaje jaka i model može proizvesti nedosljedne vrijednosti. Izbjegavaj ovo kod strukturiranih izlaza.

Programsko provjeravanje kompatibilnosti

U produkciji, umjesto oslanjanja na statički popis, uhvati pogrešku koju vraća SDK kada model ne može ispuniti zahtjev:

from mistralai.client import Mistral
from mistralai.client.errors import SDKError

client = Mistral(api_key=api_key)

try:
    response = client.chat.parse(
        model=modele,  # identifikator učitan iz tvoje konfiguracije
        messages=[{"role": "user", "content": "Test"}],
        response_format=MonSchema
    )
except SDKError as e:
    print(f"Model nije kompatibilan: {e}")

Ova navika ostaje vrijedna tijekom vremena. Mistral redovito objavljuje nove modele, a podrška za strukturirane izlaze postala je standard koji nove generacije sustavno podržavaju. Prije nego što fiksiraš identifikator u svojoj konfiguraciji, provjeri službenu dokumentaciju za trenutni popis.

Ključne točke

  • Trenutni Mistral modeli podržavaju strukturirane izlaze; povijesna iznimka, codestral-mamba, povučena je u lipnju 2025.
  • Koristi temperature: 0 u produkciji za reproducibilne izlaze
  • Odaberi model prema svojim potrebama: mistral-large za kvalitetu, ministral-8b za brzinu
  • Oba pristupa (JSON Mode i Custom) podržana su od strane istih modela