Stablo odlučivanja — Koji model za koji slučaj upotrebe
Na ovoj stranici
Praktični vodič za odabir
Sada poznaješ cijeli Mistralov katalog, a prirodno sljedeće pitanje je akcija: koji model koristiti za svoj projekt? Ova lekcija nudi strukturiran postupak odabira, potkrijepljen tablicom mapiranja između slučajeva upotrebe i modela. Cilj nije dati ti gotov odgovor, već ti omogućiti da opravdaš svoj izbor arhitektu ili financijskom direktoru (CFO).
Kreni od potrebe, a ne od modela
Najčešća pogreška je odmah odabrati „najmoćniji“ model i primijeniti ga na sve. Tim koji ugrani granični model (frontier model) u jednostavan zadatak klasifikacije tiketa plaća deset puta veću cijenu nego što je potrebno, čeka nekoliko sekundi na odgovor koji bi mali model isporučio trenutno, i na kraju postaje ovisan o API-ju gdje bi lokalni model bio dovoljan. Snaga ne kompenzira neusklađenost; ona je samo čini skupom.
Ispravan pristup radi obrnuto i uključuje tri koraka. Prvo, identificiraj svoj glavni zadatak — onaj koji predstavlja većinu volumena, a ne egzotičan slučaj koji se dogodi jednom mjesečno. Zatim procijeni svoja stvarna ograničenja: proračun, prihvatljivu latenciju, osjetljivost podataka i dostupnu infrastrukturu. Model odabireš tek na kraju, na sjecištu tog zadatka i tih ograničenja. Model nikada nije dobar u apsolutnom smislu; on je ili prikladan ili neprikladan za specifično sjecište.
Tablica odlučivanja prema slučaju upotrebe
| Slučaj upotrebe | Preporučeni model | Razina | Zašto |
|---|---|---|---|
| Chatbot / Asistent | Mistral Small 4 | Open | Hibridni instruct+reasoning, kontekst od 256K, optimalan omjer cijene i performansi |
| RAG (dugi dokumenti) | Small 4 + Mistral Embed | Open + Premier | Veliki prozor konteksta + kvalitetni embeddingi |
| Dovršavanje koda (IDE) | Codestral | Premier | FIM, niska latencija, 80+ jezika |
| Autonomni agent za kod | Devstral 2 | Open | Rješavanje zadataka od kraja do kraja, istraživanje koda |
| Sinteza govora / TTS | Voxtral TTS | Open | Kloniranje glasa, streaming, višejezičnost |
| Transkripcija zvuka | Voxtral Transcribe 2 | Premier | Diarizacija, pristranost konteksta, visoka točnost |
| Ekstrakcija iz dokumenata | OCR 3 | Premier | Struktura, tablice, više stranica |
| Analiza slike i teksta | Mistral Large 3 | Open | Vrhunski multimodalni model, najbolja kvaliteta |
| Matematičko rezoniranje | Magistral Medium 1.2 | Premier | Dubok lanac misli (chain-of-thought), specijalizirano rezoniranje |
| Implementacija na mobilne uređaje/edge | Ministral 3 (3B) | Open | Ultra-kompaktan, multimodalan, offline rad |
| Moderacija sadržaja | Moderation 2 | Premier | Detekcija probijanja zaštite (jailbreak), prilagođene zaštitne ograde |
Prođi kroz odluku u tri koraka
Prvi korak je kategorizacija tvoje potrebe. Opći tekst — razgovor, pisanje, sažimanje — spada u obitelj Small, Large i Medium. Sve što je vezano uz kod pripada obitelji Codestral i Devstral. Audio, bilo da je ulaz ili izlaz, ide u Voxtral. Dokumentima i slikama upravljaj s OCR 3 ili Large 3, ovisno o tome želiš li strukturiranu ekstrakciju ili interpretaciju. Složeno rezoniranje zahtijeva Magistral, a sigurnosna pitanja spadaju pod Moderation 2. Ova kategorizacija odmah eliminira tri četvrtine kataloga.
Drugi korak suprotstavlja ovog kandidata tvojim ograničenjima, i tu se donose stvarne odluke. Uski proračun usmjerava te prema Open modelima za samostalno hostanje ili prema Small 4 putem API-ja. Osjetljivi podaci nameću samostalno hostanje otvorenog modela, bez obzira na pogodnosti API-ja. Strogi zahtjev za latencijom gura te prema Ministral 3 lokalno ili prema Codestralu za dovršavanje u IDE-u. Potraga za maksimalnom kvalitetom opravdava Large 3 ili Magistral Medium 1.2. Konačno, tim bez infrastrukture za administraciju trebao bi se držati Premier API-ja, čak i ako košta više. Ova se ograničenja često međusobno proturječe: eksplicitno trade-off je bolje nego otkriti sukob u produkciji.
Treći korak je onaj koji ljudi najradije preskaču, a nikada ga ne bi smjeli: validacija prototipa. Nikada ne odabiri model isključivo na temelju benchmarka. Izgradi testni skup od dvadeset do pedeset reprezentativnih primjera, pokreni na njima dva ili tri kandidata, usporedi kvalitetu rezultata, latenciju i trošak, zatim iteriraj. Ova verifikacija rijetko traje više od pola dana, a jedina je koja ti govori nešto o tvom vlastitom kontekstu, a ne o prosjeku izračunatom negdje drugdje.
Pobjedničke kombinacije
U zrelim arhitekturama ne biraš model već sklop, pri čemu svaka komponenta radi ono u čemu je najbolja. Potpun RAG sustav lanča Mistral Embed za indeksiranje, Small 4 za generiranje i Moderation 2 za filtriranje izlaza. Cjevovod za dokumente započinje s OCR 3 za ekstrakciju, prelazi na Small 4 za analizu i oslanja se na Mistral Embed za pretraživanje. Asistent za programere kombinira Codestral u IDE-u, Devstral 2 za složene zadatke i Codestral Embed za pretraživanje koda. Glasovna aplikacija, naposljetku, ulazi putem Voxtral Transcribe, obrađuje se sa Small 4 i izlazi putem Voxtral TTS. Ukupni trošak ovih lanaca gotovo je uvijek niži od troška jednog modela koji pokušava učiniti sve.
Ključne točke
- Uvijek kreni od slučaja upotrebe, a ne od modela
- Procijeni trijadu zadatak / ograničenja / proračun prije odabira
- Kombinacije više modela često su učinkovitije od jednog modela
- Uvijek testiraj sa svojim vlastitim podacima prije konačne odluke
- Mistral Small 4 je zadana početna točka za većinu slučajeva