Döntési fa — Melyik modellt melyik felhasználási esethez?
Ezen az oldalon
Gyakorlati választási útmutató
Most már ismered a teljes Mistral-katalógust, és a következő természetes kérdés a cselekvés: melyik modellt használd a projektedhez? Ez a lecke egy strukturált kiválasztási folyamatot kínál, amelyet a felhasználási esetek és a modellek közötti leképezési táblázat támogat. A cél nem az, hogy kész választ adjunk, hanem hogy lehetővé tegyük számodra a döntésed indoklását egy architekt vagy egy pénzügyi igazgató (CFO) előtt.
Kezd a szükséglettel, ne a modellel
A leggyakoribb hiba, ha azonnal a „legerősebb“ modellt választjuk, és mindent arra alkalmazunk. Egy csapat, amely egy csúcsmodellt dug be egy egyszerű jegyosztályozási feladatba, tízszer annyit fizet a kelleténél, több másodpercet vár egy válaszra, amit egy kis modell azonnal megadott volna, és végül egy API-tól válik függővé, ahol egy helyi modell is elegendő lett volna. A teljesítmény nem kompenzálja a helytelen párosítást; csak drágábbá teszi azt.
A helyes megközelítés fordított irányban működik, és három lépésből áll. Először azonosítsd a fő feladatodat – azt, amelyik a volumen nagy részét képviseli, nem pedig azt az egzotikus esetet, ami havonta egyszer fordul elő. Ezután mérd fel a valós korlátaidat: költségvetés, elfogadható késleltetés, adatérzékenység és rendelkezésre álló infrastruktúra. A modellt csak utoljára választod ki, e feladat és e korlátok metszéspontjában. Egy modell sosem jó abszolút értelemben; csak egy adott metszspontához illik vagy nem illik.
Döntési táblázat felhasználási esetek szerint
| Felhasználási eset | Ajánlott modell | Szint | Miért |
|---|---|---|---|
| Chatbot / Asszisztens | Mistral Small 4 | Open | Hibrid utasítás+következtetés, 256K kontextus, optimális ár/teljesítmény arány |
| RAG (hosszú dokumentumok) | Small 4 + Mistral Embed | Open + Premier | Nagy kontextusablak + minőségi beágyazások |
| Kódkiegészítés (IDE) | Codestral | Premier | FIM, alacsony késleltetés, 80+ nyelv |
| Autonóm kódügynök | Devstral 2 | Open | Végponttól végpontig tartó feladatmegoldás, kód feltárása |
| Beszédszintézis / TTS | Voxtral TTS | Open | Hangklónozás, streaming, többnyelvű |
| Hang átírása | Voxtral Transcribe 2 | Premier | Hangszóró-megkülönböztetés, kontextus-biaszolás, magas pontosság |
| Dokumentum-kinyerés | OCR 3 | Premier | Struktúra, táblázatok, többoldalas |
| Kép + szöveg elemzése | Mistral Large 3 | Open | Csúcskategóriás multimodális, legjobb minőség |
| Matematikai következtetés | Magistral Medium 1.2 | Premier | Mély gondolatmenet-lánc, specializált következtetés |
| Mobil/peremhálózati telepítés | Ministral 3 (3B) | Open | Ultrakompakt, multimodális, offline |
| Tartalommoderálás | Moderation 2 | Premier | Jailbreak-észlelés, egyéni védőkorlátok |
Járd végig a döntést három lépésben
Az első lépés a szükséleted kategorizálása. Az általános szöveg – beszélgetés, írás, összefoglalás – a Small, Large és Medium család alá tartozik. Minden kódhoz kapcsolódó dolog a Codestral és Devstral családba esik. A hang, legyen az bemenet vagy kimenet, a Voxtralhoz tartozik. A dokumentumokat és képeket az OCR 3-mal vagy a Large 3-mal kezeld, attól függően, hogy strukturált kinyerést vagy értelmezést szeretnél. A komplex következtetés a Magistralt igényli, a biztonsági kérdések pedig a Moderation 2 alá tartoznak. Ez a kategorizálás azonnal kizárja a katalógus háromnegyedét.
A második lépésben ezt a jelöltet szembeállítod a korlátaiddal, és itt születnek meg a valódi döntések. A szűkös költségvetés az Open modellek felé terel öngazdálkodásra, vagy a Small 4 felé az API-n keresztül. Az érzékeny adatok megkövetelik egy nyílt modell saját hosztolását, az API kényelmétől függetlenül. A szigorú késleltetési követelmény a Ministral 3 helyi használatára vagy a Codestralra irányít IDE-kiegészítéshez. A maximális minőség keresése igazolja a Large 3 vagy a Magistral Medium 1.2 választását. Végül egy olyan csapatnak, amelynek nincs infrastruktúrája az üzemeltetésre, a Premier API-nál kell maradnia, még ha többe is kerül. Ezek a korlátok gyakran ellentmondanak egymásnak: a kompromisszumok explicit vállalása jobb, mint a konfliktus felfedezése éles környezetben.
A harmadik lépés az, amit az emberek a legszívesebben kihagynak, és sosem szabadna: a prototípus validálása. Soha ne válassz modellt kizárólag benchmarkok alapján. Készíts egy húsz-ötven reprezentatív példából álló teszt készletet, futtasd rajtuk két-három jelöltet, hasonlítsd össze az eredmények minőségét, a késleltetést és a költséget, majd iterálj. Ez az ellenőrzés ritkán tart tovább fél napnál, és ez az egyetlen, amely a saját kontextusodról mond valamit, nem pedig egy máshol számított átlagról.
Nyertes kombinációk
Érett architektúrákban nem egy modellt, hanem egy összeállítást választasz, ahol minden komponens azt csinálja, amihez a legjobban ért. Egy teljes RAG-rendszer láncolja a Mistral Embedet az indexeléshez, a Small 4-et a generáláshoz és a Moderation 2-t a kimenetek szűréséhez. Egy dokumentum-folyamat az OCR 3-mal indul a kinyeréshez, átmegy a Small 4-re az elemzéshez, és a Mistral Embedre támaszkodik a kereséshez. Egy fejlesztői asszisztens kombinálja a Codestralt az IDE-ben, a Devstral 2-t a komplex feladatokhoz és a Codestral Embedet a kódkereséshez. Egy hangalkalmazás végül a Voxtral Transcribe-en keresztül lép be, a Small 4-gyel dolgozza fel az adatot, és a Voxtral TTS-en keresztül lép ki. Ezen láncok teljes költsége szinte mindig alacsonyabb, mint egyetlen modellé, amely mindent megpróbál elvégezni.
Főbb megállapítások
- Mindig a felhasználási esettel kezdj, ne a modellel
- A választás előtt mérd fel a feladat / korlátok / költségvetés hármast
- A többmodells kombinációk gyakran hatékonyabbak, mint egyetlen modell
- Mindig tesztelj a saját adataiddal, mielőtt elköteleződnél
- A Mistral Small 4 a alapértelmezett kiindulópont a legtöbb esetben