Rozhodovací strom — Který model pro který případ použití
Na této stránce
Praktický průvodce výběrem
Nyní znáš celé portfolio modelů Mistral a přirozenou další otázkou je akce: který model použít pro svůj projekt? Tato lekce nabízí strukturovaný proces výběru podpořený mapovací tabulkou mezi případy použití a modely. Cílem není dát ti hotovou odpověď, ale umožnit ti obhájit svou volbu před architektem nebo finančním ředitelem.
Začni potřebou, ne modelem
Nejčastější chybou je okamžitý výběr „nejvýkonnějšího“ modelu a jeho nasazení na všechno. Tým, který zapojí špičkový model do jednoduchého úkolu klasifikace tiketů, zaplatí desetkrát více, než je nutné, čeká několik sekund na odpověď, kterou by malý model dodal okamžitě, a nakonec se stane závislým na API, kde by stačil lokální model. Výkon nenahrazuje nesoulad; jen ho činí drahým.
Správný postup funguje obráceně a zahrnuje tři kroky. Nejprve identifikuj svůj hlavní úkol – ten, který představuje většinu objemu, nikoliv exotický případ, ke kterému dochází jednou za měsíc. Dále vyhodnoť svá skutečná omezení: rozpočet, přijatelnou latenci, citlivost dat a dostupnou infrastrukturu. Model vybíráš až jako poslední, v průsečíku tohoto úkolu a těchto omezení. Model není nikdy dobrý absolutně; je buď vhodný, nebo nevhodný pro konkrétní průsečík.
Rozhodovací tabulka podle případu použití
| Případ použití | Doporučený model | Úroveň | Proč |
|---|---|---|---|
| Chatbot / Asistent | Mistral Small 4 | Open | Hybridní instruct+reasoning, kontext 256K, optimální poměr cena/výkon |
| RAG (dlouhé dokumenty) | Small 4 + Mistral Embed | Open + Premier | Velké kontextové okno + kvalitní vektory |
| Doplňování kódu (IDE) | Codestral | Premier | FIM, nízká latence, 80+ jazyků |
| Autonomní agent pro kód | Devstral 2 | Open | Řešení úloh end-to-end, explorace kódu |
| Syntéza řeči / TTS | Voxtral TTS | Open | Klonování hlasu, streamování, vícejazyčnost |
| Přepis zvuku | Voxtral Transcribe 2 | Premier | Diarizace, kontextové biasování, vysoká přesnost |
| Extrakce z dokumentů | OCR 3 | Premier | Struktura, tabulky, více stran |
| Analýza obrazu + textu | Mistral Large 3 | Open | Špičková multimodalita, nejlepší kvalita |
| Matematické uvažování | Magistral Medium 1.2 | Premier | Hluboký řetězec myšlenek, specializované uvažování |
| Nasazení na mobil/edge | Ministral 3 (3B) | Open | Ultra-kompaktní, multimodální, offline |
| Moderace obsahu | Moderation 2 | Premier | Detekce jailbreaku, vlastní ochranná pravidla |
Projdi rozhodováním ve třech krocích
Prvním krokem je kategorizace tvé potřeby. Obecný text – konverzace, psaní, shrnování – spadá do rodiny Small, Large a Medium. Vše související s kódem patří do rodiny Codestral a Devstral. Zvuk, ať už na vstupu nebo výstupu, řeší Voxtral. S dokumenty a obrazy pracuj pomocí OCR 3 nebo Large 3 v závislosti na tom, zda chceš strukturovanou extrakci, nebo interpretaci. Složité uvažování vyžaduje Magistral a bezpečnostní otázky spadají pod Moderation 2. Tato kategorizace okamžitě eliminuje tři čtvrtiny katalogu.
Druhý krok postaví tohoto kandidáta proti tvým omezením a právě zde se rozhoduje. Napjatý rozpočet směřuje k modelům Open pro vlastní hostování nebo k Small 4 přes API. Citlivá data vyžadují vlastní hostování open modelu, bez ohledu na pohodlí API. Přísný požadavek na latenci tě tlačí k Ministral 3 lokálně nebo k Codestral pro doplňování v IDE. Hledání maximální kvality ospravedlňuje Large 3 nebo Magistral Medium 1.2. Nakonec tým bez infrastruktury ke správě by měl zůstat u API Premier, i když stojí více. Tato omezení si často protiřečí: explicitní kompromis je lepší než objevení konfliktu až v produkci.
Třetí krok je ten, který lidé nejraději přeskočí a nikdy by neměli: validace prototypu. Nikdy nevybírej model pouze na základě benchmarků. Vytvoř testovací sadu dvaceti až padesáti reprezentativních příkladů, spusť na nich dva nebo tři kandidáty, porovnej kvalitu výsledků, latenci a náklady, poté iteruj. Tato verifikace zřídka zabere více než půl dne a je jediná, která ti řekne něco o tvém vlastním kontextu, nikoliv o průměru vypočítaném jinde.
Vítězné kombinace
Ve zralých architekturách nevybíráš model, ale sestavu, kde každá komponenta dělá to, co umí nejlépe. Kompletní systém RAG řetězí Mistral Embed pro indexaci, Small 4 pro generování a Moderation 2 pro filtrování výstupů. Pipeline pro dokumenty začíná OCR 3 pro extrakci, pokračuje Small 4 pro analýzu a spoléhá na Mistral Embed pro vyhledávání. Asistent pro vývojáře kombinuje Codestral v IDE, Devstral 2 pro složité úlohy a Codestral Embed pro vyhledávání v kódu. Hlasová aplikace konečně vstupuje přes Voxtral Transcribe, zpracovává data pomocí Small 4 a vystupuje přes Voxtral TTS. Celkové náklady těchto řetězců jsou téměř vždy nižší než náklady jediného modelu, který se snaží dělat všechno.
Klíčové poznatky
- Vždy začni případem použití, ne modelem
- Před výběrem vyhodnoť triádu úkol / omezení / rozpočet
- Kombinace více modelů jsou často efektivnější než jeden model
- Vždy testuj se svými vlastními daty před finálním závazkem
- Mistral Small 4 je výchozím bodem pro většinu případů