Rozhodovací strom — Ktorý model pre ktorý prípad použitia
Na tejto strane
Praktický sprievodca výberom
Teraz poznáš celé portfólio Mistral a prirodzenou ďalšou otázkou je akcia: ktorý model použiť pre svoj projekt? Táto lekcia ponúka štruktúrovaný proces výberu podložený tabuľkou mapujúcou prípady použitia na modely. Cieľom nie je dať ti hotovú odpoveď, ale umožniť ti obhájiť svoju voľbu pred architektom alebo finančným riaditeľom.
Začni potrebou, nie modelom
Najčastejšou chybou je okamžitý výber „najsilnejšieho“ modelu a jeho aplikácia na všetko. Tím, ktorý zapojí špičkový model do jednoduchej úlohy klasifikácie ticketov, zaplatí desaťnásobok potrebnej ceny, čaká niekoľko sekúnd na odpoveď, ktorú by malý model dodal okamžite, a nakoniec sa stane závislým od API, kde by stačil lokálny model. Výkon nekompenzuje nesúlad; robí ho len drahším.
Správny postup funguje opačne a zahŕňa tri kroky. Najprv identifikuj svoju hlavnú úlohu – tú, ktorá predstavuje väčšinu objemu, nie exotický prípad, ktorý sa stane raz za mesiac. Ďalej vyhodnoť svoje skutočné obmedzenia: rozpočet, prijateľnú latenciu, citlivosť dát a dostupnú infraštruktúru. Model vyberáš až ako posledný krok, v prieniku tejto úlohy a týchto obmedzení. Model nie je nikdy dobrý absolútne; je buď vhodný, alebo nevhodný pre konkrétny prienik.
Rozhodovacia tabuľka podľa prípadu použitia
| Prípad použitia | Odporúčaný model | Úroveň | Prečo |
|---|---|---|---|
| Chatbot / Asistent | Mistral Small 4 | Open | Hybridné inštrukcie + logické uvažovanie, kontext 256K, optimálny pomer cena/výkon |
| RAG (dlhé dokumenty) | Small 4 + Mistral Embed | Open + Premier | Veľké kontextové okno + kvalitné vektory |
| Dopĺňanie kódu (IDE) | Codestral | Premier | FIM, nízka latencia, 80+ jazykov |
| Autonómny agent pre kód | Devstral 2 | Open | Riešenie úloh od začiatku do konca, explorácia kódu |
| Syntéza reči / TTS | Voxtral TTS | Open | Klonovanie hlasu, streamovanie, viacjazyčnosť |
| Prepis zvuku | Voxtral Transcribe 2 | Premier | Rozlíšenie hovoriacich, kontextové biasovanie, vysoká presnosť |
| Extrakcia z dokumentov | OCR 3 | Premier | Štruktúra, tabuľky, viacstranové dokumenty |
| Analýza obrázka + textu | Mistral Large 3 | Open | Špičková multimodalita, najlepšia kvalita |
| Matematické logické uvažovanie | Magistral Medium 1.2 | Premier | Hlboké reťazenie myšlienok, špecializované uvažovanie |
| Nasadenie na mobilné zariadenia/edge | Ministral 3 (3B) | Open | Ultra-kompaktný, multimodálny, offline |
| Moderácia obsahu | Moderation 2 | Premier | Detekcia prelomenia ochrany, vlastné ochranné mechanizmy |
Prejdi rozhodovacím procesom v troch krokoch
Prvým krokom je kategorizácia tvojej potreby. Všeobecný text – konverzácia, písanie, sumarizácia – patrí do rodiny Small, Large a Medium. Všetko, čo súvisí s kódom, patrí do rodiny Codestral a Devstral. Zvuk, či už vstup alebo výstup, smeruje k Voxtral. S dokumentmi a obrázkami pracuj pomocou OCR 3 alebo Large 3 podľa toho, či chceš štruktúrovanú extrakciu, alebo interpretáciu. Komplexné logické uvažovanie si vyžaduje Magistral a bezpečnostné otázky spadajú pod Moderation 2. Táto kategorizácia okamžite vyradí tri štvrtiny katalógu.
Druhý krok postaví tohto kandidáta proti tvojim obmedzeniam a práve tu sa rozhoduje. Napätý rozpočet smeruje k modelom Open pre vlastný hosting alebo k Small 4 cez API. Citlivé dáta vyžadujú vlastný hosting open modelu bez ohľadu na pohodlie API. Prísna požiadavka na latenciu ťa nasmeruje k Ministral 3 lokálne alebo k Codestral pre dopĺňanie v IDE. Hľadanie maximálnej kvality ospravedlňuje Large 3 alebo Magistral Medium 1.2. Nakoniec, tím bez infraštruktúry na správu by mal zostať pri API Premier, aj keď stojí viac. Tieto obmedzenia si často protirečia: explicitné kompromisy sú lepšie ako objavovanie konfliktu až v produkcii.
Tretí krok je ten, ktorý ľudia najradšej vynechávajú, no nikdy by nemali: validácia prototypu. Nikdy nevyberaj model len na základe benchmarkov. Vytvor testovaciu množinu dvadsiatich až päťdesiatich reprezentatívnych príkladov, spusti na nich dva alebo troch kandidátov, porovnaj kvalitu výsledkov, latenciu a náklady, potom iteruj. Táto verifikácia zriedka zaberie viac ako pol dňa a je jediná, ktorá ti povie niečo o tvojom vlastnom kontexte, nie o priemere vypočítanom inde.
Víťazné kombinácie
Vo vyspelých architektúrach nevyberáš model, ale zostavu, kde každá komponenta robí to, čo vie najlepšie. Kompletný systém RAG spája Mistral Embed na indexovanie, Small 4 na generovanie a Moderation 2 na filtrovanie výstupov. Pipeline pre dokumenty začína OCR 3 na extrakciu, pokračuje Small 4 na analýzu a spolieha sa na Mistral Embed pri vyhľadávaní. Asistent pre vývojárov kombinuje Codestral v IDE, Devstral 2 pre komplexné úlohy a Codestral Embed na vyhľadávanie v kóde. Hlasová aplikácia napokon vstupuje cez Voxtral Transcribe, spracováva dáta pomocou Small 4 a vystupuje cez Voxtral TTS. Celkové náklady týchto reťazcov sú takmer vždy nižšie než náklady jediného modelu, ktorý sa snaží robiť všetko.
Kľúčové poznatky
- Vždy začni prípadom použitia, nie modelom
- Pred výberom vyhodnoť triádu úloha / obmedzenia / rozpočet
- Kombinácie viacerých modelov sú často efektívnejšie než jeden model
- Vždy testuj so svojimi vlastnými dátami pred finálnym rozhodnutím
- Mistral Small 4 je predvoleným východiskovým bodom pre väčšinu prípadov