Дърво на решенията — Кой модел за кой случай на употреба
На тази страница
Практическо ръководство за избор
Сега вече познавате целия каталог на Mistral и естественият следващ въпрос е действието: кой модел да използвате за Вашия проект? Този урок предлага структуриран процес на подбор, подкрепен от таблица за съпоставка между случаите на употреба и моделите. Целта не е да Ви даде готов отговор, а да Ви позволи да обосновате избора си пред архитект или финансов директор.
Започнете от нуждата, а не от модела
Най-честата грешка е незабавният избор на „най-мощния“ модел и прилагането му за всичко. Екип, който включва граничен модел в проста задача за класифициране на билети, плаща десет пъти необходимата цена, чака няколко секунди за отговор, който малък модел би дал мигновено, и в крайна сметка става зависим от API, където локален модел би бил достатъчен. Мощността не компенсира несъответствието; тя го прави скъпо.
Правилният подход работи в обратна посока и включва три стъпки. Първо, идентифицирайте основната си задача – тази, която представлява по-голямата част от обема, а не екзотичният случай, който се случва веднъж месечно. След това оценете реалните си ограничения: бюджет, допустима латентност, чувствителност на данните и налична инфраструктура. Моделът избирате едва накрая, в пресечната точка на тази задача и тези ограничения. Един модел никога не е добър в абсолютен смисъл; той е или подходящ, или неподходящ за конкретна пресечна точка.
Таблица за решения по случай на употреба
| Случай на употреба | Препоръчителен модел | Ниво | Защо |
|---|---|---|---|
| Чатбот / Асистент | Mistral Small 4 | Open | Хибридно instruct+reasoning, контекст 256K, оптимално съотношение цена/производителност |
| RAG (дълги документи) | Small 4 + Mistral Embed | Open + Premier | Голям прозорец за контекст + качествени вграждания |
| Довършване на код (IDE) | Codestral | Premier | FIM, ниска латентност, над 80 езика |
| Автономен агент за код | Devstral 2 | Open | Решаване на задачи от край до край, изследване на код |
| Синтез на реч / TTS | Voxtral TTS | Open | Клониране на глас, стрийминг, многоезичност |
| Транскрибиране на аудио | Voxtral Transcribe 2 | Premier | Разграничаване на говорещи, контекстуално пристрастяване, висока точност |
| Извличане от документи | OCR 3 | Premier | Структура, таблици, множество страници |
| Анализ на изображение + текст | Mistral Large 3 | Open | Граничен мултимодален модел, най-добро качество |
| Математическо разсъждение | Magistral Medium 1.2 | Premier | Дълбока верига от разсъждения, специализирано разсъждение |
| Разполагане на мобилни устройства/edge | Ministral 3 (3B) | Open | Ултра-компактен, мултимодален, офлайн |
| Модериране на съдържание | Moderation 2 | Premier | Откриване на jailbreak, персонализирани предпазни мерки |
Преминаване през решението в три стъпки
Първата стъпка е да категоризирате нуждата си. Обикновеният текст – разговор, писане, обобщаване – попада в семейството на Small, Large и Medium. Всичко, свързано с код, принадлежи към семейството на Codestral и Devstral. Аудиото, независимо дали е вход или изход, отива при Voxtral. Работете с документи и изображения чрез OCR 3 или Large 3, в зависимост от това дали искате структурирано извличане или интерпретация. Сложното разсъждение изисква Magistral, а въпросите за сигурност попадат под Moderation 2. Тази категоризация елиминира три четвърти от каталога веднага.
Втората стъпка противопоставя този кандидат на Вашите ограничения и тук всъщност се вземат решенията. Ограничен бюджет насочва към Open модели за самостоятелно хостване или към Small 4 чрез API. Чувствителните данни налагат самостоятелно хостване на отворен модел, независимо от удобството на API. Строго изискване за латентност Ви тласка към Ministral 3 локално или към Codestral за довършване в IDE. Търсенето на максимално качество оправдава Large 3 или Magistral Medium 1.2. Накрая, екип без инфраструктура за администриране трябва да се придържа към Premier API, дори ако струва повече. Тези ограничения често си противоречат: изричният компромис е по-добър от откриването на конфликта в продукционна среда.
Третата стъпка е тази, която хората най-охотно пропускат и никога не бива да пропускат: валидиране чрез прототип. Никога не избирайте модел само въз основа на бенчмарки. Изградете тестов набор от двадесет до петдесет представителни примера, стартирайте върху тях два или трима кандидати, сравнете качеството на резултатите, латентността и разходите, след което итерирайте. Тази проверка рядко отнема повече от половин ден и е единствената, която Ви казва нещо за Вашия собствен контекст, а не за средна стойност, изчислена другаде.
Печеливши комбинации
В зрелите архитектури не избирате модел, а сглобка, като всеки компонент прави това, което прави най-добре. Една пълна RAG система свързва Mistral Embed за индексиране, Small 4 за генериране и Moderation 2 за филтриране на изходите. Един документен поток започва с OCR 3 за извличане, преминава към Small 4 за анализ и разчита на Mistral Embed за търсене. Асистентът за разработчици комбинира Codestral в IDE, Devstral 2 за сложни задачи и Codestral Embed за търсене на код. Гласово приложение, най-накрая, влиза чрез Voxtral Transcribe, обработва се със Small 4 и излиза чрез Voxtral TTS. Общата цена на тези вериги е почти винаги по-ниска от тази на един единствен модел, опитващ се да прави всичко.
Ключови изводи
- Винаги започвайте със случая на употреба, а не с модела
- Оценете триадата задача / ограничения / бюджет, преди да изберете
- Комбинациите от множество модели често са по-ефективни от един единствен модел
- Винаги тествайте със собствените си данни, преди да се ангажирате
- Mistral Small 4 е стандартната отправна точка за повечето случаи