Drzewo decyzyjne — Który model do jakiego przypadku użycia
Na tej stronie
Praktyczny przewodnik wyboru
Znasz już cały katalog Mistral, a naturalnym kolejnym krokiem jest działanie: który model wybrać do swojego projektu? Ta lekcja oferuje ustrukturyzowany proces selekcji, wspierany tabelą mapującą przypadki użycia na modele. Celem nie jest podanie Ci gotowej odpowiedzi, lecz umożliwienie Ci uzasadnienia wyboru przed architektem lub dyrektorem finansowym (CFO).
Zacznij od potrzeby, a nie od modelu
Najczęstszym błędem jest natychmiastowy wybór „najpotężniejszego“ modelu i stosowanie go do wszystkiego. Zespół, który podłącza model czołowy (frontier) do prostego zadania klasyfikacji zgłoszeń, płaci dziesięciokrotnie wyższą cenę niż konieczna, czeka kilka sekund na odpowiedź, którą mały model zwróciłby natychmiast, i kończy zależny od API, podczas gdy model lokalny w zupełności by wystarczył. Moc nie rekompensuje niedopasowania; czyni je jedynie kosztownym.
Właściwe podejście działa odwrotnie i obejmuje trzy kroki. Po pierwsze, zidentyfikuj swoje główne zadanie – to, które stanowi większość wolumenu, a nie egzotyczny przypadek zdarzający się raz na miesiąc. Następnie oceń swoje rzeczywiste ograniczenia: budżet, akceptowalne opóźnienia, wrażliwość danych i dostępną infrastrukturę. Model wybierasz dopiero na końcu, na przecięciu tego zadania i tych ograniczeń. Model nigdy nie jest dobry w sensie absolutnym; jest albo dopasowany, albo niedopasowany do konkretnego przecięcia.
Tabela decyzyjna według przypadku użycia
| Przypadek użycia | Rekomendowany model | Poziom | Dlaczego |
|---|---|---|---|
| Chatbot / Asystent | Mistral Small 4 | Open | Hybrydowe instruct+reasoning, kontekst 256K, optymalny stosunek ceny do wydajności |
| RAG (długie dokumenty) | Small 4 + Mistral Embed | Open + Premier | Duże okno kontekstowe + wysokiej jakości embeddingi |
| Uzupełnianie kodu (IDE) | Codestral | Premier | FIM, niskie opóźnienia, ponad 80 języków |
| Autonomiczny agent kodujący | Devstral 2 | Open | Rozwiązywanie zadań end-to-end, eksploracja kodu |
| Synteza mowy / TTS | Voxtral TTS | Open | Klonowanie głosu, streaming, wielojęzyczność |
| Transkrypcja audio | Voxtral Transcribe 2 | Premier | Diarization, biasing kontekstowy, wysoka dokładność |
| Ekstrakcja z dokumentów | OCR 3 | Premier | Struktura, tabele, wiele stron |
| Analiza obrazu i tekstu | Mistral Large 3 | Open | Czołowy model multimodalny, najlepsza jakość |
| Rozumowanie matematyczne | Magistral Medium 1.2 | Premier | Głębokie łańcuchy myślowe (chain-of-thought), specjalistyczne rozumowanie |
| Wdrożenie mobilne/brzegowe (edge) | Ministral 3 (3B) | Open | Ultra-kompaktowy, multimodalny, tryb offline |
| Moderacja treści | Moderation 2 | Premier | Wykrywanie jailbreaków, niestandardowe guardrails |
Przejdź przez decyzję w trzech krokach
Pierwszym krokiem jest kategoryzacja Twojej potrzeby. Ogólny tekst – konwersacja, pisanie, streszczanie – należy do rodziny Small, Large i Medium. Wszystko związane z kodem należy do rodziny Codestral i Devstral. Audio, zarówno wejście, jak i wyjście, trafia do Voxtral. Dokumentami i obrazami zajmij się za pomocą OCR 3 lub Large 3, w zależności od tego, czy chcesz uzyskać strukturalną ekstrakcję, czy interpretację. Złożone rozumowanie wymaga Magistral, a kwestie bezpieczeństwa podlegają Moderation 2. Ta kategoryzacja eliminuje od razu trzy czwarte katalogu.
Drugi krok polega na skonfrontowaniu tego kandydata z Twoimi ograniczeniami i to tutaj zapadają prawdziwe decyzje. Napięty budżet wskazuje na modele Open do samodzielnego hostowania lub na Small 4 przez API. Wrażliwe dane wymuszają samodzielny hosting modelu open, niezależnie od wygody API. Ścisłe wymaganie dotyczące opóźnień kieruje Cię ku Ministral 3 lokalnie lub ku Codestral do uzupełniania w IDE. Dążenie do maksymalnej jakości uzasadnia wybór Large 3 lub Magistral Medium 1.2. Wreszcie, zespół bez infrastruktury do administrowania powinien pozostać przy API Premier, nawet jeśli kosztuje ono więcej. Ograniczenia te często sobie przeczą: jawne ważenie kompromisów jest lepsze niż odkrywanie konfliktu na produkcji.
Trzeci krok to ten, który ludzie najchętniej pomijają, a nigdy nie powinni: walidacja prototypu. Nigdy nie wybieraj modelu wyłącznie na podstawie benchmarków. Stwórz zestaw testowy złożony z dwudziestu do pięćdziesięciu reprezentatywnych przykładów, uruchom na nich dwóch lub trzech kandydatów, porównaj jakość wyników, opóźnienia i koszty, a następnie iteruj. Ta weryfikacja rzadko zajmuje więcej niż pół dnia, a jest jedyną, która mówi Ci coś o Twoim własnym kontekście, a nie o średniej obliczonej gdzie indziej.
Wygrywające kombinacje
W dojrzałych architekturach nie wybierasz modelu, lecz zespół (assembly), w którym każdy komponent robi to, co robi najlepiej. Kompletny system RAG łączy Mistral Embed do indeksowania, Small 4 do generowania i Moderation 2 do filtrowania wyników. Potok dokumentów zaczyna się od OCR 3 do ekstrakcji, przechodzi do Small 4 do analizy i polega na Mistral Embed do wyszukiwania. Asystent programisty łączy Codestral w IDE, Devstral 2 do złożonych zadań i Codestral Embed do wyszukiwania kodu. Aplikacja głosowa z kolei wchodzi przez Voxtral Transcribe, przetwarza dane za pomocą Small 4 i wychodzi przez Voxtral TTS. Całkowity koszt tych łańcuchów jest prawie zawsze niższy niż koszt pojedynczego modelu próbującego zrobić wszystko.
Kluczowe wnioski
- Zawsze zaczynaj od przypadku użycia, a nie od modelu
- Oceń triadę zadanie / ograniczenia / budżet przed wyborem
- Kombinacje wielomodelowe są często skuteczniejsze niż pojedynczy model
- Zawsze testuj na własnych danych przed podjęciem zobowiązania
- Mistral Small 4 to domyślny punkt wyjścia dla większości przypadków