Arbore de decizie — Ce model pentru ce caz de utilizare
Pe această pagină
Ghidul practic de selecție
Acum cunoașteți întregul catalog Mistral, iar următoarea întrebare naturală este acțiunea: ce model ar trebui să utilizați pentru proiectul dumneavoastră? Această lecție oferă un proces de selecție structurat, susținut de un tabel de corespondență între cazurile de utilizare și modele. Scopul nu este să vă oferim un răspuns gata făcut, ci să vă permitem să vă justificați alegerea în fața unui arhitect sau a unui director financiar (CFO).
Porniți de la nevoie, nu de la model
Cea mai frecventă greșeală este alegerea imediată a modelului „cel mai puternic“ și aplicarea lui la toate scenariile. O echipă care integrează un model de frontieră într-o sarcină simplă de clasificare a tichetelor plătește de zece ori prețul necesar, așteaptă câteva secunde după un răspuns pe care un model mic l-ar fi livrat instantaneu și ajunge dependentă de un API acolo unde un model local ar fi fost suficient. Puterea nu compensează o nepotrivire; o face doar costisitoare.
Abordarea corectă funcționează invers și implică trei pași. În primul rând, identificați sarcina principală — cea care reprezintă grosul volumului, nu cazul exotic care se întâmplă o dată pe lună. Apoi, evaluați constrângerile reale: bugetul, latența acceptabilă, sensibilitatea datelor și infrastructura disponibilă. Selectați modelul abia la final, la intersecția acestei sarcini cu aceste constrângeri. Un model nu este niciodată bun în termeni absoluți; este fie adecvat, fie inadecvat pentru o intersecție specifică.
Tabel de decizie pe cazuri de utilizare
| Caz de utilizare | Model recomandat | Nivel | De ce |
|---|---|---|---|
| Chatbot / Asistent | Mistral Small 4 | Open | Instruct+raționament hibrid, context 256K, raport optim preț/performanță |
| RAG (documente lungi) | Small 4 + Mistral Embed | Open + Premier | Fereastră de context mare + embedding-uri de calitate |
| Completare cod (IDE) | Codestral | Premier | FIM, latență redusă, peste 80 de limbaje |
| Agent de cod autonom | Devstral 2 | Open | Rezolvarea sarcinilor cap-la-cap, explorarea codului |
| Sinteză vocală / TTS | Voxtral TTS | Open | Clonare vocală, streaming, multilingv |
| Transcriere audio | Voxtral Transcribe 2 | Premier | Diarizare, bias de context, precizie ridicată |
| Extragere din documente | OCR 3 | Premier | Structură, tabele, mai multe pagini |
| Analiză imagine + text | Mistral Large 3 | Open | Multimodal de frontieră, cea mai bună calitate |
| Raționament matematic | Magistral Medium 1.2 | Premier | Lanț de gândire profund, raționament specializat |
| Implementare mobilă/edge | Ministral 3 (3B) | Open | Ultra-compact, multimodal, offline |
| Moderare conținut | Moderation 2 | Premier | Detectare jailbreak, guardrails personalizate |
Parcurgeți decizia în trei pași
Primul pas este categorisirea nevoii dumneavoastră. Textul general — conversație, scriere, rezumare — intră în familia Small, Large și Medium. Orice ține de cod aparține familiei Codestral și Devstral. Audio, fie ca intrare, fie ca ieșire, merge la Voxtral. Gestionați documentele și imaginile cu OCR 3 sau Large 3, în funcție de dacă doriți extragere structurată sau interpretare. Raționamentul complex necesită Magistral, iar problemele de securitate intră sub incidența Moderation 2. Această categorisire elimină trei sferturi din catalog imediat.
Al doilea pas pune acest candidat în balanță cu constrângerile dumneavoastră, iar aici se iau deciziile reale. Un buget limitat indică modelele Open pentru auto-găzduire sau către Small 4 prin API. Datele sensibile impun auto-găzduirea unui model open, indiferent de conveniența API-ului. O cerință strictă de latență vă îndreaptă către Ministral 3 local sau către Codestral pentru completarea în IDE. Căutarea calității maxime justifică Large 3 sau Magistral Medium 1.2. În final, o echipă fără infrastructură de administrat ar trebui să se limiteze la API-ul Premier, chiar dacă costă mai mult. Aceste constrângeri se contrazic adesea: este mai bine să faceți compromisuri explicite decât să descoperiți conflictul în producție.
Al treilea pas este cel pe care oamenii îl omit cel mai volnic și nu ar trebui să-l omită niciodată: validarea prin prototipare. Nu alegeți niciodată un model bazându-vă doar pe benchmark-uri. Construiți un set de test de douăzeci până la cincizeci de exemple reprezentative, rulați doi sau trei candidați pe acestea, comparați calitatea rezultatelor, latența și costul, apoi iterați. Această verificare rareori durează mai mult de o jumătate de zi și este singura care vă spune ceva despre propriul context, nu despre o medie calculată altundeva.
Combinații câștigătoare
În arhitecturile mature, nu alegeți un model, ci un ansamblu, fiecare componentă făcând ceea ce face mai bine. Un sistem RAG complet înlănțuie Mistral Embed pentru indexare, Small 4 pentru generare și Moderation 2 pentru filtrarea ieșirilor. Un flux de lucru pentru documente începe cu OCR 3 pentru extragere, trece la Small 4 pentru analiză și se bazează pe Mistral Embed pentru căutare. Un asistent pentru dezvoltatori combină Codestral în IDE, Devstral 2 pentru sarcini complexe și Codestral Embed pentru căutarea în cod. O aplicație vocală, în final, intră prin Voxtral Transcribe, procesează cu Small 4 și iese prin Voxtral TTS. Costul total al acestor lanțuri este aproape întotdeauna mai mic decât cel al unui singur model care încearcă să facă totul.
Puncte cheie
- Începeți întotdeauna cu cazul de utilizare, nu cu modelul
- Evaluați triada sarcină / constrângeri / buget înainte de a alege
- Combinațiile multi-model sunt adesea mai eficiente decât un singur model
- Testați întotdeauna cu propriile date înainte de a vă angaja
- Mistral Small 4 este punctul de plecare implicit pentru majoritatea cazurilor