Siġra tad-Deċiżjoni — Liema Mudell għal Liema Każ ta' Użu
F'din il-paġna
Il-gwida prattika tal-għażla
Issa tkun taf il-katalogu ta’ Mistral kollu, u l-mistoqsija naturali li ta’ wara hija l-azzjoni: liema mudell għandek tuża għall-proġett tiegħek? Din il-lezzjoni tipprovdi proċess ta’ għażla strutturat, appoġġjat minn tabella ta’ korrispondenza bejn il-każijiet ta’ użu u l-mudelli. L-għan mhuwiex li tingħatalek tweġiba lesti, imma li tkun kapaċi tiġġustifika l-għażla tiegħek quddiem arkitett jew CFO.
Ibda bil-ħtieġa, mhux bil-mudell
L-aktar żball komuni huwa li tagħżel minnufih il-mudell “l-aktar b’saħħtu” u tapplikah għal kollox. Tim li jgħaqqad mudell frontier ma’ kompitu sempliċi ta’ klassifikazzjoni ta’ tickets iħallas għaxar darbiet il-prezz meħtieġ, jistenna ftit sekondi tweġiba li mudell żgħir kien jagħti minnufih, u jispiċċa dipendenti fuq API fejn mudell lokali kien biżżejjed. Is-saħħa ma tikkompensax nuqqas ta’ qbil; tagħmlu biss għalji.
L-approċġ it-tajjex jaħdem bil-kontra u fih tliet passi. L-ewwel, identifika l-kompitu prinċipali tiegħek — dak li jirrappreżenta l-akbar sehem tal-volum, mhux il-każ eżotiku li jiġri darba fil-xahar. Imbagħad, ivvaluta l-kstraintijiet reali tiegħek: baġit, latency aċċettabbli, sensittività tad-dejta, u infrastruttura disponibbli. L-għażla tal-mudell tiġi fl-aħħar, fl-intersezzjoni bejn dan il-kompitu u dawn il-kstraintijiet. Mudell qatt ma tajjeb b’mod assolut; jew huwa xieraq għal intersezzjoni partikolari jew le.
Tabella tad-deċiżjoni skont il-każ ta’ użu
| Każ ta' użu | Mudell rakkomandat | Tier | Għaliex |
|---|---|---|---|
| Chatbot / Assistent | Mistral Small 4 | Open | Ibridu instruct + raġunament, kuntest ta' 256K, proporzjon ottimali prezz/prestazzjoni |
| RAG (dokumenti twal) | Small 4 + Mistral Embed | Open + Premier | Twieqi wiesgħa tal-kuntest + embeddings ta' kwalità |
| Kompletament tal-kodiċi (IDE) | Codestral | Premier | FIM, latency baxxa, aktar minn 80 lingwa |
| Aġent tal-kodiċi awtonomu | Devstral 2 | Open | Riżoluzzjoni ta' kompiti mill-bidu sal-aħħar, esplurazzjoni tal-kodiċi |
| Sinteċi tad-diskors / TTS | Voxtral TTS | Open | Klonar tal-vuċi, streaming, multilingwi |
| Traskrizzjoni tal-awdjo | Voxtral Transcribe 2 | Premier | Djariżżazzjoni, orjentazzjoni bil-kuntest, preċiżjoni għolja |
| Estrazzjoni ta' dokumenti | OCR 3 | Premier | Struttura, tabelli, multi-paġna |
| Analiżi ta' immaġni + test | Mistral Large 3 | Open | Multimodali frontier, l-aħjar kwalità |
| Raġunament matematiku | Magistral Medium 1.2 | Premier | Katina tal-ħsieb fondi, raġunament speċjalizzat |
| Implimentazzjoni mobile/edge | Ministral 3 (3B) | Open | Ultra-kompatt, multimodali, offline |
| Moderazzjoni tal-kontenut | Moderation 2 | Premier | Indunar ta' jailbreak, guardrails personalizzati |
Mur id-deċiżjoni fi tliet passi
L-ewwel pass huwa li tikkategorizza l-ħtieġa tiegħek. Test ġenerali — konversazzjoni, kitba, sommarji — jaqa’ taħt il-familja Small, Large u Medium. Kollox li jikkonċerna l-kodiċi jappartjeni għall-familja Codestral u Devstral. L-awdjo, kemm jekk fid-dħul u kemm fil-ħruġ, imur lejn Voxtral. Id-dokumenti u l-immaġni mexxihom bl-OCR 3 jew bil-Large 3, skont jekk tridx estrazzjoni strutturate jew interpetazzjoni. Għar-raġunament kumpless hemm bżonn Magistral, u l-kwistjonijiet tas-sikurtà jaqgħu taħt Moderation 2. Din il-kategorizzazzjoni waħedha telimina tliet kwarti tal-katalogu.
It-tieni pass ikeċċa lil dan il-kandidat mal-kstraintijiet tiegħek, u hawnhekk jittieħdu verament id-deċiżjonijiet. Baġit strett jindika l-mudelli Open għas-self-hosting jew Small 4 permezz tal-API. Dejta sensittiva timponi self-hosting ta’ mudell open, irrispettivament mill-konvenjenza tal-API. Rekwiżit iebsa ta’ latency ġġibbek lejn Ministral 3 lokali jew lejn Codestral għall-kompletament fl-IDE. Il-ħtieġa għall-kwalità massima tiġġustifika Large 3 jew Magistral Medium 1.2. Fl-aħħar nett, tim mingħajr infrastruttura li jamministra għandu jibqa’ mal-API Premier, anke jiswa ħafna. Dawn il-kstraintijiet ta’ spiss jikkontradixxu xulxin: li tinnegozjahom b’mod espliċitu aħjar milli tiskopri l-kunflitt f’produzzjoni.
It-tielet pass huwa dak li l-aktar nies jaqbżu u li qatt m’għandu jinħeles: il-validazzjoni b’prototip. Qatt tagħżel mudell biss abbażi ta’ benchmarks. Ibni sett ta’ testijiet ta’ għoxrin sa ħamsin eżempju rappreżentattivi, mexxi tnejn jew tliet kandidati fuqhom, qabbel il-kwalità tar-riżultati, il-latency u l-ispejjeż, imbagħad itteraw. Din il-verifika rarament tieħu aktar minn nofs jum, u hija l-unika waħda li tgħidlek xi ħaġa dwar il-kuntest tiegħek stess u mhux medja kkalkulata imkien ieħor.
Kombinazzjonijiet rebbieħa
F’arkitetturi msewwija, ma tagħżilx mudell imma assemblaġġ, kull komponent jagħmel dak li jagħmel l-aħjar. Sistema RAG kompluta ġġebbel lil Mistral Embed għall-indiċjar, lil Small 4 għall-ġenerazzjoni, u lil Moderation 2 biex ifiltra l-output. Pipeline tad-dokumenti tibda bl-OCR 3 għall-estrazzjoni, tkompli bi Small 4 għall-analiżi, u tiddependi lil Mistral Embed għat-tfittxija. Assistent għaż-żviluppatur tgħaqqad lil Codestral fl-IDE, lil Devstral 2 għall-kompiti kumplessi, u lil Codestral Embed għat-tfittxija tal-kodiċi. Applikazzjoni vokali, fl-aħħar, tidħol minn Voxtral Transcribe, tipproċessa bi Small 4, u toħroġ minn Voxtral TTS. L-ispiża totali ta’ dawn il-ktajjen kważi dejjem inqas minn dik ta’ mudell wieħed li jipprova jagħmel kollox.
Punti Ewlenin
- Dejjem ibda mill-każ ta’ użu, mhux mill-mudell
- Ivvaluta t-tlieta kompitu / kstraintijiet / baġit qabel tagħżel
- Il-kombinazzjonijiet multi-mudell spiss huma aktar effettivi minn mudell wieħed
- Dejjem ittestja bid-dejta tiegħek stess qabel timpenja ruħek
- Mistral Small 4 huwa l-punt tal-bidu predefinit għall-biċċa l-kbira tal-każijiet