Kaip pasirinkti savo Mistral vizijos modelį
Šiame puslapyje
Kurį modelį rinktis konkrečiam panaudojimo atvejui?
„Mistral“ siūlo keletą vaizdus apdoroti gebančių modelių, kurių kiekvienas pasižymi savitomis kokybės, greičio ir kainos savybėmis. Tinkamo modelio pasirinkimas nėra tik techninė detalė: tarp sunkiausio ir lengviausio modelių kainų santykis viršija dešimt kartų. Esant dešimties tūkstančių vaizdų srautui per mėnesį, šis sprendimas jūsų biudžetui daro didesnę įtaką nei bet kuri kita architektūros dalis.
Šioje pamokoje išsamiai aptariami kiekvieno vizijos modelio ypatumai ir pateikiamas metodas, kaip pasirinkti jūsų poreikius atitinkantį variantą.
Vizijos modelių palyginimas
Toliau pateiktoje lentelėje peržiūrimas 1 pamokoje pristatytas 2026 m. balandžio mėn. kraštovaizdis, papildant jais pagrindiniais rodikliais, kurie yra svarbūs priimant sprendimą.
| Modelis | Parametrai | Greitis | Kaina (įvestis/1 mln. tokenų) | Panaudojimo atvejai |
|---|---|---|---|---|
| Mistral Large 3 | ~123B | Vidutinis | ~2 USD | Išsami analizė, sudėtingas samprotavimas |
| Mistral Medium 3.1 | ~70B | Greitas | ~0,40 USD | Universalus, geriausias kainos ir kokybės santykis |
| Mistral Small 3.2 | ~24B | Labai greitas | ~0,10 USD | Dideli kiekiai, paprastas OCR, rūšiavimas |
| Ministral 3 14B | 14B | Labai greitas | ~0,10 USD | Pakraštys (edge), kritinė delsos trukmė, vietinis diegimas |
| Ministral 3 8B | 8B | Itin greitas | ~0,10 USD | Įterptinės sistemos, greita klasifikacija |
Kainos yra orientacinės ir gali skirtis – naujausius duomenis tikrinkite „Mistral“ kainodaros puslapyje.
Mistral Large 3 – kokybės etalonas
„Mistral Large 3“ yra pagrindinis vizijos modelis. Jo maždaug 123 mlrd. parametrai yra pateisinami trimis sritymis. Pirma, išsami analizė: diagramos su persidengiančiomis legendomis, anotuoti techniniai brėžiniai arba tankios naudotojo sąsajos – tai vaizdai, kuriuose pusė informacijos slypi smulkiame tekste ir elementų tarpusavio ryšiuose. Antra, daugiapakopis samprotavimas, kai klausimas lenkia paprastą aprašymą: „Peržiūrėk šią diagramą, nustatyk tendenciją ir paaiškink tikėtinas priežastis“ – tai grandinė iš trijų operacijų, kur trečioji priklauso nuo pirmųjų dviejų tikslumo. Galiausiai, struktūruotas duomenų išgavimas, kurio tikslas – paversti vaizdo turinį tinkamai suformatuotu JSON nekuriant ir nepraleidžiant jokių laukų.
from mistralai.client import Mistral
client = Mistral(api_key="YOUR_API_KEY")
# Large 3 sudėtingai analizei
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "user",
"content": [
{
"type": "text",
"text": "Analyze this financial chart. Identify the main trends and inflection points."
},
{
"type": "image_url",
"image_url": "https://example.com/financial-chart.png"
}
]
}
]
)
Naudok jį kritinei analizei, jautriems duomenims ir profesionalioms programoms, kuriose tikslumas svarbesnis už kainą. Neteisingai interpretuota sąskaitos suma kainuoja daugiau nei kainų skirtumas tarp dviejų modelių.
Mistral Small 3.2 – ekonomiškas pasirinkimas
Turėdamas apie 24 mlrd. parametrų, „Small 3.2“ siūlo tokį kokybės ir kainos santykį, kad tampa tikru darbo arkliu duomenų srautuose. Jis be sunkumų tvarko didelius kiekius – šimtus ar tūkstančius vaizdų per dieną – ir atlieka paprastą OCR aiškiam spausdintam tekstui: etiketėms, ženklams, dokumentų antraštėms. Kitas jo mėgstamas panaudojimo būdas – rūšiavimas: greitas vaizdų klasifikavimas, siekiant į sunkųjį modelį siųsti tik tuos, kurie to tikrai nusipelno.
# Small 3.2 dideliems kiekiams apdoroti
response = client.chat.complete(
model="mistral-small-latest",
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": "Read the text visible on this product label."},
{"type": "image_url", "image_url": "https://example.com/label.jpg"}
]
}
]
)
Tai tinkamas pasirinkimas automatizuotiems srautams, MVP ir visiems atvejams, kai greitis ir kaina svarbesni už tobulumą paskutiniame procentilyje.
Ministral 3 – pakraščio (edge) modelis
„Ministral“ modeliai (14B ir 8B versijos) sukurti diegti vietinėje infrastruktūroje arba pakraščio (edge) įrenginiuose. Jų vertė slypi ne tiek žaliaviniame kokybės lygyje, kiek galimybėse, kurias jie suteikia: atsakymai per kelias šimtus milisekundžių, vykdymas vartotojiškos klasės GPU (pvz., RTX 4090 arba A10G) ir, svarbiausia, garantija, kad jokie duomenys neišeina iš jūsų infrastruktūros ribų. Gamybos linija, tikrinanti iš presų išeinančias detales, negali laukti tinklo užklausos grįžimo nei eksportuoti savo vaizdų.
# Ministral 14B talpinamas vietoje (per vLLM arba Ollama)
from mistralai.client import Mistral
client = Mistral(
api_key="local",
server_url="http://localhost:8000/v1"
)
response = client.chat.complete(
model="ministral-14b-2512",
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": "Does this image contain a manufacturing defect?"},
{"type": "image_url", "image_url": "data:image/jpeg;base64,/9j/4AAQ..."}
]
}
]
)
Atkreipk dėmesį į server_url, nukreiptą į tavo paties serverį: likusi kodo dalis yra visiškai identiška. Tipiški panaudojimo atvejai apima pramoninę inspekciją, sveikatos priežiūrą, veiklą be ryšio aplinkose ir konfidencialių duomenų tvarkymą.
Sprendimų medis
Pradedant naują projektą, lemiamiausias klausimas yra vieta: jei duomenys turi likti vietinėje infrastruktūroje, diskusija baigiasi pasirenkant „Ministral 3“ (14B – kokybei, 8B – įterptiniams įrenginiams). Jei debesija yra priimtina, tuomet spręsk pagal apkrovos pobūdį. Kritinė analizės kokybė reikalauja „Mistral Large 3“; didelis vaizdų kiekis rodo į „Mistral Small 3.2“; o kai nė vienas iš šių apribojimų nėra dominuojantis, „Mistral Medium 3.1“ siūlo bendrą kompromisą.
Modelio keitimas kode
Visa šios unifikuotos API prasmė ta, kad pasirinkimas lieka grįžtamas. Perėjimas nuo vieno modelio prie kito reikalauja pakeisti tik vieną eilutę, neliečiant žinučių konstravimo:
# Perjungimas iš Small į Large pakeičiant tik modelį
model = "mistral-small-latest" # kūrimas, testavimas
# model = "mistral-large-latest" # gamyba, maksimali kokybė
response = client.chat.complete(model=model, messages=messages)
Ši savybė leidžia įgyvendinti inteligentų maršrutizavimą, kurį matysi visame kurse: „Small“ atlieka viso srauto rūšiavimą, o „Large“ apdoroja tik sudėtingus atvejus. Partijoje, kurioje tik viena dešimta dalis vaizdų reikalauja išsamios analizės, sutaupomos lėšos yra didžiulės, nepakeičiant galutinės kokybės.
Svarbiausi punktai
- „Mistral Large 3“ siūlo geriausią kokybę, tačiau yra brangiausias
- „Mistral Small 3.2“ idealiai tinka dideliems kiekiams ir paprastiems uždaviniams
- „Ministral“ modeliai leidžia vietinį diegimą be priklausomybės nuo debesijos
- API yra identiška visiems modeliams – keičiasi tik
modelparametras - Inteligentus maršrutizavimas („Small“ rūšiavimui, „Large“ analizei) optimizuoja kainos ir kokybės santykį