Stroški, zmogljivost in vrednost
Na tej strani
Ekonomija umetne inteligence
Izbira modela ni zgolj vprašanje kakovosti odgovorov. V produkcijskem okolju imajo enako težo strošek na zahtevo, hitrost generiranja in zakasnitev (latenca). Pogosto prav ti dejavniki sami odločijo o usodi projekta: odlična funkcija, ki ob milijonu zahtev stane preveč, ne bo preživela prvega pregleda proračuna. Ta lekcija ti daje ključe za ovrednotenje vrednostne ponudbe modelov Mistral in njeno primerjavo s konkurenco.
Kako deluje obračunavanje API-ja
Mistralov API se obračunava glede na uporabo in razlikuje dva tokova. Vhodni žetoni (input tokens) ustrezajo vsemu, kar pošlješ modelu: navodilu, kontekstu, priloženim dokumentom in zgodovini pogovora. Izhodni žetoni (output tokens) ustrezajo besedilu, ki ga model ustvari kot odgovor. Oboje se zaračunava ločeno, v dolarjih na milijon žetonov, pri čemer en žeton predstavlja približno tri četrtine besede v angleščini.
Primer pojasni mehaniko. Pošlješ dokument z 2000 besedami, kar je približno 2700 žetonov, model pa ustvari odgovor s 500 besedami, torej približno 670 žetonov. Strošek zahteve je vsota 2700 žetonov, zaračunanih po vhodni tarifi, in 670 žetonov, zaračunanih po izhodni tarifi. Sam po sebi je ta znesek zanemarljiv. Pomnožen z več tisoč dnevnimi zahtevami pa postane proračunska postavka, ki jo bodo finance zahtevale, da utemeljiš. Ta izračun tudi pojasnjuje, zakaj je zmanjševanje velikosti poslanega konteksta – s filtriranjem dokumentov namesto prilaganja vseh – prvi vzvod za zniževanje stroškov.
Primerjava stroškov Mistral
| Model | Raven | Relativni strošek | Hitrost | Tipična uporaba |
|---|---|---|---|---|
| Ministral 3 (3B-8B) | Open | Zelo nizek (samostojno gostovanje) / Nizek (API) | Zelo hiter | Klasifikacija, preproste naloge, robni računalniki |
| Mistral Small 4 | Open | Nizek | Hiter | Splošna uporaba, klepetalni bot, RAG |
| Mistral Medium 3.1 | Premier | Srednji | Srednja | Kompleksne naloge, multimodalnost |
| Mistral Large 3 | Open | Visok | Počasen | Najvišja kakovost, raziskave |
| Magistral Medium 1.2 | Premier | Visok | Počasen (veriga razmišljanja) | Sklepanje, matematika, analiza |
Točne cene se redno spreminjajo: vedno preveri uradno stran s cenami Mistral za trenutne tarife. Zgornje vrednosti kažejo le relativne velikosti, ki so uporabne za razmislek, ne pa za sestavljanje proračuna.
Razumevanje meril zmogljivosti
Prepustnost (throughput), izražena v žetonih na sekundo, določa zaznano tekočnost. Za klepetalnega bota je prepustnost od 30 do 50 žetonov na sekundo dovolj: odgovor se prikaže hitreje, kot ga uporabnik prebere. Pri dopolnjevanju kode v razvojnem okolju (IDE) se lestvica dvigne na 100 žetonov na sekundo in več, saj predlog, ki prispe, ko je razvijalec že končal z vnosom vrstice, nima vrednosti. Kompaktni modeli, kot sta Ministral ali Small 4, naravno generirajo hitreje kot težki modeli, kot sta Large 3 ali Magistral, zaradi česar so pogosto preferable, tudi če je njihova kakovost rahlo nižja.
Čas do prvega žetona (TTFT) meri zamik, preden se prikaže prvi znak odgovora. To je najpomembnejši metrika za zaznano izkušnjo: če zamik preseže dve do tri sekunde, uporabnik meni, da se je sistem zatikal, tudi če celoten odgovor prispe zelo hitro zatem. Na ta zamik vplivajo trije dejavniki: velikost modela, dolžina poziva, ki ga je treba obdelati pred začetkom odziva, in obremenitev strežnika, saj si sočasne zahteve delijo isto zmogljivost. Skupna latenca združuje TTFT in dejanski čas generiranja, kar pomeni število proizvedenih žetonov, pomnoženo z enotskim časom.
Samostojno gostovanje proti API-ju: izračun
API je ekonomsko ugodnejši v treh situacijah. Nizka do zmerna količina, reda velikosti nekaj tisoč zahtev na dan, ne upravičuje vezave strežnika. Občasna uporaba – obdelava ob koncu meseca, sezonski vrhunci – bi pustila GPU brez dela preostali čas. Različne potrebe, ki zahtevajo dostop do več modelov, bi pomnožile infrastrukturo, ki jo je treba upravljati.
Samostojno gostovanje postane ponovno ugodno, ko je obseg visok in stalen, reda velikosti več deset tisoč zahtev na dan, ko en sam model pokriva vse tvoje potrebe in ko že imaš infrastrukturo GPU, bodisi v oblaku bodisi na lokaciji. Zadnja točka je odločilna: amortizacija obstoječe strojne naložbe popolnoma spremeni enačbo.
Točko preloma izračunaš v štirih korakih: oceni mesečni obseg vhodnih in izhodnih žetonov, izračunaj ustrezne stroške API-ja, določi ceno strežnika GPU, ki zmore absorbirati ta obseg, in nato primerjaj. Samostojno gostovanje postane dobičkonosno, takoj ko strošek GPU pade pod strošek API-ja. V praksi prag znaša nekaj sto dolarjev mesečne porabe API-ja – vendar ne pozabi k strošku GPU prišteti inženirskega časa, potrebnega za obratovanje, ki ga nihče ne zaračuna, vsi pa ga plačajo.
V primerjavi s konkurenco
Mistral se ugodno pozicionira glede vrednosti, z odtenki glede na nasprotnika. Proti OpenAI in GPT-5.6 ponuja Small 4 primerljivo zmogljivost pri na splošno nižjih stroških, kar dopolnjuje prednost odprte kode. Proti Anthropic in Claude je pozicioniranje kakovosti podobno, diferenciacija pa igra na karto odprtosti uteži in evropske suverenosti. Proti Googlovemu Gemini je konkurenčnost realna pri besedilnih nalogah, s specializiranimi modeli, kot sta Voxtral in Codestral, ki jih katalogi konkurentov ne morejo ponuditi. Proti Metinemu Llama je konkurenca neposredna na terenu odprte kode, pri čemer Mistral nasprotuje z učinkovitejšimi arhitekturami MoE. Tisto, kar trajno razlikuje Mistral, temelji na kombinaciji teh treh elementov: zmogljivost, odprtost in evropski ekosistem.
Ključne ugotovitve
- Obračunavanje API-ja je na žeton (vhodni + izhodni ločeno)
- Hitrost in latenca sta za produkcijo enako pomembni kot kakovost
- Samostojno gostovanje postane dobičkonosno nad določenim obsegom zahtev
- Mistral ponuja konkurenčno vrednostno ponudbo, okrepljeno z odprto kodo
- Pred odločitvijo vedno preveri trenutne cene na uradni strani
Tarife z dne 5. avgusta 2026 – cene se redno spreminjajo: pred vsakim izračunom proračuna preveri trenutni cenik na uradnem ceniku Mistral.