Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Kulu, jõudlus ja väärtus

Õppetund 11 / 14 Värskendatud 28. juuli 2026 Algajatele
Sellel lehel
  1. Tehisintellekti majandus
  2. Kuidas API arveldus toimib
  3. Mistrali kulude võrdlus
  4. Jõudlusnäitajate lugemine
  5. Oma majutus vs API: arvutuste tegemine
  6. Konkurentide vastu
  7. Peamised punktid

Tehisintellekti majandus

Mudeli valimisel ei piisa ainult vastuste kvaliteedi hindamisest. Tootmiskeskkonnas on sama suur kaal kulul päringu kohta, genereerimiskiirusel ja latentsusel ning sageli otsustavad just need projekti saatuse: funktsioon, mis miljoni päringu juures liiga palju maksab, ei pääse esimesest eelarveülevaatusest üle. See tund annab sulle võtmed Mistrali mudelite väärtuspakkumise hindamiseks ja võrdlemiseks konkurentidega.

Kuidas API arveldus toimib

Mistrali API arveldab kasutuse põhjal, eristades kaht voogu. Sisendtokenid hõlmavad kõike, mida mudelile saadad: juhised, kontekst, lisatud dokumendid ja vestluse ajalugu. Väljundtokenid vastavad vastusena genereeritud tekstile. Mõlemat hinnastatakse eraldi, dollarites miljoni tokeni kohta, kusjuures üks token vastab inglise keeles umbes kolmele veerandile sõnast.

Toome konkreetse näite. Saadad mudelile 2000-sõnalise dokumendi ehk umbes 2700 tokenit ja mudel genereerib 500-sõnalise vastuse ehk umbes 670 tokenit. Päringu maksumus on 2700 tokenit sisendhinnaga pluss 670 tokenit väljundhinnaga. Iseseisvalt võttes on see summa tühine. Korrutatuna mitme tuhande igapäevase päringuga, muutub see eelarvereaiks, mida rahandusosakond sinult põhjendust ootab. See arvutus selgitab ka seda, miks saadetava konteksti suuruse vähendamine – dokumentide filtreerimine nende kõigi lisamise asemel – on esimene hoob kulude kärpimiseks.

Mistrali kulude võrdlus

Mudel Tase Suhteline kulu Kiirus Tüüpiline kasutus
Ministral 3 (3B-8B) Avatud Väga madal (oma majutus) / Madal (API) Väga kiire Klassifitseerimine, lihtsad ülesanded, ääresarved
Mistral Small 4 Avatud Madal Kiire Üldkasutus, vestlusrobot, RAG
Mistral Medium 3.1 Premier Keskmine Keskmine Komplekssed ülesanded, multimoodne
Mistral Large 3 Avatud Kõrge Aeglane Maksimaalne kvaliteet, teadustöö
Magistral Medium 1.2 Premier Kõrge Aeglane (mõtteahel) Põhjendamine, matemaatika, analüüs

Täpsed hinnad muutuvad regulaarselt: kontrolli alati Mistrali ametlikku hinnakirja lehte jooksvate hindade jaoks. Ülaltoodud väärtused näitavad vaid suhtelisi suurusi, mis on kasulikud arutlemiseks, kuid mitte eelarve koostamiseks.

Jõudlusnäitajate lugemine

Läbilaskevõime, väljendatuna tokenites sekundis, määrab tajutava sujuvuse. Vestlusroboti puhul piisab läbilaskevõimest 30–50 tokenit sekundis: vastus kuvatakse kiiremini, kui kasutaja jõuab seda lugeda. Koodi lõpetamisel IDE-s tõuseb lati 100 tokenini sekundis ja enam, sest ettepanekul, mis saabub alles pärast seda, kui arendaja on rea lõpetanud, pole väärtust. Kompaktsed mudelid nagu Ministral või Small 4 genereerivad loomulikult kiiremini kui rasked mudelid nagu Large 3 või Magistral, mis teeb need sageli eelistatuks isegi siis, kui nende kvaliteet on veidi madalam.

Aeg esimese tokenini (TTFT) mõõdab viivitust enne vastuse esimese märgi ilmumist. See on tajutava kasutajakogemuse jaoks kriitilisim näitaja: üle kahe-kolme sekundi arvab kasutaja, et süsteem on kinni jäänud, isegi kui kogu vastus saabub seejärel väga kiiresti. Sellele viivitusele avaldavad mõju kolm tegurit: mudeli suurus, enne vastamise alustamist töödeldava vihje pikkus ja serveri koormus, kuna samaaegsed päringud jagavad sama võimsust. Kogu latentsus ühendab TTFT-i ja tegeliku genereerimisaja, ehk toodetud tokenite arvu korrutatuna ühikajaga.

Oma majutus vs API: arvutuste tegemine

API võidab majanduslikult kolmes olukorras. Madal kuni mõõdukas maht, suurusjärgus mõni tuhat päringut päevas, ei õigusta serveri sidumist. Katkendlik kasutus – kuu lõpu töötlemine, hooajaline tipp – jätaks GPU ülejäänud aja jõude seisma. Ja varieeruvad vajadused, mis eeldavad juurdepääsu mitmele mudelile, korrutaksid hallatava taristu mahtu.

Oma majutus muutub taas kasulikuks, kui maht on kõrge ja püsiv, suurusjärgus kümned tuhanded päringud päevas, kui üksainus mudel katab kogu sinu vajaduse ja kui sul on juba olemas GPU-taristu, olgu siis pilves või kohapeal. See viimane punkt on otsustav: olemasoleva riistvarainvesteeringu amortiseerimine muudab võrrandi täielikult.

Arvutad tasuvuspunkti neljas sammus: hinda oma sisend- ja väljundtokenite kuumahtu, arvuta vastav API kulu, hinna GPU-server, mis suudab selle mahu neelata, ja seejärel võrdle. Oma majutus muutub kasumlikuks niipea, kui GPU kulu langeb alla API oma. Praktikas asub lävi mõnesaja dollari juures kuises API tarbimises – kuid ära unusta liita GPU kulule inseneritöö aeg, mida keegi ei arvele, kuid mida kõik maksavad.

Konkurentide vastu

Mistral positsioneerib end väärtuse osas soodsalt, nüansid sõltuvad vastasest. OpenAI ja GPT-5.6 vastu pakub Small 4 võrreldavat jõudlust üldiselt madalama hinnaga, lisades avatud lähtekoodi eelise. Anthropicu ja Claude’i vastu on kvaliteedi positsioneerimine sarnane ja eristumine mängib kaalu avatuse ja Euroopa suveräänsuse peale. Google’i Gemini vastu on konkurentsivõime tekstiülesannetes reaalne, spetsialistide nagu Voxtral ja Codestral olemasoluga, mida konkurentide kataloogid ei paku. Meta Llama vastu on konkurents otsene avatud lähtekoodi maastikul, kus Mistral seab vastu tõhusamad MoE-arhitektuurid. Mistrali püsivalt eristavaks teguriks on nende kolme elemendi kombinatsioon: jõudlus, avatus ja Euroopa ökosüsteem.

Peamised punktid

  • API arveldus toimub tokeni põhjal (sisend ja väljund eraldi)
  • Kiirus ja latentsus on tootmises sama olulised kui kvaliteet
  • Oma majutus muutub kasumlikuks üle teatud päringumahu
  • Mistral pakub konkurentsivõimelist väärtuspakkumist, mida tugevdab avatud lähtekood
  • Enne otsuse tegemist kontrolli alati jooksvaid hindu ametlikul saidil

Hinnad seisuga 5. august 2026 – hinnad muutuvad regulaarselt: enne eelarve arvutamist kontrolli jooksvat hinnakirja aadressil Mistrali ametlik hinnakiri.