Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Náklady, výkon a hodnota

Lekcia 11 z 14 Aktualizované 28. júla 2026 Začiatočník
Na tejto strane
  1. Ekonomika umelej inteligencie
  2. Ako funguje fakturácia API
  3. Porovnanie nákladov Mistral
  4. Čítanie metrík výkonu
  5. Self-hosting vs. API: Matematické porovnanie
  6. Proti konkurencii
  7. Kľúčové poznatky

Ekonomika umelej inteligencie

Výber modelu nie je len o kvalite odpovedí. V prevádzke majú rovnakú váhu náklady na požiadavku, rýchlosť generovania a latencia. Často práve tieto faktory rozhodujú o osude projektu: vynikajúca funkcia, ktorá pri milióne požiadaviek stojí príliš veľa, neprežije prvú kontrolu rozpočtu. Táto lekcia ti dáva kľúče na vyhodnotenie hodnotovej ponuky modelov Mistral a jej porovnanie s konkurenciou.

Ako funguje fakturácia API

API spoločnosti Mistral fakturuje na základe využitia a rozlišuje dva tokov. Vstupné tokeny zodpovedajú všetkému, čo pošleš modelu: inštrukciu, kontext, pripojené dokumenty, históriu konverzácie. Výstupné tokeny zodpovedajú textu vygenerovanému ako odpoveď. Obe sú cenené samostatne, v dolároch za milión tokenov, pričom jeden token predstavuje približne tri štvrtiny slova v angličtine.

Príklad konkretizuje mechanizmus. Odošleš dokument s 2 000 slovami, čo je približne 2 700 tokenov, a model vygeneruje odpoveď s 500 slovami, teda asi 670 tokenov. Náklady na požiadavku sú súčtom 2 700 tokenov fakturovaných podľa vstupnej sadzby a 670 tokenov fakturovaných podľa výstupnej sadzby. Izolovane je táto suma zanedbateľná. Vynásobená niekoľkými tisíckami denných požiadaviek sa však stáva položkou rozpočtu, ktorú si financie vyžiadajú odôvodniť. Tento výpočet tiež vysvetľuje, prečo je zmenšenie veľkosti odoslaného kontextu – filtrovaním dokumentov namiesto pripájania všetkých – prvou pákou na zníženie nákladov.

Porovnanie nákladov Mistral

Model Úroveň Relatívne náklady Rýchlosť Typické použitie
Ministral 3 (3B-8B) Open Veľmi nízke (self-host) / Nízke (API) Veľmi rýchly Klasifikácia, jednoduché úlohy, edge
Mistral Small 4 Open Nízke Rýchly Všeobecné použitie, chatbot, RAG
Mistral Medium 3.1 Premier Stredné Stredná Zložité úlohy, multimodálne
Mistral Large 3 Open Vysoké Pomalý Maximálna kvalita, výskum
Magistral Medium 1.2 Premier Vysoké Pomalý (chain-of-thought) Usudzovanie, matematika, analýza

Presné ceny sa pravidelne menia: aktuálne sadzby si vždy over na oficiálnej stránke cien spoločnosti Mistral. Uvedené hodnoty naznačujú len relatívne veľkosti, ktoré sú užitočné pre úvahy, nie však pre zostavovanie rozpočtu.

Čítanie metrík výkonu

Priepustnosť, vyjadrená v tokenoch za sekundu, určuje vnímanú plynulosť. Pre chatbota stačí priepustnosť 30 až 50 tokenov za sekundu: odpoveď sa zobrazí rýchlejšie, než ju používateľ stihne prečítať. Pri dopĺňaní kódu v IDE stúpa laťka na 100 tokenov za sekundu a viac, pretože návrh, ktorý dorazí až potom, čo vývojár dokončil písanie riadku, nemá žiadnu hodnotu. Kompaktné modely ako Ministral alebo Small 4 prirodzene generujú rýchlejšie než ťažké modely ako Large 3 alebo Magistral, čo ich často robí výhodnejšími, aj keď je ich kvalita mierne nižšia.

Čas do prvého tokenu (TTFT) meria oneskorenie pred objavením sa prvého znaku odpovede. Toto je najkritickejšia metrika pre vnímanú skúsenosť: po dvoch až troch sekundách si používateľ myslí, že systém zasekol, aj keď celá odpoveď dorazí veľmi rýchlo potom. Na toto oneskorenie vplývajú tri faktory: veľkosť modelu, dĺžka promptu, ktorý treba spracovať pred začatím odpovede, a zaťaženie servera, keďže súčasné požiadavky zdieľajú rovnakú kapacitu. Celková latencia kombinuje TTFT a vlastný čas generovania, čo znamená počet vyprodukovaných tokenov vynásobený jednotkovým časom.

Self-hosting vs. API: Matematické porovnanie

API ekonomicky vyhráva v troch situáciách. Nízky až stredný objem, rádovo niekoľko tisíc požiadaviek denne, neoprávňuje viazať server. Prerušované využitie – spracovanie na konci mesiaca, sezónny nárast – by nechalo GPU zvyšok času bežať nečinne. A rôznorodé potreby, ktoré si vyžadujú prístup k viacerým modelom, by znásobili infraštruktúru na správu.

Self-hosting sa opäť stáva výhodným pri vysokom a konštantnom objeme, rádovo desaťtisíce požiadaviek denne, keď jeden model pokrýva celú tvoju potrebu a keď už máš GPU infraštruktúru, v cloude alebo na mieste. Tento posledný bod je rozhodujúci: amortizácia existujúcej hardvérovej investície úplne mení rovnicu.

Bod zvratu vypočítaš v štyroch krokoch: odhadni mesačný objem vstupných a výstupných tokenov, vypočítaj zodpovedajúce náklady na API, oceni GPU server schopný absorbovať tento objem a potom porovnajte. Self-hosting sa stáva ziskovým hneď, ako náklady na GPU klesnú pod náklady na API. V praxi sa hranica pohybuje okolo niekoľkých stoviek dolárov mesačne v spotrebe API – nezabudni však k nákladom na GPU pripočítať inžiniersky čas potrebný na prevádzku, ktorý nikto nefakturuje, ale každý ho platí.

Proti konkurencii

Mistral sa priaznivo позиcionuje z hľadiska hodnoty, s nuansami v závislosti od súpera. Proti OpenAI a GPT-5.6 ponúka Small 4 porovnateľný výkon pri všeobecne nižších nákladoch a pridáva výhodu open source. Proti Anthropic a Claude je pozicionovanie kvality podobné a diferenciácia hrá na otvorenosť váh a európsku suverenitu. Proti Gemini od Google je konkurencieschopnosť reálna pri textových úlohách, so špecialistami ako Voxtral a Codestral, ktorým katalógy konkurentov neodpovedajú. Proti Llama od Meta je súťaž tvárou v tvár na poli open source, pričom Mistral oponuje efektívnejšími architektúrami MoE. To, čo trvalo odlišuje Mistral, spočíva v kombinácii týchto troch prvkov: výkon, otvorenosť a európsky ekosystém.

Kľúčové poznatky

  • Fakturácia API je za token (vstup + výstup samostatne)
  • Rýchlosť a latencia sú pre prevádzku rovnako dôležité ako kvalita
  • Self-hosting sa stáva ziskovým nad určitým objemom požiadaviek
  • Mistral ponúka konkurencieschopnú hodnotovú ponuku, posilnenú open source
  • Pred rozhodnutím si vždy over aktuálne ceny na oficiálnej stránke

Sadzby k 5. augustu 2026 – ceny sa pravidelne menia: pred akýmkoľvek výpočtom rozpočtu si over aktuálny cenník na oficiálnom cenníku Mistral.