Náklady, výkon a hodnota
Na této stránce
Ekonomika umělé inteligence
Výběr modelu není jen o kvalitě odpovědí. V produkčním prostředí mají stejně velkou váhu náklady na požadavek, rychlost generování a latence. Často právě tyto faktory samy rozhodují o osudu projektu: skvělá funkce, která při milionu požadavků stojí příliš mnoho, nepřežije první revizi rozpočtu. Tato lekce ti dá klíče k vyhodnocení hodnotové propozice modelů Mistral a jejímu porovnání s konkurencí.
Jak funguje fakturace API
API společnosti Mistral fakturuje na základě využití a rozlišuje dva toky. Vstupní tokeny odpovídají všemu, co modelu pošleš: pokyn, kontext, připojené dokumenty, historii konverzace. Výstupní tokeny odpovídají textu vygenerovanému jako odpověď. Oba typy jsou oceňovány samostatně v dolarech za milion tokenů, přičemž jeden token představuje zhruba tři čtvrtiny slova v angličtině.
Příklad uvede mechaniku do praxe. Odešleš dokument o 2 000 slovech, což je přibližně 2 700 tokenů, a model vytvoří odpověď o 500 slovech, tedy zhruba 670 tokenů. Náklady na požadavek jsou součtem 2 700 tokenů zúčtovaných podle vstupní sazby a 670 tokenů zúčtovaných podle výstupní sazby. Izolovaně je tato částka zanedbatelná. Vynásobeno několika tisíci denních požadavků se z ní však stává rozpočtová položka, kterou si finance vyžádají obhájit. Tento výpočet také vysvětluje, proč je zmenšení velikosti odesílaného kontextu – filtrováním dokumentů místo jejich všech připojení – první pákou dostupnou pro snížení nákladů.
Porovnání nákladů Mistral
| Model | Úroveň | Relativní náklady | Rychlost | Typické použití |
|---|---|---|---|---|
| Ministral 3 (3B-8B) | Open | Velmi nízké (vlastní hosting) / Nízké (API) | Velmi rychlé | Klasifikace, jednoduché úlohy, edge |
| Mistral Small 4 | Open | Nízké | Rychlé | Obecné použití, chatbot, RAG |
| Mistral Medium 3.1 | Premier | Střední | Střední | Složité úlohy, multimodální |
| Mistral Large 3 | Open | Vysoké | Pomalé | Maximální kvalita, výzkum |
| Magistral Medium 1.2 | Premier | Vysoké | Pomalé (chain-of-thought) | Usuzování, matematika, analýza |
Přesné ceny se pravidelně mění: vždy si ověř aktuální sazby na oficiální stránce ceníku Mistral. Výše uvedené hodnoty ukazují pouze relativní velikosti, které jsou užitečné pro úvahy, nikoliv však pro sestavování rozpočtu.
Čtení metrik výkonu
Propustnost, vyjádřená v tokenech za sekundu, určuje vnímanou plynulost. Pro chatbota stačí propustnost 30 až 50 tokenů za sekundu: odpověď se zobrazuje rychleji, než ji uživatel stihne přečíst. Pro doplňování kódu v IDE laťka stoupá na 100 tokenů za sekundu a více, protože návrh, který dorazí až poté, co vývojář dokončil psaní řádku, nemá žádnou hodnotu. Kompaktní modely jako Ministral nebo Small 4 přirozeně generují rychleji než těžké modely jako Large 3 nebo Magistral, což je často činí preferovanými, i když je jejich kvalita mírně nižší.
Doba do prvního tokenu (TTFT) měří zpoždění před zobrazením prvního znaku odpovědi. Toto je nejkritičtější metrika pro vnímanou zkušenost: po dvou až třech sekundách si uživatel myslí, že systém zasekl, i když celá odpověď dorazí velmi rychle poté. Na toto zpoždění mají vliv tři faktory: velikost modelu, délka promptu, který je třeba zpracovat před zahájením odpovědi, a zatížení serveru, protože simultánní požadavky sdílejí stejnou kapacitu. Celková latence kombinuje TTFT a vlastní dobu generování, tedy počet vyprodukovaných tokenů vynásobený jednotkovým časem.
Vlastní hosting versus API: Udělej si kalkulaci
API vítězí ekonomicky ve třech situacích. Nízký až střední objem, řádově několik tisíc požadavků denně, neospravedlňuje vázání serveru. Přerušované využití – zpracování na konci měsíce, sezónní špička – by nechalo GPU zbytek času běžet naprázdno. A různé potřeby, které předpokládají přístup k několika modelům, by znásobily infrastrukturu nutnou ke správě.
Vlastní hosting se opět stává výhodným, když je objem vysoký a konstantní, řádově desítky tisíc požadavků denně, když jeden model pokrývá celou tvou potřebu a když již máš infrastrukturu GPU, ať už v cloudu nebo na místě. Tento poslední bod je rozhodující: amortizace existující investice do hardwaru mění rovnici zcela zásadně.
Bod zvratu vypočítáš ve čtyřech krocích: odhadni měsíční objem vstupních a výstupních tokenů, vypočítej odpovídající náklady na API, ocení server GPU schopný tento objem absorbovat a poté porovnej. Vlastní hosting se vyplatí, jakmile náklady na GPU klesnou pod náklady na API. V praxi se práh pohybuje kolem několika set dolarů měsíčně za spotřebu API – ale nezapomeň k nákladům na GPU připočítat inženýrský čas potřebný k provozu, který nikdo nefakturuje, ale každý ho platí.
Proti konkurenci
Mistral se příznivě umisťuje z hlediska hodnoty, s nuancemi v závislosti na soupeři. Proti OpenAI a GPT-5.6 nabízí Small 4 srovnatelný výkon při obecně nižších nákladech a přidává výhodu open source. Proti Anthropic a Claude je pozicionování kvality podobné a diferenciace hraje na otevřenost váhy a evropskou suverenitu. Proti Gemini od Google je konkurenceschopnost reálná u textových úloh, se specialisty jako Voxtral a Codestral, kterým katalogy konkurentů neodpovídají. Proti Llama od Meta je soutěž hlavu na hlavu na půdě open source, přičemž Mistral противопоставuje efektivnější architektury MoE. To, co Mistral trvale odlišuje, spočívá v kombinaci těchto tří prvků: výkon, otevřenost a evropský ekosystém.
Klíčové poznatky
- Fakturace API je za token (vstup a výstup samostatně)
- Rychlost a latence jsou pro produkci stejně důležité jako kvalita
- Vlastní hosting se vyplatí nad určitým objemem požadavků
- Mistral nabízí konkurenceschopnou hodnotovou propozici, posílenou open source
- Před rozhodnutím si vždy ověř aktuální ceny na oficiálním webu
Sazby k 5. srpnu 2026 – ceny se pravidelně mění: před jakýmkoli výpočtem rozpočtu si ověř aktuální ceník na oficiálním ceníku Mistral.