Przejdź do głównej treści
Polski— Wybierz język
Menu

Koszt, wydajność i wartość

Lekcja 11 z 14 Zaktualizowano 28 lipca 2026 Początkujący
Na tej stronie
  1. Ekonomia sztucznej inteligencji
  2. Jak działa rozliczanie API
  3. Porównanie kosztów Mistral
  4. Odczytywanie metryk wydajności
  5. Self-hosting kontra API: liczenie kosztów
  6. Wobec konkurencji
  7. Kluczowe wnioski

Ekonomia sztucznej inteligencji

Wybór modelu to nie tylko kwestia jakości odpowiedzi. W środowisku produkcyjnym koszt pojedynczego zapytania, szybkość generowania i opóźnienia mają równie duże znaczenie i często same decydują o losach projektu: świetna funkcja, która przy milionie zapytań kosztuje zbyt dużo, nie przetrwa pierwszego przeglądu budżetu. Ta lekcja da Ci klucze do oceny propozycji wartości modeli Mistral i porównania ich z konkurencją.

Jak działa rozliczanie API

API Mistral rozlicza zużycie, wyróżniając dwa strumienie. Tokeny wejściowe odpowiadają wszystkiemu, co wysyłasz do modelu: instrukcji, kontekstowi, załączonym dokumentom, historii rozmowy. Tokeny wyjściowe odpowiadają tekstowi wygenerowanemu w odpowiedzi. Obie kategorie są wyceniane osobno, w dolarach za milion tokenów, przy czym jeden token reprezentuje około trzech czwartych słowa w języku angielskim.

Przykład konkretyzuje mechanikę działania. Przesyłasz dokument liczący 2000 słów, czyli około 2700 tokenów, a model generuje odpowiedź liczącą 500 słów, czyli około 670 tokenów. Koszt zapytania to suma 2700 tokenów rozliczonych według stawki wejściowej i 670 tokenów rozliczonych według stawki wyjściowej. Izolowana kwota jest znikoma. Pomnożona przez kilka tysięcy codziennych zapytań staje się pozycją budżetową, z której będziesz musiał się tłumaczyć przed działem finansów. To obliczenie wyjaśnia również, dlaczego redukcja rozmiaru wysyłanego kontekstu – poprzez filtrowanie dokumentów zamiast dołączania ich wszystkich – jest pierwszym dostępnym dźwigniem obniżania kosztów.

Porównanie kosztów Mistral

Model Poziom Koszt względny Szybkość Typowe zastosowanie
Ministral 3 (3B-8B) Open Bardzo niski (self-host) / Niski (API) Bardzo szybki Klasyfikacja, proste zadania, edge
Mistral Small 4 Open Niski Szybki Zastosowania ogólne, chatbot, RAG
Mistral Medium 3.1 Premier Średni Średni Zadania złożone, multimodalne
Mistral Large 3 Open Wysoki Wolny Maksymalna jakość, badania
Magistral Medium 1.2 Premier Wysoki Wolny (chain-of-thought) Rozumowanie, matematyka, analiza

Dokładne ceny zmieniają się regularnie: zawsze sprawdzaj oficjalną stronę cennika Mistral, aby uzyskać aktualne stawki. Powyższe wartości wskazują jedynie względne wielkości, przydatne do rozumowania, ale nie do budowania budżetu.

Odczytywanie metryk wydajności

Przepustowość, wyrażona w tokenach na sekundę, determinuje postrzeganą płynność działania. W przypadku chatbota przepustowość rzędu 30–50 tokenów na sekundę wystarcza: odpowiedź wyświetla się szybciej, niż użytkownik ją czyta. Przy uzupełnianiu kodu w IDE poprzeczka rośnie do 100 tokenów na sekundę i więcej, ponieważ sugestia, która pojawia się dopiero po tym, jak programista zakończył wpisywanie linii, nie ma żadnej wartości. Kompaktowe modele, takie jak Ministral czy Small 4, naturalnie generują tekst szybciej niż ciężkie modele, takie jak Large 3 czy Magistral, co często czyni je preferowanym wyborem, nawet gdy ich jakość jest nieco niższa.

Czas do pierwszego tokena (TTFT) mierzy opóźnienie przed pojawieniem się pierwszego znaku odpowiedzi. To najważniejsza metryka dla postrzeganego doświadczenia: powyżej dwóch–trzech sekund użytkownik wierzy, że system się zawiesił, nawet jeśli pełna odpowiedź pojawi się bardzo szybko afterward. Na to opóźnienie wpływają trzy czynniki: rozmiar modelu, długość promptu do przetworzenia przed rozpoczęciem odpowiedzi oraz obciążenie serwera, ponieważ jednoczesne zapytania dzielą tę samą pojemność. Całkowite opóźnienie łączy TTFT i właściwy czas generowania, czyli liczbę wyprodukowanych tokenów pomnożoną przez czas jednostkowy.

Self-hosting kontra API: liczenie kosztów

API wygrywa ekonomicznie w trzech sytuacjach. Niska lub umiarkowana liczba zapytań, rzędu kilku tysięcy dziennie, nie uzasadnia angażowania serwera. Użycie przerywane – przetwarzanie na koniec miesiąca, sezonowy skok – pozostawiałoby GPU bezczynne przez resztę czasu. Zróżnicowane potrzeby, wymagające dostępu do kilku modeli, mnożyłyby infrastrukturę do administrowania.

Self-hosting staje się ponownie opłacalny, gdy wolumen jest wysoki i stały, rzędu dziesiątek tysięcy zapytań dziennie, gdy jeden model pokrywa całe Twoje zapotrzebowanie i gdy już posiadasz infrastrukturę GPU, w chmurze lub on-premise. Ten ostatni punkt jest decydujący: amortyzacja istniejącej inwestycji sprzętowej całkowicie zmienia równanie.

Punkt równowagi obliczasz w czterech krokach: oszacuj miesięczny wolumen tokenów wejściowych i wyjściowych, oblicz odpowiadający mu koszt API, wycen serwer GPU zdolny do obsłużenia tego wolumenu, a następnie porównaj wyniki. Self-hosting staje się opłacalny, gdy koszt GPU spadnie poniżej kosztu API. W praktyce próg ten oscyluje wokół kilkuset dolarów miesięcznie w konsumpcji API – ale nie zapomnij dodać do kosztu GPU czasu inżynierskiego wymaganego do jego obsługi, którego nikt nie fakturowuje, ale każdy płaci.

Wobec konkurencji

Mistral pozycjonuje się korzystnie pod względem wartości, z niuansami zależnymi od przeciwnika. W starciu z OpenAI i GPT-5.6, Small 4 oferuje porównywalną wydajność przy generalnie niższym koszcie, dodając zaletę open source. W konfrontacji z Anthropic i Claude pozycjonowanie jakościowe jest podobne, a różnicowanie opiera się na otwartości wag i europejskim suwerenności. Wobec Gemini od Google konkurencyjność jest realna w zadaniach tekstowych, ze specjalistami takimi jak Voxtral i Codestral, których katalogi konkurentów nie dorównują. W starciu z Llama od Meta rywalizacja toczy się twarzą w twarz na gruncie open source, przy czym Mistral przeciwstawia wydajniejsze architektury MoE. To, co trwale wyróżnia Mistral, wynika z połączenia tych trzech elementów: wydajności, otwartości i europejskiego ekosystemu.

Kluczowe wnioski

  • Rozliczanie API odbywa się za token (wejście i wyjście osobno)
  • Szybkość i opóźnienie są tak samo ważne jak jakość w produkcji
  • Self-hosting staje się opłacalny powyżej pewnego wolumenu zapytań
  • Mistral oferuje konkurencyjną propozycję wartości, wzmocnioną przez open source
  • Zawsze sprawdzaj aktualne ceny na oficjalnej stronie przed podjęciem decyzji

Stawki na dzień 5 sierpnia 2026 r. – ceny zmieniają się regularnie: przed jakimkolwiek obliczeniem budżetu zweryfikuj aktualny cennik na oficjalnej stronie cenowej Mistral.