Poziomy dostępu i cennik
Na tej stronie
Zrozumienie limitów i cen
AI Studio stosuje limity szybkości (rate limits), aby utrzymać stabilność usługi. Limity te różnią się w zależności od poziomu subskrypcji i określają wolumen żądań oraz tokenów, które możesz zużyć. Wybór poziomu to nie tylko formalne odhaczenie pola: to decyzja, która bezpośrednio wpływa na Twoje koszty i zachowanie aplikacji w godzinach szczytu.
Dwa rodzaje limitów
Mistral stosuje dwa jednoczesne mechanizmy kontroli dla każdego obszaru roboczego. Przekroczenie któregokolwiek z nich powoduje niepowodzenie wywołań. Pierwszy, żądania na sekundę (RPS), ogranicza liczbę żądań API wysyłanych w ciągu sekundy; jego przekroczenie skutkuje błędem API 429 Too Many Requests. Drugi dotyczy tokenów na minutę i na miesiąc: mierzy wolumen zużyty zarówno dla danych wejściowych, jak i wyjściowych, jest stosowany na poziomie obszaru roboczego i współdzielony przez wszystkich użytkowników mających do niego dostęp. Zespół sześciu programistów pracujących na tym samym kluczu zużywa ten limit sześć razy szybciej niż pojedynczy programista – fakt ten jest systematycznie pomijany podczas pierwszego skoku ruchu.
Rozwiązanie zajmuje kilka linii kodu: gdy wystąpi błąd 429, odczekaj przed ponowną próbą i zwiększaj czas oczekiwania przy każdej kolejnej próbie, zamiast „bombardować“ API.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Poziomy subskrypcji
Darmowy poziom API, zwany również Experiment, został stworzony do celów eksploracyjnych. Jego wskaźnik RPS jest niski, wynoszący kilka żądań na sekundę, a miesięczny wolumen tokenów jest ograniczony; wszystkie modele pozostają dostępne, ale z mniejszymi limitami, bez umowy SLA i bez dedykowanego wsparcia. Idealnie nadaje się do poznawania modeli Mistral, tworzenia prototypów aplikacji lub uruchamiania testów funkcjonalnych – szybko jednak przekonasz się, jak wygląda błąd 429, jeśli spróbujesz przeprowadzić na nim demonstrację dla klienta.
Płatny poziom Scale został zaprojektowany z myślą o środowisku produkcyjnym. Oferuje wyższy wskaźnik RPS, aby obsłużyć rzeczywisty ruch, rozszerzony miesięczny wolumen tokenów, a rozliczenie poza ramach subskrypcji odbywa się w oparciu o zużycie, wraz ze standardowym wsparciem technicznym. Jest to oczekiwany poziom dla aplikacji produkcyjnych o umiarkowanym lub dużym ruchu, dla profesjonalnych zespołów deweloperskich i ogólnie wszędzie tam, gdzie potrzebna jest przewidywalna wydajność.
Na koniec, poziom Enterprise jest negocjowany indywidualnie z zespołem sprzedaży Mistral. Odblokowuje spersonalizowane limity, gwarantowaną umowę SLA dotyczącą dostępności i opóźnień, dedykowane wsparcie z wyznaczonym kontaktem technicznym, dostęp do opcji Dedicated Serverless i Self-Hosted oraz dostosowane warunki umowne – w tym umowę przetwarzania danych (DPA) i zgodność z RODO. Jest to konieczne, gdy Twoi własni klienci wymagają od Ciebie umownych zobowiązań dotyczących poziomu usługi.
Sprawdź swoje obecne limity
Dokładne wartości obowiązujące w Twoim obszarze roboczym nie są zgadywane: są wymienione w panelu administracyjnym.
https://admin.mistral.ai/plateforme/limits
Znajdziesz tam swoje limity RPS dla każdego modelu, zużycie tokenów na minutę i na miesiąc, historię tego zużycia oraz alerty uruchamiane w miarę zbliżania się do progów. Przyjmij za zasadę otwieranie tej strony przed każdym planowanym zwiększeniem skali, a nie dopiero po wystąpieniu pierwszego incydentu.
Optymalizacja kosztów
Najskuteczniejszym dźwigiem jest wybór modelu, ponieważ nie wszystkie modele kosztują tyle samo za token. Rezerwuj Mistral Large 3 do zadań złożonych – rozumowania, generowania długich tekstów, analizy dokumentów umownych – a proste przetwarzanie, takie jak klasyfikacja czy ekstrakcja pól, powierzaj modelowi Mistral Small. Gdy liczy się opóźnienie bardziej niż niuanse odpowiedzi, warto przetestować Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Samo zużycie można następnie redukować małymi krokami. Zwięzły monit systemowy (system prompt) oszczędza tokeny przy każdym wywołaniu, a nie tylko raz; parametr max_tokens ogranicza długość odpowiedzi i zapobiega kosztownym dygresjom; strumieniowanie nie obniża rachunku, ale znacząco poprawia doświadczenie użytkownika przy długich odpowiedziach; wreszcie, buforowanie odpowiedzi na powtarzające się pytania po stronie aplikacji całkowicie eliminuje konieczność wywołania.
Oczywiście musisz to mierzyć. Loguj liczbę tokenów dla każdego wywołania: bez tej instrumentacji o przekroczeniu budżetu dowiesz się dopiero w momencie otrzymania faktury.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Kiedy przejść na wyższy poziom
Cztery sygnały powinny skłonić Cię do rozmowy z Mistral: powtarzające się błędy 429, miesięczne zużycie osiągające 80% limitu, potrzeba posiadania umowy SLA do przedstawienia własnym klientom lub przetwarzanie danych wrażliwych wymagające izolacji. Pierwszy z tych czterech sygnałów wystarczy; pozostałe trzy rzadko pojawiają się pojedynczo.
Kluczowe wnioski
- Limity są stosowane na poziomie obszaru roboczego (RPS + tokeny/minutę/miesiąc)
- Darmowy poziom wystarcza do tworzenia prototypów; poziom Scale jest przeznaczony dla środowiska produkcyjnego
- Sprawdź swoje dokładne limity pod adresem
admin.mistral.ai/plateforme/limits - Optymalizuj koszty, wybierając model odpowiedni do każdego zadania
- Wdróż wykładnicze opóźnienia (exponential backoff), aby obsługiwać limity szybkości w środowisku produkcyjnym