Úrovně a cenové podmínky
Na této stránce
Pochopte limity a cenové podmínky
AI Studio vynucuje omezení rychlosti (rate limits), aby zajistilo stabilitu služby. Tyto limity se liší podle úrovně předplatného a určují objem požadavků a tokenů, které můžete spotřebovat. Výběr úrovně není jen administrativním zaškrtnutím políčka: je to rozhodnutí, které přímo ovlivňuje vaše náklady a chování vaší aplikace během špiček.
Dva typy limitů
Mistral uplatňuje na každý pracovní prostor dvě současná omezení. Překročení kteréhokoli z nich způsobí selhání vašich volání. První, požadavky za sekundu (RPS), omezuje počet odeslaných požadavků API za sekundu; pokud jej překročíte, API vrátí chybu 429 Too Many Requests. Druhý se týká tokenů za minutu a za měsíc: měří spotřebovaný objem pro vstup i výstup, platí na úrovni pracovního prostoru a sdílejí ho všichni uživatelé s přístupem. Tým šesti vývojářů pracujících na stejném klíči spálí tuto kvótu šestkrát rychleji než samostatný vývojář, což je fakt, který se při prvním náporu provozu systematicky přehlíží.
Řešení zabere jen několik řádků: když nastane chyba 429, před dalším pokusem vyčkejte a s každým pokusem dobu čekání prodlužujte, místo abyste API zahlcovali.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Úrovně předplatného
Bezplatná úroveň API, nazývaná také Experiment, je určena pro průzkum. Její RPS zůstává nízké, kolem několika požadavků za sekundu, a její měsíční objem tokenů je omezený; všechny modely zůstávají dostupné, ale se sníženými kvótami, bez SLA a bez vyhrazené podpory. Funguje perfektně pro objevování modelů Mistral, prototypování aplikace nebo spouštění funkčních testů – a rychle vás naučí, jaké to je dostat chybu 429, pokud se na ní pokusíte spustit demo pro klienta.
Placená úroveň Scale je postavena pro produkční nasazení. RPS je vyšší, aby zvládlo reálný provoz, měsíční objem tokenů je rozšířen a fakturace se po překročení předplatného přepíná na platbu podle využití, včetně standardní technické podpory. Toto je očekávaná úroveň pro produkční aplikace se středním až vysokým provozem, pro profesionální vývojové týmy a obecně vždy, když potřebujete předvídatelný výkon.
Úroveň Enterprise se konečně sjednává individuálně s obchodním týmem Mistral. Odemyká personalizované limity, garantované SLA pro dostupnost a latenci, vyhrazenou podporu s technickým kontaktním člověkem, přístup k možnostem Dedicated Serverless a Self-Hosted a šité na míru ušité smluvní podmínky – včetně Dohody o zpracování dat (DPA) a souladu s GDPR. Toto je povinné, když vaši vlastní klienti smluvně vyžadují závazky týkající se služby.
Kontrola vašich aktuálních limitů
Přesné hodnoty platné pro váš pracovní prostor se nehádají: jsou uvedeny v administrátorském dashboardu.
https://admin.mistral.ai/plateforme/limits
Zde najdete své limity RPS pro každý model, spotřebu tokenů za minutu a za měsíc, historii této spotřeby a upozornění spuštěná při blížícím se dosažení prahových hodnot. Zvykněte si otevírat tuto stránku před jakýmkoli plánovaným navýšením kapacity, nikoliv až po prvním incidentu.
Optimalizace nákladů
Nejúčinnější pákou je výběr modelu, protože ne všechny modely stojí za token stejně. Vyhraďte si Mistral Large 3 pro složité úkoly – logické usuzování, generování dlouhých textů, analýzu smluvních dokumentů – a jednoduché zpracování, jako je klasifikace nebo extrakce polí, přiřaďte modelu Mistral Small. Když záleží více na latenci než na nuancích odpovědi, stojí za to otestovat Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Samotnou spotřebu lze následně snížit v malých krocích. Stručný systémový prompt ušetří tokeny při každém volání, nejen jednou; max_tokens omezí délku odpovědi a zabrání nákladným odbočkám; streamování nesníží účet, ale výrazně zlepší zážitek u dlouhých odpovědí; nakonec ukládání odpovědí na opakující se otázky na straně aplikace zcela eliminuje potřebu volání.
Samozřejmě to musíte měřit. Protokolujte tokeny pro každé volání: bez této instrumentace zjistíte překročení nákladů až ve chvíli, kdy dorazí faktura.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Kdy přejít na vyšší úroveň
Čtyři signály by měly spustit konverzaci s Mistralem: opakující se chyby 429, měsíční spotřeba dosahující 80 % kvóty, potřeba SLA k předložení vašim vlastním klientům nebo zpracování citlivých dat vyžadující izolaci. První z těchto čtyř stačí; ostatní tři přicházejí zřídka samy.
Klíčové poznatky
- Limity platí na úrovni pracovního prostoru (RPS + tokeny/minuta/měsíc)
- Bezplatná úroveň stačí pro prototypování; úroveň Scale je pro produkci
- Přesné limity zkontrolujte na
admin.mistral.ai/plateforme/limits - Optimalizujte náklady výběrem modelu vhodného pro každý úkol
- Implementujte exponenciální backoff pro řešení omezení rychlosti v produkci