Úrovne a ceny
Na tejto strane
Pochopte limity a ceny
AI Studio presadzuje limity rýchlosti, aby udržalo službu stabilnú. Tieto limity sa líšia podľa úrovne predplatného a určujú objem požiadaviek a tokenov, ktoré môžete spotrebovať. Výber úrovne nie je len administratívnym zaškrtnutím: je to rozhodnutie, ktoré priamo ovplyvňuje vaše náklady a správanie vašej aplikácie počas špičky.
Dva typy limitov
Mistral uplatňuje na každý pracovný priestor dve súčasné kontrolné mechanizmy. Ak narazíte na ktorýkoľvek z nich, vaše volania zlyhajú. Prvý, požiadavky za sekundu (RPS), obmedzuje počet odoslaných požiadaviek API za sekundu; ak ho prekročíte, API vráti chybu 429 Too Many Requests. Druhý sa týka tokenov za minútu a za mesiac: meria spotrebovaný objem pre vstup aj výstup, platí na úrovni pracovného priestoru a je zdieľaný medzi všetkými používateľmi, ktorí majú prístup. Tím šiestich vývojárov pracujúcich na rovnakom kľúči minie túto kvótu šesťkrát rýchlejšie ako jednotlivý vývojár, čo je fakt, ktorý sa pri prvom návale prevádzky systematicky prehliada.
Oprava zaberie len niekoľko riadkov: keď nastane chyba 429, pred opakovaným pokusom počkajte a s každým pokusom čas čakania zvýšte, namiesto toho, aby ste API zahlcovali.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Úrovne predplatného
Bezplatná úroveň API, nazývaná aj Experiment, je určená na prieskum. Jej RPS zostáva nízke, okolo niekoľkých požiadaviek za sekundu, a jej mesačný objem tokenov je obmedzený; všetky modely zostávajú dostupné, ale so zníženými kvótami, bez SLA a bez vyhradenej podpory. Funguje perfektne na objavovanie modelov Mistral, prototypovanie aplikácie alebo spúšťanie funkčných testov – a rýchlo vás naučí, aké to je dostať chybu 429, ak sa na nej pokúsite spustiť demo pre klienta.
Platená úroveň Scale je postavená pre produkciu. RPS je vyššie, aby zvládlo reálnu prevádzku, mesačný objem tokenov je rozšírený a fakturácia sa po predplatnom prepína na platbu podľa využitia so štandardnou technickou podporou. Toto je očakávaná úroveň pre produkčnú aplikáciu so strednou až vysokou prevádzkou, pre profesionálny vývojársky tím a všeobecne vždy, keď potrebujete predvídateľný výkon.
Nakoniec, úroveň Enterprise sa dojednáva individuálne s obchodným tímom Mistral. Odomkne personalizované limity, garantované SLA pre dostupnosť a latenciu, vyhradenú podporu s technickým kontaktnou osobou, prístup k možnostiam Dedicated Serverless a Self-Hosted a šité na mieru zmluvné podmienky – vrátane Dohody o spracovaní údajov (DPA) a súladu s GDPR. Toto je povinné, keď si vaši vlastní klienti zmluvne vyžadujú záväzky týkajúce sa služby.
Skontrolujte svoje aktuálne limity
Presné hodnoty platné pre váš pracovný priestor nie sú odhadované: sú uvedené v administrátorskom dashboarde.
https://admin.mistral.ai/plateforme/limits
Tu nájdete svoje limity RPS pre každý model, spotrebu tokenov za minútu a za mesiac, históriu tejto spotreby a upozornenia spustené pri blížiacich sa prahoch. Urobte si zvyk otvoriť túto stránku pred akýmkoľvek plánovaným zvýšením kapacity, nie až po prvom incidente.
Optimalizujte svoje náklady
Najúčinnejšou pákou je výber modelu, keďže nie všetky modely stoja rovnako za token. Vyhraďte si Mistral Large 3 pre komplexné úlohy – logické usudzovanie, generovanie dlhých textov, analýzu zmluvných dokumentov – a jednoduché spracovanie, ako je klasifikácia alebo extrakcia polí, priraďte modelu Mistral Small. Keď záleží viac na latencii ako na nuansách odpovede, stojí za to otestovať Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Samotnú spotrebu môžete následne znížiť v malých krokoch. Stručný systémový prompt ušetrí tokeny pri každom volaní, nielen raz; max_tokens obmedzuje dĺžku odpovede a vyhýba sa nákladným odbočkám; streamovanie neznižuje účet, ale výrazne zlepšuje zážitok pri dlhých odpovediach; nakoniec, ukladanie odpovedí na opakujúce sa otázky na strane aplikácie úplne eliminuje potrebu volania.
Samozrejme, musíte to merať. Logujte tokeny pre každé volanie: bez tejto inštrumentácie zistíte prekročenie nákladov až v momente, keď dorazí faktúra.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Kedy prejsť na vyššiu úroveň
Štyri signály by mali spustiť konverzáciu s Mistralom: opakujúce sa chyby 429, mesačná spotreba dosahujúca 80 % kvóty, potreba SLA, ktorú musíte predložiť svojim klientom, alebo spracovanie citlivých údajov vyžadujúcich izoláciu. Prvý z týchto štyroch signálov stačí; ostatné tri prichádzajú zriedka samostatne.
Kľúčové poznatky
- Limity platia na úrovni pracovného priestoru (RPS + tokeny/minútu/mesiac)
- Bezplatná úroveň stačí na prototypovanie; úroveň Scale je určená pre produkciu
- Presné limity skontrolujte na
admin.mistral.ai/plateforme/limits - Náklady optimalizujte výberom modelu vhodného pre každú úlohu
- Implementujte exponenciálne oneskorenie (exponential backoff) na zvládnutie obmedzenia rýchlosti v produkcii