Tarifi un līmeņi
Šajā lapā
Izprast ierobežojumus un cenas
AI Studio piemēro ātruma ierobežojumus, lai nodrošinātu servisa stabilitāti. Šie ierobežojumi atšķiras atkarībā no abonementa līmeņa un nosaka pieprasījumu un tokena apjomu, ko vari patērēt. Līmeņa izvēle nav tikai administratīva formalitāte: tas ir lēmums, kas tieši ietekmē tavas izmaksas un to, kā tava lietotne uzvedas noslodzes stundās.
Divi ierobežojumu veidi
Mistral katrā darbvietā piemēro divus vienlaicīgus kontroles mehānismus. Ja tiek pārsniegts kaut viens no tiem, tavi izsaukumi neizdodas. Pirmais, pieprasījumi sekundē (RPS), ierobežo API pieprasījumu skaitu sekundē; ja to pārsniedz, API atgriež kļūdu 429 Too Many Requests. Otrais attiecas uz tokeniem minūtē un mēnesī: tas mēra patērēto apjomu gan ievades, gan izvades datiem, tiek piemērots darbvietas līmenī un ir kopīgs visiem lietotājiem ar piekļuvi. Sešu izstrādātāju komanda, kas strādā ar vienu atslēgu, šo kvotu iztērē sešas reizes ātrāk nekā viens izstrādātājs – fakts, ko pirmās noslodzes pieauguma laikā sistemātiski ignorē.
Risinājums aizņem tikai dažas koda rindiņas: kad rodas 429, pagaidi pirms atkārtota mēģinājuma un ar katru nākamo reizi palielini gaidīšanas laiku, nevis “bombardē” API.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Abonementa līmeņi
Bezmaksas API līmenis, ko dēvē arī par Experiment, ir paredzēts izpētei. Tā RPS ir zems – aptuveni daži pieprasījumi sekundē, un ikmēneša tokena apjoms ir ierobežots; visi modeļi ir pieejami, taču ar samazinātām kvotām, bez SLA un bez specializēta atbalsta. Tas lieliski noder Mistral modeļu iepazīšanai, lietotnes prototipēšanai vai funkcionālo testu veikšanai – un tas ātri vien tev parādīs, kā izskatās 429, ja mēģināsi uz tā palaist klienta demonstrāciju.
Maksas Scale līmenis ir veidots produkcijas videi. RPS ir augstāks, lai absorbētu reālu datplūsmu, ikmēneša tokena apjoms ir paplašināts, un rēķinu veidošana pāriet uz lietojumam atbilstošu tarifikāciju virs abonementa, nodrošinot standarta tehnisko atbalstu. Tas ir paredzamais līmenis produkcijas lietotnei ar vidēju vai augstu datplūsmu, profesionālai izstrādes komandai un vispārīgi gadījumos, kad nepieciešama prognozējama veiktspēja.
Visbeidzot, Enterprise līmenis tiek saskaņots individuāli ar Mistral pārdošanas komandu. Tas atver personalizētus ierobežojumus, garantētu SLA pieejamībai un latentumam, specializētu atbalstu ar tehnisko kontaktpersonu, piekļuvi Dedicated Serverless un Self-Hosted opcijām, kā arī pielāgotus līguma noteikumus – tostarp Datu apstrādes līgumu (DPA) un atbilstību GDPR. Tas ir obligāti nepieciešams, ja tavi pašu klienti līgumiski pieprasa no tevis servisa saistības.
Pārbaudi savus pašreizējos ierobežojumus
Precīzās vērtības, kas attiecas uz tavu darbvietu, nav minamas uzminot: tās ir uzskaitītas administratora panelī.
https://admin.mistral.ai/plateforme/limits
Tur atradīsi savus RPS ierobežojumus katram modelim, tokena patēriņu minūtē un mēnesī, šī patēriņa vēsturi un brīdinājumus, kas tiek aktivizēti, tuvojoties sliekšņiem. Ieradies atvērt šo lapu pirms jebkura plānotā mērogošanas, nevis pēc pirmā incidenta.
Optimizē savas izmaksas
Visefektīvākais svira ir modeļa izvēle, jo ne visi modeļi maksā vienādi par tokena vienību. Rezervē Mistral Large 3 sarežģītiem uzdevumiem – spriešanai, garu tekstu ģenerēšanai, līgumu dokumentu analīzei – un vienkāršu apstrādi, piemēram, klasifikāciju vai lauku ekstrakciju, uztici Mistral Small. Ja latentums ir svarīgāks par atbildes niansēm, ir vērts iztestēt Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Pašu patēriņu pēc tam var samazināt mazos soļos. Kodolsistēmas prompts taupa tokenus katrā izsaukumā, ne tikai vienreiz; max_tokens ierobežo atbildes garumu un izvairās no dārgām novirzēm; straumēšana nesamazina rēķinu, taču būtiski uzlabo lietotāja pieredzi garām atbildēm; visbeidzot, atbilžu kešošana uz atkārtotiem jautājumiem lietotnes pusē pilnībā novērš izsaukumu.
Protams, tas ir jāmēra. Reģistrē tokenus katram izsaukumam: bez šīs instrumentācijas tu uzzināsi par izmaksu pārsniegumu tikai tad, kad saņemsi rēķinu.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Kad pāriet uz augstāku līmeni
Četri signāli liek sākt sarunu ar Mistral: atkārtotas 429 kļūdas, ikmēneša patēriņš sasniedz 80% no kvotas, nepieciešamība pēc SLA, ko prezentēt saviem klientiem, vai sensitīvu datu apstrāde, kas prasa izolāciju. Pirmais no šiem četriem jau ir pietiekams; pārējie trīs reti ierodas vieni paši.
Galvenās atziņas
- Ierobežojumi tiek piemēroti darbvietas līmenī (RPS + tokeni/minūtē/mēnesī)
- Bezmaksas līmenis pietiek prototipēšanai; Scale līmenis ir paredzēts produkcijai
- Pārbaudi savus precīzos ierobežojumus vietnē
admin.mistral.ai/plateforme/limits - Optimizē izmaksas, izvēloties katram uzdevumam atbilstošu modeli
- Ievies eksponenciālo pauzi, lai produkcijas vidē apstrādātu ātruma ierobežojumus