Нива и ценообразуване
На тази страница
Разберете лимитите и ценообразуването
AI Studio прилага ограничения на честотата на заявките, за да поддържа стабилност на услугата. Тези лимити варират според нивото на абонамент и определят обема на заявките и токените, които можете да използвате. Изборът на ниво не е просто административна формалност: това е решение, което пряко влияе върху разходите Ви и върху поведението на приложението Ви по време на пикови натоварвания.
Двата вида лимити
Mistral прилага едновременно два вида контрол върху всяко работно пространство. Превръщането на който и да е от тях води до неуспех на Вашите повиквания. Първият, Заявки в секунда (RPS), ограничава броя на API заявките, изпращани за секунда; ако го надвишите, API връща грешка 429 Too Many Requests. Вторият се отнася до токени в минута и на месец: той измерва консумирания обем както за вход, така и за изход, прилага се на ниво работно пространство и се споделя между всички потребители с достъп. Екип от шест разработчици, работещи с един и същи ключ, изчерпва тази квота шест пъти по-бързо от самостоятелен разработчик – факт, който системно се пренебрегва по време на първия скок в трафика.
Решението отнема само няколко реда код: когато възникне 429, изчакайте преди повторен опит и увеличавайте времето за изчакване с всяко следващо опитване, вместо да „бомбардирате“ API.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Нива на абонамент
Безплатното ниво на API, наричано още „Експеримент“, е предназначено за проучване. Неговото RPS остава ниско – около няколко заявки в секунда, а месечният обем токени е ограничен; всички модели остават достъпни, но с намалени квоти, без споразумение за ниво на обслужване (SLA) и без специализирана поддръжка. То работи отлично за запознаване с моделите на Mistral, за прототипиране на приложение или за провеждане на функционални тестове – и бързо ще Ви покаже как се усеща грешка 429, ако се опитате да пуснете клиентска демонстрация върху него.
Платеното ниво Scale е създадено за производствена среда. RPS е по-високо, за да поеме реален трафик, месечният обем токени е разширен, а таксуването преминава към база употреба след надвишаване на абонамента, със стандартна техническа поддръжка. Това е очакваното ниво за производствено приложение с умерен до висок трафик, за професионален екип от разработчици и като цяло винаги, когато се нуждаете от предвидима производителност.
Накрая, нивото Enterprise се договаря индивидуално с търговския екип на Mistral. То отключва персонализирани лимити, гарантиран SLA за наличност и латентност, специализирана поддръжка с техническо лице за контакт, достъп до опциите Dedicated Serverless и Self-Hosted, както и адаптирани договорни условия – включително Споразумение за обработка на данни (DPA) и съответствие с GDPR. Това е задължително, когато Вашите собствени клиенти изискват договорно от Вас ангажименти за обслужване.
Проверете текущите си лимити
Точните стойности, важали за Вашето работно пространство, не се предполагат: те са изброени в административния таблото за управление.
https://admin.mistral.ai/plateforme/limits
Там ще откриете Вашите RPS лимити за всеки модел, консумацията на токени в минута и на месец, историята на тази консумация, както и предупрежденията, задействани при приближаване до праговете. Направете си навик да отваряте тази страница преди всяко обявено мащабиране, а не след първия инцидент.
Оптимизирайте разходите си
Най-ефективният лост е изборът на модел, тъй като не всички модели струват еднакво на токен. Запазете Mistral Large 3 за сложни задачи – разсъждения, генериране на дълги текстове, анализ на договорни документи – и възложете проста обработка като класификация или извличане на полета на Mistral Small. Когато латентността е по-важна от нюансите в отговора, струва си да тествате Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Самата консумация може да бъде намалена на малки стъпки. Кратък системен промпт спестява токени при всяко повикване, а не само веднъж; max_tokens ограничава дължината на отговора и избягва скъпи отклонения; стриймингът не намалява сметката, но значително подобрява потребителското изживяване при дълги отговори; накрая, кеширането на отговори на повтарящи се въпроси на ниво приложение елиминира самото повикване.
Разбира се, трябва да го измервате. Записвайте в логовете токените за всяко повикване: без тази инструментация ще откриете превишението на разходите едва когато пристигне фактурата.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Кога да преминете на по-високо ниво
Четири сигнала трябва да задействат разговор с Mistral: повтарящи се грешки 429, месечна консумация, достигаща 80% от квотата, необходимост от SLA, което да представите на собствените си клиенти, или обработка на чувствителни данни, изискваща изолация. Първият от тези четири сигнала е достатъчен; останалите три рядко идват сами.
Ключови изводи
- Лимитите се прилагат на ниво работно пространство (RPS + токени/минута/месец)
- Безплатното ниво е достатъчно за прототипиране; нивото Scale е за производствена среда
- Проверете точните си лимити на
admin.mistral.ai/plateforme/limits - Оптимизирайте разходите, като избирате модела, подходящ за всяка задача
- Внедрете експоненциално обратно изчакване, за да управлявате ограничението на честотата в производствена среда