Nivåer och prissättning
På denna sida
Förstå begränsningar och prissättning
AI Studio tillämpar hastighetsbegränsningar för att hålla tjänsten stabil. Dessa gränser varierar beroende på abonnemangsnivå och avgör volymen av förfrågningar och tokens du kan konsumera. Att välja en nivå är inte bara en administrativ kryssruta: det är ett beslut som direkt påverkar dina kostnader och hur ditt applikation beter sig under toppbelastning.
De två typerna av begränsningar
Mistral tillämpar två samtidiga kontroller på varje arbetsyta. Om du når någon av dem misslyckas dina anrop. Den första, Requests Per Second (RPS), sätter ett tak för antalet API-förfrågningar som skickas per sekund; överskrider du den returnerar API:t ett felmeddelande 429 Too Many Requests. Den andra gäller tokens per minut och per månad: den mäter den volym som konsumeras för både inmatning och utmatning, tillämpas på arbetsytanivå och delas mellan alla användare med åtkomst. Ett team på sex utvecklare som arbetar med samma nyckel bränner igenom denna kvot sex gånger snabbare än en ensam utvecklare, ett faktum som systematiskt förbises vid den första trafiktoppen.
Lösningen tar bara några rader kod: när ett 429-fel inträffar, vänta innan du försöker igen och öka väntetiden för varje försök istället för att hamra mot API:t.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Abonnemangsnivåer
Free API Tier, även kallad Experiment, är designad för utforskning. Dess RPS hålls låg, runt några få förfrågningar per sekund, och dess månatliga tokenvolym är begränsad; alla modeller är tillgängliga men med reducerade kvoter, ingen SLA och ingen dedikerad support. Den fungerar utmärkt för att upptäcka Mistral-modeller, skapa prototyper för en applikation eller köra funktionella tester – och den kommer snabbt att lära dig hur ett 429-fel känns om du försöker köra en kunddemo på den.
Den betalda nivån Scale är byggd för produktion. RPS är högre för att absorbera riktig trafik, den månatliga tokenvolymen är utökad och faktureringen växlar till användningsbaserad bortom abonnemanget, med standardiserad teknisk support. Detta är den förväntade nivån för en produktionsapplikation med måttlig till hög trafik, för ett professionellt utvecklingsteam och generellt närhelst du behöver förutsägbar prestanda.
Slutligen är nivån Enterprise en skräddarsydd förhandling med Mistral:s säljteam. Den låser upp personliga gränser, en garanterad SLA för tillgänglighet och latens, dedikerad support med en teknisk kontaktperson, tillgång till alternativ för Dedicated Serverless och Self-Hosted, samt skräddarsydda avtalsvillkor – inklusive ett Data Processing Agreement (DPA) och efterlevnad av GDPR. Detta är obligatoriskt när dina egna kunder avtalsmässigt kräver serviceåtaganden från dig.
Kontrollera dina aktuella gränser
De exakta värdena som gäller för din arbetsyta gissas inte fram: de listas i administratörsdashboardsen.
https://admin.mistral.ai/plateforme/limits
Där hittar du dina RPS-gränser per modell, din tokenkonsumtion per minut och per månad, historiken för den konsumtionen och varningar som utlöses när du närmar dig tröskelvärden. Gör det till en vana att öppna denna sida inför varje aviserad uppskalning, snarare än efter den första incidenten.
Optimera dina kostnader
Den mest effektiva hävstången är valet av modell, eftersom inte alla modeller kostar lika mycket per token. Reservera Mistral Large 3 för komplexa uppgifter – resonemang, generering av långa texter, analys av avtalsdokument – och tilldela enkel bearbetning som klassificering eller fältextraktion till Mistral Small. När latens är viktigare än nyanser i svaret är Ministral 3 värd att testa.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Själva konsumtionen kan sedan minskas i små steg. En koncis systemprompt sparar tokens vid varje anrop, inte bara en gång; max_tokens sätter ett tak för svars längd och undviker kostsamma utvikningar; streaming sänker inte fakturan men förbättrar upplevelsen avsevärt för långa svar; slutligen eliminerar cachelagring av svar på återkommande frågor på applikationssidan anropet helt och hållet.
Självklart måste du mäta detta. Logga tokens för varje anrop: utan denna instrumentering kommer du att upptäcka kostnadsöverskridandet först när fakturan kommer.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
När du ska byta till en högre nivå
Fyra signaler bör utlösa en konversation med Mistral: återkommande 429-fel, månatlig konsumtion som når 80 % av kvoten, ett behov av en SLA att presentera för dina egna kunder, eller bearbetning av känslig data som kräver isolering. Den första av dessa fyra räcker; de andra tre anländer sällan ensamma.
Viktiga punkter
- Begränsningar gäller på arbetsytanivå (RPS + tokens/minut/månad)
- Den gratisnivån räcker för prototyper; nivån Scale är för produktion
- Kontrollera dina exakta gränser på
admin.mistral.ai/plateforme/limits - Optimera kostnader genom att välja modell som passar varje uppgift
- Implementera exponentiell backoff för att hantera hastighetsbegränsningar i produktion