Niveauer og priser
På denne side
Forstå begrænsninger og priser
AI Studio håndhæver hastighedsbegrænsninger for at holde tjenesten stabil. Disse grænser varierer afhængigt af dit abonnementsniveau og bestemmer det volumen af anmodninger og tokens, du kan forbruge. At vælge et niveau er ikke blot et administrativt afkrydsningsfelt: det er en beslutning, der direkte påvirker dine omkostninger og din applikations adfærd i spidsbelastningsperioder.
De to typer begrænsninger
Mistral anvender to samtidige kontroller på hvert workspace. Hvis du rammer en af dem, vil dine kald fejle. Den første, anmodninger per sekund (RPS), sætter loft over antallet af API-anmodninger sendt per sekund; overskrider du dette, returnerer API’en en fejl 429 Too Many Requests. Den anden vedrører tokens per minut og per måned: den måler det forbrugte volumen for både input og output, gælder på workspace-niveau og deles mellem alle brugere med adgang. Et team på seks udviklere, der arbejder på samme nøgle, brænder denne kvote af seks gange hurtigere end en enkelt udvikler – en kendsgerning, der systematisk overses under den første trafikspids.
Løsningen tager kun få linjer: når en 429 opstår, skal du vente før genforsøg og øge ventetiden ved hvert forsøg i stedet for at hamre løs på API’en.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Abonnementsniveauer
Gratis API-niveauet, også kaldet Experiment, er designet til udforskning. Dets RPS forbliver lavt, omkring få anmodninger per sekund, og dets månedlige token-volumen er begrænset; alle modeller forbliver tilgængelige, men med reducerede kvoter, ingen SLA og ingen dedikeret support. Det fungerer perfekt til at opdage Mistral-modeller, prototypelave en applikation eller køre funktionelle tests – og det vil hurtigt lære dig, hvordan en 429 føles, hvis du prøver at køre en kundedemo på det.
Det betalte Scale-niveau er bygget til produktion. RPS er højere for at absorbere rigtig trafik, det månedlige token-volumen er udvidet, og faktureringen skifter til forbrugsbaseret ud over abonnementet med standard teknisk support. Dette er det forventede niveau for en produktionsapplikation med moderat til høj trafik, for et professionelt udviklingsteam og generelt, når du har brug for forudsigelig ydeevne.
Endelig er Enterprise-niveauet en skræddersyet aftale forhandlet med Mistral-salgsteamet. Det låser op for personlige grænser, en garanteret SLA på tilgængelighed og ventetid, dedikeret support med et teknisk kontaktpunkt, adgang til Dedicated Serverless og Self-Hosted-muligheder samt skræddersyede kontraktvilkår – herunder en databehandlingsaftale (DPA) og GDPR-overholdelse. Dette er obligatorisk, når dine egne kunder kontraktmæssigt kræver serviceforpligtelser fra dig.
Tjek dine nuværende grænser
De nøjagtige værdier, der gælder for dit workspace, er ikke gætværk: de er listet i administrationsdashboardet.
https://admin.mistral.ai/plateforme/limits
Her finder du dine RPS-grænser per model, dit token-forbrug per minut og per måned, historikken for dette forbrug og alarmer, der udløses, når du nærmer dig tærsklerne. Gør det til en vane at åbne denne side før enhver annonceret opskalering frem for efter den første incident.
Optimer dine omkostninger
Den mest effektive løftestang er modelvalget, da ikke alle modeller koster det samme per token. Reserver Mistral Large 3 til komplekse opgaver – ræsonnement, langformet generering, analyse af kontraktdokumenter – og tildel simpel behandling som klassificering eller feltudtrækning til Mistral Small. Når ventetid er vigtigere end svarnuance, er Ministral 3 værd at teste.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Selve forbruget kan derefter reduceres i små skridt. En kort systemprompt sparer tokens ved hvert kald, ikke kun én gang; max_tokens sætter loft over svarlængden og undgår dyre afstikkere; streaming sænker ikke regningen, men forbedrer oplevelsen markant for lange svar; endelig eliminerer cachelagring af svar på tilbagevendende spørgsmål på applikationssiden kaldet helt.
Selvfølgelig skal du måle det. Log tokens for hvert kald: uden denne instrumentering vil du opdage overskridelsen af omkostninger, når regningen ankommer.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Hvornår skal du rykke op i niveau?
Fire signaler bør udløse en samtale med Mistral: tilbagevendende 429-fejl, månedligt forbrug der når 80 % af kvoten, et behov for en SLA at præsentere for dine egne kunder eller behandling af følsomme data, der kræver isolering. Det første af disse fire er nok; de andre tre ankommer sjældent alene.
Vigtige pointer
- Begrænsninger gælder på workspace-niveau (RPS + tokens/minut/måned)
- Det gratis niveau er tilstrækkeligt til prototyping; Scale-niveauet er til produktion
- Tjek dine nøjagtige grænser på
admin.mistral.ai/plateforme/limits - Optimer omkostninger ved at vælge modellen, der passer til hver opgave
- Implementer eksponentiel backoff for at håndtere hastighedsbegrænsning i produktion