Livelli e prezzi
In questa pagina
Comprendere limiti e prezzi
AI Studio applica limiti di frequenza per mantenere stabile il servizio. Questi limiti variano in base al livello di abbonamento e determinano il volume di richieste e token che puoi consumare. Scegliere un livello non è una semplice spunta amministrativa: è una decisione che impatta direttamente sui tuoi costi e sul comportamento della tua applicazione durante le ore di punta.
I due tipi di limiti
Mistral applica due controlli simultanei su ogni workspace. Il superamento di uno dei due causa il fallimento delle tue chiamate. Il primo, Richieste al secondo (RPS), limita il numero di richieste API inviate ogni secondo; se lo superi, l’API restituisce un errore 429 Too Many Requests. Il secondo riguarda i token al minuto e al mese: misura il volume consumato sia per l’input che per l’output, si applica a livello di workspace ed è condiviso tra tutti gli utenti che vi hanno accesso. Un team di sei sviluppatori che lavora sulla stessa chiave brucia questa quota sei volte più velocemente di uno sviluppatore singolo, un fatto che viene sistematicamente trascurato durante il primo picco di traffico.
La soluzione richiede poche righe: quando si verifica un 429, attendi prima di riprovare e aumenta il tempo di attesa a ogni tentativo invece di tempestare l’API.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Livelli di abbonamento
Il livello API gratuito, chiamato anche Experiment, è progettato per l’esplorazione. Il suo RPS rimane basso, intorno a poche richieste al secondo, e il suo volume mensile di token è limitato; tutti i modelli restano accessibili, ma con quote ridotte, nessun SLA e nessun supporto dedicato. Funziona perfettamente per scoprire i modelli Mistral, creare un prototipo di applicazione o eseguire test funzionali, e ti insegnerà rapidamente cosa significa ricevere un 429 se provi a farci girare una demo per un cliente.
Il livello a pagamento Scale è costruito per la produzione. L’RPS è più alto per assorbire il traffico reale, il volume mensile di token è espanso e la fatturazione passa a un modello basato sull’uso oltre l’abbonamento, con supporto tecnico standard. Questo è il livello previsto per un’applicazione in produzione con traffico da moderato ad alto, per un team di sviluppo professionale e, in generale, ogni volta che hai bisogno di prestazioni prevedibili.
Infine, il livello Enterprise viene negoziato su misura con il team vendite di Mistral. Sblocca limiti personalizzati, un SLA garantito su disponibilità e latenza, supporto dedicato con un punto di contatto tecnico, accesso alle opzioni Dedicated Serverless e Self-Hosted, e termini contrattuali su misura, inclusi un Accordo di Elaborazione Dati (DPA) e la conformità al GDPR. Questo è obbligatorio quando i tuoi stessi clienti richiedono contrattualmente impegni di servizio da parte tua.
Verificare i limiti attuali
I valori esatti applicati al tuo workspace non si indovinano: sono elencati nella dashboard di amministrazione.
https://admin.mistral.ai/plateforme/limits
Qui troverai i tuoi limiti RPS per modello, il consumo di token al minuto e al mese, la cronologia di tale consumo e gli avvisi attivati quando ti avvicini alle soglie. Prendi l’abitudine di aprire questa pagina prima di qualsiasi scalata annunciata, piuttosto che dopo il primo incidente.
Ottimizzare i costi
La leva più efficace è la scelta del modello, poiché non tutti i modelli costano lo stesso per token. Riserva Mistral Large 3 per compiti complessi: ragionamento, generazione di testi lunghi, analisi di documenti contrattuali, e assegna l’elaborazione semplice come la classificazione o l’estrazione di campi a Mistral Small. Quando la latenza conta più della sfumatura della risposta, vale la pena testare Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Il consumo stesso può poi essere ridotto con piccoli passi. Un prompt di sistema conciso risparmia token a ogni chiamata, non solo una volta; max_tokens limita la lunghezza della risposta ed evita digressioni costose; lo streaming non abbassa la fattura ma migliora significativamente l’esperienza per le risposte lunghe; infine, la memorizzazione nella cache delle risposte alle domande ricorrenti sul lato applicazione elimina del tutto la chiamata.
Ovviamente, devi misurarlo. Registra i token per ogni chiamata: senza questa strumentazione, scoprirai il superamento dei costi quando arriverà la fattura.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Quando passare al livello superiore
Quattro segnali dovrebbero innescare una conversazione con Mistral: errori 429 ricorrenti, consumo mensile che raggiunge l’80% della quota, necessità di un SLA da presentare ai tuoi clienti o elaborazione di dati sensibili che richiedono isolamento. Il primo di questi quattro è sufficiente; gli altri tre raramente arrivano da soli.
Punti chiave
- I limiti si applicano a livello di workspace (RPS + token/minuto/mese)
- Il livello gratuito è sufficiente per i prototipi; il livello Scale è per la produzione
- Verifica i tuoi limiti esatti su
admin.mistral.ai/plateforme/limits - Ottimizza i costi scegliendo il modello adatto a ogni compito
- Implementa un backoff esponenziale per gestire la limitazione della frequenza in produzione