Επίπεδα και τιμολόγηση
Σε αυτήν τη σελίδα
Κατανόηση ορίων και τιμολόγησης
Το AI Studio επιβάλλει όρια ρυθμού (rate limits) για να διατηρήσει την σταθερότητα της υπηρεσίας. Αυτά τα όρια διαφέρουν ανάλογα με το επίπεδο συνδρομής και καθορίζουν τον όγκο των αιτημάτων και των tokens που μπορείτε να καταναλώσετε. Η επιλογή ενός επιπέδου δεν είναι απλώς μια διοικητική τυπικότητα: αποτελεί απόφαση που επηρεάζει άμεσα το κόστος σας και τη συμπεριφορά της εφαρμογής σας κατά τις ώρες αιχμής.
Οι δύο τύποι ορίων
Η Mistral εφαρμόζει δύο ταυτόχρονους ελέγχους σε κάθε χώρο εργασίας. Η υπέρβαση οποιουδήποτε από τους δύο προκαλεί αποτυχία στις κλήσεις σας. Ο πρώτος, Αιτήματα ανά Δευτερόλεπτο (RPS), θέτει ανώτατο όριο στον αριθμό των αιτημάτων API που στέλνονται ανά δευτερόλεπτο· εάν τον ξεπεράσετε, το API επιστρέφει σφάλμα 429 Too Many Requests. Ο δεύτερος αφορά τα tokens ανά λεπτό και ανά μήνα: μετρά τον όγκο που καταναλώνεται τόσο για την είσοδο όσο και για την έξοδο, εφαρμόζεται σε επίπεδο χώρου εργασίας και κοινοποιείται μεταξύ όλων των χρηστών με πρόσβαση. Μια ομάδα έξι προγραμματιστών που εργάζονται στο ίδιο κλειδί καταναλώνει αυτό το όριο έξι φορές γρηγορότερα από έναν μεμονωμένο προγραμματιστή, ένα γεγονός που συχνά παραβλέπεται συστηματικά κατά την πρώτη αύξηση της κίνησης.
Η λύση απαιτεί μόνο λίγες γραμμές κώδικα: όταν εμφανίζεται σφάλμα 429, περιμένετε πριν επαναλάβετε την προσπάθεια και αυξήστε τον χρόνο αναμονής με κάθε απόπειρα, αντί να βομβαρδίζετε το API.
import time
from mistralai.client import Mistral
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
def call_with_retry(messages, max_retries=3):
"""Basic rate limit handling with exponential backoff."""
for attempt in range(max_retries):
try:
return client.chat.complete(
model="mistral-large-latest",
messages=messages
)
except Exception as e:
if "429" in str(e) and attempt < max_retries - 1:
wait = 2 ** attempt
print(f"Rate limit reached, waiting {wait}s...")
time.sleep(wait)
else:
raise
Επίπεδα συνδρομής
Το Δωρεάν Επίπεδο API, γνωστό και ως Experiment, έχει σχεδιαστεί για εξερεύνηση. Το RPS παραμένει χαμηλό, περίπου μερικά αιτήματα ανά δευτερόλεπτο, και ο μηνιαίος όγκος tokens είναι περιορισμένος· όλα τα μοντέλα παραμένουν προσβάσιμα, αλλά με μειωμένα όρια, χωρίς SLA και χωρίς αφιερωμένη υποστήριξη. Λειτουργεί άψογα για την ανακάλυψη των μοντέλων της Mistral, τη δημιουργία πρωτοτύπων εφαρμογών ή την εκτέλεση λειτουργικών δοκιμών—και θα σας δείξει γρήγορα πώς είναι ένα σφάλμα 429 εάν προσπαθήσετε να τρέξετε μια επίδειξη πελάτη σε αυτό.
Το πληρωμένο επίπεδο Scale έχει κατασκευαστεί για περιβάλλοντα παραγωγής. Το RPS είναι υψηλότερο για την απορρόφηση πραγματικής κίνησης, ο μηνιαίος όγκος tokens είναι διευρυμένος και η χρέωση μεταβαίνει σε βάση χρήσης πέραν της συνδρομής, με τυπική τεχνική υποστήριξη. Αυτό είναι το αναμενόμενο επίπεδο για μια εφαρμογή παραγωγής με μέτρια έως υψηλή κίνηση, για μια επαγγελματική ομάδα ανάπτυξης και γενικά όποτε χρειάζεστε προβλέψιμες επιδόσεις.
Τέλος, το επίπεδο Enterprise διαπραγματεύεται εξατομικευμένα με την ομάδα πωλήσεων της Mistral. Ξεκλειδώνει εξατομικευμένα όρια, εγγυημένο SLA για διαθεσιμότητα και λανθάνουσα χρονική καθυστέρηση (latency), αφιερωμένη υποστήριξη με τεχνικό σημείο επαφής, πρόσβαση σε επιλογές Dedicated Serverless και Self-Hosted, καθώς και προσαρμοσμένους συμβατικούς όρους—συμπεριλαμβανομένης μιας Συμφωνίας Επεξεργασίας Δεδομένων (DPA) και συμμόρφωσης με τον GDPR. Αυτό είναι υποχρεωτικό όταν οι δικοί σας πελάτες απαιτούν συμβατικά δεσμεύσεις παροχής υπηρεσιών από εσάς.
Έλεγχος των τρεχόντων ορίων σας
Οι ακριβείς τιμές που ισχύουν για τον χώρο εργασίας σας δεν μαντεύονται: παρατίθενται στον πίνακα ελέγχου διαχείρισης.
https://admin.mistral.ai/plateforme/limits
Εκεί θα βρείτε τα όρια RPS ανά μοντέλο, την κατανάλωση tokens ανά λεπτό και ανά μήνα, το ιστορικό αυτής της κατανάλωσης και τις ειδοποιήσεις που ενεργοποιούνται καθώς πλησιάζετε στα όρια. Κάντε συνήθεια να ανοίγετε αυτή τη σελίδα πριν από οποιαδήποτε ανακοινωθεί κλιμάκωση, και όχι μετά το πρώτο περιστατικό.
Βελτιστοποίηση του κόστους σας
Ο πιο αποτελεσματικός μοχλός είναι η επιλογή του μοντέλου, καθώς δεν κοστίζουν όλα τα μοντέλα το ίδιο ανά token. Κρατήστε το Mistral Large 3 για σύνθετες εργασίες—συλλογιστική, δημιουργία μεγάλου μήκους κειμένου, ανάλυση συμβατικών εγγράφων—και αναθέστε απλές επεξεργασίες όπως η ταξινόμηση ή η εξαγωγή πεδίων στο Mistral Small. Όταν η λανθάνουσα χρονική καθυστέρηση (latency) έχει μεγαλύτερη σημασία από την απόχρωση της απάντησης, αξίζει να δοκιμάσετε το Ministral 3.
# Simple task → lightweight model
response_simple = client.chat.complete(
model="mistral-small-latest",
messages=[{"role": "user", "content": "Classify this text: positive or negative?"}]
)
# Complex task → powerful model
response_complex = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": "Analyze this contract and identify problematic clauses."}]
)
Η κατανάλωση μπορεί στη συνέχεια να μειωθεί σε μικρά βήματα. Μια συνοπτική προτροπή συστήματος (system prompt) εξοικονομεί tokens σε κάθε κλήση, όχι μόνο μία φορά· το max_tokens περιορίζει το μήκος της απάντησης και αποφεύγει τις δαπανηρές παρεκβάσεις· η ροή δεδομένων (streaming) δεν μειώνει τον λογαριασμό αλλά βελτιώνει σημαντικά την εμπειρία για μεγάλες απαντήσεις· τέλος, η αποθήκευση στην προσωρινή μνήμη (caching) απαντήσεων σε επαναλαμβανόμενες ερωτήσεις στην πλευρά της εφαρμογής εξαλείφει πλήρως την κλήση.
Φυσικά, πρέπει να το μετρήσετε. Καταγράφετε τα tokens για κάθε κλήση: χωρίς αυτή την παρακολούθηση, θα ανακαλύψετε την υπέρβαση κόστους όταν φτάσει ο λογαριασμός.
import logging
logger = logging.getLogger("mistral_usage")
def tracked_call(model, messages):
response = client.chat.complete(model=model, messages=messages)
usage = response.usage
logger.info(
f"Model: {model} | "
f"Input tokens: {usage.prompt_tokens} | "
f"Output tokens: {usage.completion_tokens} | "
f"Total: {usage.total_tokens}"
)
return response
Πότε να προχωρήσετε σε ανώτερο επίπεδο
Τέσσερα σήματα θα πρέπει να πυροδοτήσουν μια συζήτηση με τη Mistral: επαναλαμβανόμενα σφάλματα 429, μηνιαία κατανάλωση που φτάνει το 80% του ορίου, ανάγκη για SLA ώστε να το παρουσιάσετε στους δικούς σας πελάτες, ή επεξεργασία ευαίσθητων δεδομένων που απαιτεί απομόνωση. Το πρώτο από αυτά τα τέσσερα αρκεί· τα άλλα τρία σπάνια εμφανίζονται μόνα τους.
Βασικά σημεία
- Τα όρια ισχύουν σε επίπεδο χώρου εργασίας (RPS + tokens/λεπτό/μήνα)
- Το δωρεάν επίπεδο επαρκεί για πρωτοτυποποίηση· το επίπεδο Scale προορίζεται για παραγωγή
- Ελέγξτε τα ακριβή όρια σας στο
admin.mistral.ai/plateforme/limits - Βελτιστοποιήστε το κόστος επιλέγοντας το μοντέλο που ταιριάζει σε κάθε εργασία
- Υλοποιήστε εκθετική επαναφορά (exponential backoff) για τη διαχείριση του περιορισμού ρυθμού σε περιβάλλον παραγωγής