Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

Όρια ρυθμού RPM/TPM στη κονσόλα

Μάθημα 7 / 12 Ενημερώθηκε 30 Ιουλίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Δύο μετρικές για παρακολούθηση
  2. Σύστημα επιπέδων (Tiers)
  3. Έλεγχος των ορίων σας
  4. Υπολογισμός της πραγματικής σας απόδοσης
  5. Παρακολούθηση του κόστους σε πραγματικό χρόνο
  6. Tokenizer για εκτίμηση πριν την αποστολή
  7. Βασικά σημεία

Δύο μετρικές για παρακολούθηση

Το API της xAI επιβάλλει δύο τύπους ορίων ρυθμού, μετρούμενα ανά λεπτό και ανά μοντέλο:

  • RPM (Requests Per Minute): Ο αριθμός των αιτημάτων API που μπορείτε να στείλετε ανά λεπτό, ανεξάρτητα από το περιεχόμενό τους.
  • TPM (Tokens Per Minute): Ο συνολικός αριθμός tokens (εισόδου + εξόδου) που μπορείτε να καταναλώσετε ανά λεπτό.

Μπορείτε να φτάσετε το ένα όριο χωρίς να αγγίξετε το άλλο. Για παράδειγμα, 10 σύντομα αιτήματα των 100 tokens το καθένα καταναλώνουν λίγο TPM αλλά μετράνε ως 10 RPM. Αντιθέτως, ένα μοναδικό αίτημα με 50.000 tokens συμφραζομένων καταναλώνει πολύ TPM αλλά μόνο 1 RPM.

Σύστημα επιπέδων (Tiers)

Τα όρια προσαρμόζονται αυτόματα βάσει των συνολικών σας δαπανών. Το επίπεδο δεν μειώνεται ποτέ μόλις ξεκλειδωθεί:

Επίπεδο Όριο δαπανών Πρόσβαση
Tier 0 $0 (προεπιλογή) Βασικά όρια
Tier 1 $50 δαπάνες Αυξημένα όρια
Tier 2 $250 δαπάνες Εκτεταμένα όρια
Tier 3 $1.000 δαπάνες Υψηλά όρια
Tier 4 $5.000 δαπάνες Προνομιακά όρια
Enterprise Κατόπιν αιτήματος Διαπραγματευόμενα όρια

Οι συνολικές δαπάνες περιλαμβάνουν όλο το ιστορικό του λογαριασμού σας. Δεν χρειάζεται να ξοδέψετε 50$ σε έναν μήνα: αν ξοδεύετε 10$ τον μήνα για 5 μήνες, φτάνετε στο Tier 1.

Έλεγχος των ορίων σας

Μεταβείτε στην κονσόλα της xAI (console.x.ai) για να δείτε τα τρέχοντα όριά σας ανά μοντέλο. Κάθε μοντέλο έχει τα δικά του ανώτατα όρια RPM και TPM. Τα μοντέλα συλλογισμού (reasoning models) έχουν γενικά χαμηλότερα όρια από τα τυπικά μοντέλα.

Υπολογισμός της πραγματικής σας απόδοσης

Για να διαστασιολογήσετε το semaphore βάσει των ορίων σας:

# Τα όριά σας (παράδειγμα Tier 2)
rpm_limit = 120   # αιτήματα ανά λεπτό
tpm_limit = 200_000  # tokens ανά λεπτό

# Εκτίμηση των αιτημάτων σας
avg_input_tokens = 500
avg_output_tokens = 1000
tokens_per_request = avg_input_tokens + avg_output_tokens

# Όριο βάσει tokens
max_rpm_by_tokens = tpm_limit / tokens_per_request  # 200000 / 1500 = 133

# Πραγματικό όριο = το ελάχιστο των δύο
effective_rpm = min(rpm_limit, max_rpm_by_tokens)  # min(120, 133) = 120

# Βέλτιστο semaphore
avg_duration = 8  # δευτερόλεπτα ανά αίτημα
semaphore_value = int(effective_rpm * avg_duration / 60)  # 120 * 8 / 60 = 16

Σε αυτό το παράδειγμα, ένα semaphore με τιμή 16 είναι το θεωρητικό μέγιστο. Στην πράξη, χρησιμοποιήστε μια χαμηλότερη τιμή (12–14) για να διατηρήσετε ένα περιθώριο ασφαλείας.

Παρακολούθηση του κόστους σε πραγματικό χρόνο

Κάθε απόκριση API περιέχει ένα πεδίο usage που υποδεικνύει το κόστος:

response = await client.chat.completions.create(
    model="grok-4.5",
    messages=[{"role": "user", "content": prompt}]
)

# Tokens που καταναλώθηκαν
usage = response.usage
print(f"Input tokens: {usage.prompt_tokens}")
print(f"Output tokens: {usage.completion_tokens}")
print(f"Total: {usage.total_tokens}")

Για κόστος σε δολάρια, το πεδίο cost_in_usd_ticks είναι διαθέσιμο σε ορισμένες αποκρίσεις. Η μετατροπή είναι: 10 δισεκατομμύρια ticks = 1 USD.

Tokenizer για εκτίμηση πριν την αποστολή

Πριν στείλετε ένα ακριβό αίτημα, μπορείτε να εκτιμήσετε τον αριθμό των tokens μέσω του endpoint tokenization:

# Μέσω του REST API
import httpx

async def count_tokens(text: str) -> int:
    async with httpx.AsyncClient() as http:
        response = await http.post(
            "https://api.x.ai/v1/tokenize-text",
            headers={"Authorization": f"Bearer {api_key}"},
            json={"text": text}
        )
        return response.json()["token_count"]

Αυτό σας επιτρέπει να επαληθεύσετε ότι ένα μεγάλο prompt δεν θα υπερβεί τα όρια TPM πριν το στείλετε.

Βασικά σημεία

  • Τα RPM και TPM είναι δύο ανεξάρτητα όρια: ισχύει το πιο αυστηρό
  • Τα επίπεδα (Tiers) αυξάνονται αυτόματα με τις συνολικές σας δαπάνες και δεν μειώνονται ποτέ
  • Ελέγξτε το console.x.ai για τα ακριβή όριά σας ανά μοντέλο
  • Διαστασιολογήστε το semaphore βάσει του ελάχιστου μεταξύ RPM και TPM
  • Χρησιμοποιήστε το πεδίο usage στις αποκρίσεις για να παρακολουθείτε την κατανάλωση σε πραγματικό χρόνο
  • Το endpoint /v1/tokenize-text σας επιτρέπει να εκτιμάτε τα tokens πριν την αποστολή