Μετάβαση στο κύριο περιεχόμενο
Ελληνικά— Επιλέξτε γλώσσα
Μενού

HTTP 429 και Εκθετική Υποχώρηση (Exponential Backoff)

Μάθημα 3 / 14 Ενημερώθηκε 29 Ιουλίου 2026 Προχωρημένος
Σε αυτήν τη σελίδα
  1. Διαχείριση Υπερβάσεων Ορίων
  2. Τι Να Μην Κάνετε
  3. Εκθετική Υποχώρηση (Exponential Backoff)
  4. Κλιμάκωση: Ρύθμιση Πριν την Αποτυχία
  5. Αντιμετωπίστε το 429 ως Μετρική
  6. Βασικά σημεία

Διαχείριση Υπερβάσεων Ορίων

Μόλις η εφαρμογή σας χτυπήσει τα όρια RPM ή TPM, το Grok API αποκρίνεται με κωδικό κατάστασης HTTP 429 (Too Many Requests). Διαβάστε αυτόν τον κωδικό για αυτό που πραγματικά είναι: όχι ως διακοπή λειτουργίας, αλλά ως σήμα ελέγχου ροής. Το API σας λέει «επιβραδύνετε», όχι «έχει χαλάσει». Η διαφορά μεταξύ μιας εύρωστης και μιας εύθραυστης ενσωμάτωσης έγκειται στο πώς ο κώδικάς σας ερμηνεύει αυτή τη διάκριση. Ένας κακώς διαχειρισμένος κωδικός 429 δεν παραμένει ποτέ μεμονωμένος: διαχέεται στην ουρά αναμονής, μεταφέρεται στις υπηρεσίες που καλούν και καταλήγει ως περιστατικό ορατό στον τελικό χρήστη.

Τι Να Μην Κάνετε

Η ενστικτώδης αντίδραση όταν ένα αίτημα αποτυγχάνει είναι να το ξαναστείλετε αμέσως. Αυτή είναι ακριβώς η λανθασμένη κίνηση. Είχατε ήδη ξεπεράσει την ποσόστωσή σας· στέλνοντας το αίτημα αμέσως ξανά, καταναλώνετε μια επιπλέον κλήση που επίσης θα αποτύχει και παρατείνετε την περίοδο αποκλεισμού αντί να τη μειώσετε. Μια άπειρη επαναπροσπάθεια επιδεινώνει τα πράγματα δεσμεύοντας νήματα μάταια. Αντιστρόφως, αντιμετωπίζοντας το 429 ως μόνιμο σφάλμα και εγκαταλείποντας την προσπάθεια, στερείτε από τον χρήστη σας ένα αποτέλεσμα που θα ερχόταν λίγα δευτερόλεπτα αργότερα. Η σωστή προσέγγιση βρίσκεται ανάμεσα στα δύο άκρα: επαναπροσπαθήστε, αλλά περιμένετε, και περιμένετε περισσότερο κάθε φορά.

Εκθετική Υποχώρηση (Exponential Backoff)

Η αρχή είναι να διπλασιάζετε την καθυστέρηση μετά από κάθε αποτυχημένη προσπάθεια, προσθέτοντας μια τυχαία διακύμανση που ονομάζεται jitter.

import time
import random

def call_with_retry(request, max_retries=5):
    for attempt in range(max_retries):
        response = send_request(request)

        if response.status_code != 429:
            return response

        base_delay = 2 ** attempt  # 1, 2, 4, 8, 16 seconds
        jitter = random.uniform(0, base_delay * 0.5)
        delay = base_delay + jitter

        time.sleep(delay)

    raise Exception("Retry limit reached")

Το jitter αξίζει ιδιαίτερης προσοχής, καθώς είναι η γραμμή που συχνά διαγράφεται με την υπόθεση ότι περιπλέκει περιττά τον κώδικα. Φανταστείτε τριάντα στιγμιότυπα της υπηρεσίας σας να λαμβάνουν ένα 429 την ίδια στιγμή. Χωρίς jitter, όλα υπολογίζουν την ίδια καθυστέρηση και επαναπροσπαθούν ακριβώς την ίδια στιγμή: έχετε αναπαράγει την αιχμή φόρτου πανομοιότυπα, ένα δευτερόλεπτο αργότερα, μετά δύο, μετά τέσσερα. Αυτό είναι το φαινόμενο του thundering herd. Η τυχαιοποίηση κατανέμει τις προσπάθειες στον χρόνο και σπάει αυτόν τον ακούσιο συγχρονισμό. Σημειώστε επίσης ότι η βασική καθυστέρηση ξεκινά από το ένα δευτερόλεπτο: μην κατεβείτε ποτέ κάτω από αυτό για την πρώτη προσπάθεια.

Κλιμάκωση: Ρύθμιση Πριν την Αποτυχία

Σε μια εφαρμογή υψηλού όγκου, η αντίδραση σε κωδικούς 429 δεν αρκεί πλέον· είναι προτιμότερο να τους αποφύγετε. Ένας περιοριστής ρυθμού (rate limiter) στην πλευρά του πελάτη περιορίζει τον αριθμό των ταυτόχρονων κλήσεων και επιβάλλει μια ελάχιστη απόσταση μεταξύ των αποστολών, ώστε το εξερχόμενο φορτίο να παραμένει κάτω από το ανώτατο όριο αντί να το δοκιμάζει συνεχώς.

import asyncio
from asyncio import Semaphore

# Limit to 25 requests/second (margin under the allowed 30 req/s)
semaphore = Semaphore(25)

async def limited_request(payload):
    async with semaphore:
        response = await send_request_async(payload)
        await asyncio.sleep(1.0 / 25)  # minimum spacing
        return response

Παρατηρήστε το σκόπιμο περιθώριο ασφαλείας: 25 αιτήματα ανά δευτερόλεπτο αντί για τα επιτρεπόμενα 30. Αυτό το απόθεμα απορροφά τις ανωμαλίες του δικτύου και τις αιχμές κίνησης χωρίς να χτυπάει ποτέ το ταβάνι.

Ο διακόπτης κυκλώματος (circuit breaker) ολοκληρώνει τη ρύθμιση διακόπτοντας τις κλήσεις όταν οι αποτυχίες συσσωρεύονται. Ενώ είναι κλειστός, τα αιτήματα περνούν κανονικά. Μετά από έναν καθορισμένο αριθμό διαδοχικών αποτυχιών, ανοίγει και απορρίπτει τοπικά όλα τα αιτήματα για μια καθορισμένη διάρκεια: σταματάτε να βομβαρδίζετε ένα API που σας απορρίπτει και τα νήματά σας παραμένουν διαθέσιμα για την υπόλοιπη εφαρμογή. Όταν λήξει η καθυστέρηση, μεταβαίνει σε ημι-ανοιχτή κατάσταση (half-open) και επιτρέπει τη διέλευση ενός μόνο αιτήματος δοκιμής· αν επιτύχει, η κανονική κίνηση επαναλαμβάνεται, διαφορετικά ο μετρητής μηδενίζεται. Αυτός ο μηχανισμός προστατεύει την υπηρεσία σας όσο και το API στην άλλη άκρη.

Αντιμετωπίστε το 429 ως Μετρική

Μια τελευταία αντανακλαστική κίνηση, που συχνά λείπει από τις ενσωματώσεις: η καταγραφή του ρυθμού των 429. Αυτός ο αριθμός δεν μετρά την ποιότητα του κώδικα επαναπροσπάθειάς σας· μετρά την αντιστοιχία μεταξύ του επιπέδου συνδρομής σας και της πραγματικής σας κίνησης. Μια καμπύλη που ανεβαίνει εβδομάδα με την εβδομάδα σηματοδοτεί υποδιαστασιολόγηση πολύ πριν παραπονεθούν οι χρήστες και σας δίνει χρόνο να δράσετε ψύχραιμα—κατανέμοντας το φορτίο, προϋπολογίζοντας μια αναβάθμιση επιπέδου—αντί να αυτοσχεδιάζετε ένα βράδυ Παρασκευής.

Βασικά σημεία

  • Ο κωδικός HTTP 429 σηματοδοτεί υπέρβαση των ορίων RPM ή TPM
  • Η εκθετική υποχώρηση με jitter είναι η στρατηγική που προτείνει η xAI
  • Σε περιβάλλον παραγωγής, συμπληρώστε την υποχώρηση με έναν περιοριστή ρυθμού στην πλευρά του πελάτη και έναν διακόπτη κυκλώματος
  • Μην επαναπροσπαθείτε ποτέ αμέσως: περιμένετε τουλάχιστον 1 δευτερόλεπτο πριν την πρώτη επαναπροσπάθεια
  • Παρακολουθείτε τον ρυθμό των 429 στις μετρικές σας ως δείκτη υποδιαστασιολόγησης