Przejdź do głównej treści
Polski— Wybierz język
Menu

HTTP 429 i wykładnicze opóźnianie (Exponential Backoff)

Lekcja 3 z 14 Zaktualizowano 29 lipca 2026 Zaawansowany
Na tej stronie
  1. Obsługa przekroczeń limitów
  2. Czego nie robić
  3. Wykładnicze opóźnianie (Exponential Backoff)
  4. Skalowanie: Reguluj zanim wystąpi błąd
  5. Traktuj 429 jako metrykę
  6. Kluczowe wnioski

Obsługa przekroczeń limitów

Gdy tylko Twoja aplikacja osiągnie limity RPM lub TPM, API Grok odpowiada kodem stanu HTTP 429 (Too Many Requests). Odczytuj ten kod dosłownie: nie jest to awaria, lecz sygnał sterowania przepływem. API mówi „zwolnij“, a nie „coś jest zepsute“. Różnica między solidną integracją a taką, która łatwo ulega awarii, sprowadza się do tego, jak Twój kod interpretuje tę różnicę. Źle obsłużony błąd 429 nigdy nie pozostaje izolowany: kaskaduje przez kolejkę, następnie do usług wywołujących i kończy się jako incydent widoczny dla użytkownika końcowego.

Czego nie robić

Instynktowną reakcją na nieudane żądanie jest natychmiastowe jego ponowienie. To dokładnie błędny ruch. Już przekroczyłeś swój przydział; wysyłając żądanie ponownie natychmiast, marnujesz dodatkowe wywołanie, które również się nie powiedzie, i wydłużasz okres blokowania zamiast go skracać. Nieskończone ponawianie pogarsza sprawę, blokując wątki bez żadnego pożytku. Z drugiej strony, traktowanie błędu 429 jako błędu trwałego i poddanie się pozbawia użytkownika wyniku, który dotarłby kilka sekund później. Właściwe podejście leży pomiędzy tymi skrajnościami: ponawiaj, ale czekaj i za każdym razem czekaj dłużej.

Wykładnicze opóźnianie (Exponential Backoff)

Zasada polega na podwajaniu opóźnienia po każdej nieudanej próbie, dodając losową wariancję zwaną jitterem.

import time
import random

def call_with_retry(request, max_retries=5):
    for attempt in range(max_retries):
        response = send_request(request)

        if response.status_code != 429:
            return response

        base_delay = 2 ** attempt  # 1, 2, 4, 8, 16 seconds
        jitter = random.uniform(0, base_delay * 0.5)
        delay = base_delay + jitter

        time.sleep(delay)

    raise Exception("Retry limit reached")

Jitter zasługuje na uwagę, ponieważ jest to linia kodu najczęściej usuwana w założeniu, że niepotrzebnie komplikuje logikę. Wyobraź sobie trzydzieści instancji Twojej usługi otrzymujących błąd 429 w tej samej sekundzie. Bez jittera wszystkie obliczą to samo opóźnienie i ponowią próbę dokładnie w tym samym momencie: odtworzysz szczyt obciążenia identycznie, sekundę później, potem dwie, potem cztery. To zjawisko thundering herd (stada grzmiącego). Losowość rozkłada próby w czasie i przerywa tę mimowolną synchronizację. Zauważ również, że bazowe opóźnienie zaczyna się od jednej sekundy: nigdy nie schodź poniżej tej wartości przy pierwszej próbie.

Skalowanie: Reguluj zanim wystąpi błąd

W aplikacjach o dużym wolumenie reagowanie na błędy 429 już nie wystarcza; lepiej jest ich unikać. Limitowanie przepustowości po stronie klienta (client-side rate limiter) ogranicza liczbę współbieżnych wywołań i wymusza minimalny odstęp między wysyłkami, dzięki czemu wychodzące obciążenie pozostaje poniżej sufitu, zamiast ciągle go testować.

import asyncio
from asyncio import Semaphore

# Limit to 25 requests/second (margin under the allowed 30 req/s)
semaphore = Semaphore(25)

async def limited_request(payload):
    async with semaphore:
        response = await send_request_async(payload)
        await asyncio.sleep(1.0 / 25)  # minimum spacing
        return response

Zauważ celowy zapas: 25 żądań na sekundę zamiast dozwolonych 30. Ta rezerwa absorbuje nieregularności sieciowe i nagłe skoki ruchu, nigdy nie uderzając w sufit.

Układ uzupełnia wyłącznik awaryjny (circuit breaker), który odcina wywołania, gdy błędy się kumulują. Gdy jest zamknięty, żądania przechodzą normalnie. Po określonej liczbie kolejnych niepowodzeń otwiera się i lokalnie odrzuca wszystkie żądania przez skonfigurowany czas: przestajesz „bombardować“ API, które Cię odrzuca, a Twoje wątki pozostają dostępne dla reszty aplikacji. Gdy czas minie, przechodzi w stan półotwarty (half-open) i przepuszcza pojedyncze żądanie testowe; jeśli się powiedzie, ruch normalny zostaje wznowiony, w przeciwnym razie licznik się resetuje. Mechanizm ten chroni Twoją usługę tak samo, jak API po drugiej stronie.

Traktuj 429 jako metrykę

Ostatni odruch, często brakujący w integracjach: monitoruj wskaźnik błędów 429. Liczba ta nie mierzy jakości Twojego kodu ponawiania; mierzy dopasowanie Twojego planu taryfowego do rzeczywistego ruchu. Krzywa rosnąca z tygodnia na tydzień sygnalizuje niedoszacowanie zasobów na długo przed tym, zanim użytkownicy zaczną się skarżyć, i daje Ci czas na spokojne działanie – rozłożenie obciążenia, zaplanowanie upgrade’u planu – zamiast improwizowania w piątkowy wieczór.

Kluczowe wnioski

  • Kod HTTP 429 sygnalizuje przekroczenie limitu RPM lub TPM
  • Wykładnicze opóźnianie z jitterem to strategia zalecana przez xAI
  • W środowisku produkcyjnym uzupełnij opóźnianie o limitowanie przepustowości po stronie klienta i wyłącznik awaryjny (circuit breaker)
  • Nigdy nie ponawiaj natychmiast: przed pierwszą ponowną próbą odczekaj co najmniej 1 sekundę
  • Monitoruj wskaźnik błędów 429 w swoich metrykach jako wskaźnik niedoszacowania zasobów