Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

HTTP 429 a exponenciální backoff

Lekce 3 z 14 Aktualizováno 29. července 2026 Pokročilý
Na této stránce
  1. Řešení překročení limitů
  2. Co nedělat
  3. Exponenciální backoff
  4. Škálování: Reguluj dříve, než selžeš
  5. Považuj 429 za metriku
  6. Klíčové poznatky

Řešení překročení limitů

Jakmile tvoje aplikace dosáhne limitů RPM (požadavků za minutu) nebo TPM (tokenů za minutu), Grok API odpoví stavovým kódem HTTP 429 (Too Many Requests). Chápej tento kód přesně tak, jak je: nejde o výpadek, ale o signál řízení toku. API ti říká „zpomal“, nikoliv „je to rozbité“. Rozdíl mezi robustní a křehkou integrací spočívá v tom, jak tvůj kód tento rozdíl interpretuje. Špatně zpracovaný kód 429 nikdy nezůstane izolovaný: kaskádově se přenese přes frontu, poté do volajících služeb a skončí jako incident viditelný pro koncového uživatele.

Co nedělat

Instinktivní reakcí při selhání požadavku je jeho okamžité opětovné odeslání. To je přesně to špatné rozhodnutí. Už jsi byl nad svým kvótou; okamžitým opakovaným odesláním spálíš další volání, které také selže, a prodloužíš dobu blokování místo toho, abys ji zkrátil. Nekonečné opakování věci zhoršuje tím, že zbytečně váže vlákna. Na druhou stranu, pokud budeš kód 429 považovat za trvalou chybu a vzdáš to, připravíš svého uživatele o výsledek, který by dorazil o několik sekund později. Správný přístup leží mezi těmito extrémy: opakuj pokus, ale čekej a pokaždé čekej déle.

Exponenciální backoff

Princip spočívá v dvojnásobném prodloužení prodlevy po každém neúspěšném pokusu s přidáním náhodné variace zvané jitter.

import time
import random

def call_with_retry(request, max_retries=5):
    for attempt in range(max_retries):
        response = send_request(request)

        if response.status_code != 429:
            return response

        base_delay = 2 ** attempt  # 1, 2, 4, 8, 16 seconds
        jitter = random.uniform(0, base_delay * 0.5)
        delay = base_delay + jitter

        time.sleep(delay)

    raise Exception("Retry limit reached")

Jitter si zaslouží pozornost, protože jde o řádek, který se nejčastěji maže s domněnkou, že zbytečně komplikuje kód. Představ si třicet instancí tvé služby, které ve stejnou sekundu obdrží kód 429. Bez jitteru všechny vypočítají stejnou prodlevu a zkusí to znovu přesně ve stejný okamžik: identicky jsi reprodukoval špičku zatížení, o sekundu později, pak o dvě, pak o čtyři. To je fenomén thundering herd (hromadný nápor). Náhodnost rozprostře pokusy v čase a rozbije tuto nedobrovolnou synchronizaci. Všimni si také, že základní prodleva začíná na jedné sekundě: pro první pokus nikdy neklesni pod tuto hodnotu.

Škálování: Reguluj dříve, než selžeš

U aplikací s vysokým objemem již reakce na kódy 429 nestačí; lepší je se jim vyhnout. Klientský omezovač rychlosti (rate limiter) omezuje počet souběžných volání a vynucuje minimální rozestup mezi odesláním, takže odchozí zátěž zůstává pod stropem místo toho, aby ho neustále testovala.

import asyncio
from asyncio import Semaphore

# Limit to 25 requests/second (margin under the allowed 30 req/s)
semaphore = Semaphore(25)

async def limited_request(payload):
    async with semaphore:
        response = await send_request_async(payload)
        await asyncio.sleep(1.0 / 25)  # minimum spacing
        return response

Všimni si úmyslné rezervy: 25 požadavků za sekundu místo povolených 30. Tato rezerva absorbuje nepravidelnosti sítě a nárazy provozu, aniž by kdy dosáhla stropu.

Jistič (circuit breaker) doplňuje nastavení tím, že přeruší volání, když se hromadí selhání. Dokud je uzavřen, požadavky procházejí normálně. Po nastaveném počtu po sobě jdoucích selhání se otevře a lokálně odmítne všechny požadavky na nakonfigurovanou dobu: přestaneš bombardovat API, které tě odmítá, a tvá vlákna zůstanou dostupná pro zbytek aplikace. Když doba vyprší, přejde do polovičního stavu (half-open) a propustí jediný testovací požadavek; pokud uspěje, normální provoz se obnoví, jinak se čítač resetuje. Tento mechanismus chrání tvou službu stejně jako API na druhé straně.

Považuj 429 za metriku

Poslední reflex, který v integracích často chybí: instrumentuj míru výskytu kódů 429. Toto číslo neměří kvalitu tvého kódu pro opakování; měří soulad mezi tvým tarifem a tvým skutečným provozem. Křivka, která týden co týden stoupá, signalizuje poddimenzování dlouho předtím, než si začnou stěžovat uživatelé, a dává ti čas jednat klidně – rozložit zátěž, naplánovat upgrade tarifu – místo improvizace v pátek večer.

Klíčové poznatky

  • Stavový kód HTTP 429 signalizuje překročení limitu RPM nebo TPM
  • Exponenciální backoff s jitterem je strategie doporučená společností xAI
  • V produkčním prostředí doplň backoff klientským omezovačem rychlosti a jističem
  • Nikdy neopakuj pokus okamžitě: před prvním opakováním počkej alespoň 1 sekundu
  • Sleduj míru výskytu kódů 429 ve svých metrikách jako indikátor poddimenzování