Przejdź do głównej treści
Polski— Wybierz język
Menu

RPM i TPM dla każdego modelu

Lekcja 2 z 14 Zaktualizowano 2 listopada 2026 Zaawansowany
Na tej stronie
  1. Dwa wskaźniki limitujące
  2. RPM ogranicza liczbę wywołań
  3. TPM ogranicza przetwarzaną objętość
  4. Limity specyficzne dla każdego modelu
  5. Monitorowanie zużycia bez dedykowanych nagłówków
  6. Kluczowe wnioski

Aktualizacja z 2 listopada 2026 r. — Imagine. Model grok-imagine-image-quality został usunięty 2 listopada 2026 r.: jego żądania są teraz obsługiwane przez Imagine Image 2.0 (grok-imagine-image-2.0, 0,04 USD za obraz) w jakości low. Zastąp identyfikator w swoich przykładach i ustaw wybraną jakość; model grok-imagine-image (wersja 1.0) nie podlega tej zmianie. Imagine Image 2.0 akceptuje do pięciu obrazów referencyjnych oraz jakość auto, która jest teraz domyślna.

Dwa wskaźniki limitujące

Limity przepustowości w konsoli xAI

API Grok nie mierzy Twojego zużycia za pomocą jednego licznika, lecz dwóch, które uruchamiają się niezależnie: RPM (liczba żądań na minutę) i TPM (liczba tokenów na minutę). Możesz zostać zablokowany przez jeden z nich, będąc wciąż daleko od limitu drugiego. Kluczowe dla dalszej części: te dwa liczniki są śledzone osobno dla każdego modelu, więc Twoje limity dla grok-4.5 nie mają żadnego wpływu na limity dla grok-4.3.

To rozróżnienie to nie tylko szczegół dokumentacji. Decyduje ono o tym, jak projektujesz infrastrukturę, jak rozkładasz obciążenie i dokładnie gdzie Twój serwis zacznie zwracać błędy w dniach wzmożonego ruchu.

RPM ogranicza liczbę wywołań

RPM zlicza wywołania niezależnie od ich rozmiaru: żądanie liczące dziesięć tokenów i takie liczące sto tysięcy tokenów ważą dokładnie tyle samo. Oficjalne karty modeli podają tę wartość jako liczbę żądań na sekundę: 150 dla grok-4.7 i grok-4.5 (9000 na minutę), 37 dla grok-4.3 (2220 na minutę). To wystarcza do standardowej aplikacji konwersacyjnej.

RPM staje się wąskim gardłem, gdy Twoje żądania są liczne i krótkie. Potok klasyfikujący zgłoszenia wsparcia pojedynczo lub ekstrahujący trzy encje z każdego zdania w korpusie dokumentów wyczerpie limit wywołań, zanim zbliży się do limitu tokenów. W takim przypadku rozwiązaniem nie jest proszenie o wyższy limit RPM, lecz grupowanie kilku elementów w jednym wywołaniu.

TPM ogranicza przetwarzaną objętość

TPM sumuje tokeny wejściowe i wyjściowe w przesuwającym się oknie minutowym. Zgodnie z oficjalnymi kartami wynosi to 50 milionów tokenów na minutę dla grok-4.7 i grok-4.5 oraz 10 milionów dla grok-4.3. Zachowanie jest tu dokładnie odwrotne niż w poprzednim przypadku: mało wywołań, ale bardzo ciężkich.

Weźmy serwis analizy dokumentów wysyłający foldery po 50 000 tokenów każdy. W przypadku grok-4.3 sufit liczby żądań pozwalałby na 2220 przesłań na minutę, ale TPM zatrzymuje Cię na 200 dokumentach: 200 × 50 000 = 10 milionów. Nasycasz więc około jednej jedenastej swojej teoretycznej pojemności pod względem liczby wywołań i żadne ustawienie równoległości nie pozwoli Ci przekroczyć tej ściany.

Limity specyficzne dla każdego modelu

Sufity różnią się w zależności od rodzaju wywoływanego modelu. Musisz znać tę skalę, zanim obiecujesz klientowi określoną przepustowość.

KategoriaModeleLimit (oficjalna karta)
Tekstgrok-4.7, grok-4.5150 żądań/s, 50 mln TPM
Tekstgrok-4.337 żądań/s, 10 mln TPM
Obrazgrok-imagine-image, grok-imagine-image-2.06 żądań/s
Wideogrok-imagine-video, -1.5, -1.5-lite10 żądań/s

Wartości te pochodzą z oficjalnych kart modeli na dzień 2 listopada 2026 r.; efektywne limity Twojego zespołu wyświetlają się w konsoli xAI.

Ponieważ liczniki są niezależne, nasycenie jednego modelu nie blokuje innych. Jeśli grok-4.5 zwraca błędy 429, grok-4.3 nadal przyjmuje Twoje żądania, jakby nic się nie stało. To często pomijany dźwignia przepustowości: zamiast czekać na zwiększenie kwoty, kieruj proste zadania — klasyfikację, ekstrakcję, krótkie podsumowania — do mniej obciążonego modelu, zarezerwuj grok-4.5 do naprawdę złożonych rozumowań, a orchestrację strumieni kilku podagentów pozostaw modelowi grok-4.20-multi-agent-0309. Całkowita przepustowość Twojej platformy staje się wtedy sumą kilku kwot, a nie tylko jednej.

Monitorowanie zużycia bez dedykowanych nagłówków

API Grok nie zwraca w odpowiedziach żadnych nagłówków informujących, ile RPM lub TPM Ci pozostało. Innymi słowy, nic nie ostrzeże Cię przed zbliżeniem się do sufitu: jedynym sposobem, by wiedzieć, na czym stoisz, jest prowadzenie własnej księgowości po stronie klienta.

To śledzenie opiera się na trzech elementach: liczniku żądań na minutę dla każdego modelu, liczniku tokenów zasilanym przez obiekt usage, który zawiera każda odpowiedź, oraz progu alertu wyzwalanego około 80% limitów. Ten ostatni punkt jest najważniejszy: alert na poziomie 80% daje Ci czas na reakcję — rozłożenie obciążenia, wygładzenie przesłań, uruchomienie aktualizacji poziomu usługi — podczas gdy alert na poziomie 100% jedynie potwierdza trwający incydent.

Kluczowe wnioski

  • Limity mierzone są w RPM (żądania/minutę) i TPM (tokeny/minutę)
  • Modele tekstowe oferują standardowo 1800 RPM i 10 mln TPM
  • Każdy model posiada własne, niezależne limity
  • Rozkładanie obciążenia między modele pozwala zwielokrotnić efektywną przepustowość
  • Wdróż śledzenie po stronie klienta, aby wyprzedzać limity