Anfragen und Tokens pro Modell
Auf dieser Seite
Update vom 2. November 2026 — Imagine. Der Parameter
grok-imagine-image-qualitywurde am 2. November 2026 entfernt: Die Anfragen werden nun vom Imagine Image 2.0 (grok-imagine-image-2.0, 0,04 USD pro Bild) in der Qualitätlowbedient. Ersetzen Sie den Identifier in Ihren Beispielen und setzen Sie die gewünschte Qualität;grok-imagine-image(Version 1.0) bleibt davon unberührt. Imagine Image 2.0 akzeptiert bis zu fünf Referenzbilder und die Qualitätauto, die nun der Standard ist.
Die beiden begrenzenden Metriken

Die Grok-API misst Ihre Nutzung nicht mit einem einzigen Zähler, sondern mit zwei, die unabhängig voneinander auslösen: RPM (Anfragen pro Minute) und TPM (Tokens pro Minute). Sie können durch eine Begrenzung blockiert werden, während Sie bei der anderen noch weit unter dem Limit liegen. Kritisch für das Folgende: Diese beiden Zähler werden pro Modell verfolgt, sodass Ihre Limits für grok-4.5 keinen Einfluss auf die für grok-4.3 haben.
Dieser Unterschied ist nicht nur ein Dokumentationsdetail. Er bestimmt, wie Sie Ihre Infrastruktur dimensionieren, wie Sie die Last verteilen und genau wo Ihr Service an einem Tag mit Spitzenverkehr mit Fehlern beginnt.
RPM begrenzt die Anzahl der Aufrufe
RPM zählt Aufrufe, unabhängig von ihrer Größe: Eine Anfrage mit zehn Tokens und eine mit hunderttausend Tokens wiegen exakt gleich viel. Offizielle Modellblätter geben dies in Anfragen pro Sekunde an: 150 für grok-4.7 und grok-4.5 (9.000 pro Minute), 37 für grok-4.3 (2.220 pro Minute). Dies reicht für eine standardmäßige konversationelle Anwendung aus.
RPM wird zum Flaschenhals, sobald Ihre Anfragen zahlreich und kurz sind. Eine Pipeline, die Support-Tickets einzeln klassifiziert oder drei Entitäten pro Satz in einem Dokumentencorpus extrahiert, wird ihre Aufrufquote weit bevor sie ihre Token-Quote annähert, erschöpfen. In diesem Fall ist die Lösung nicht, nach mehr RPM zu fragen, sondern mehrere Elemente in einer einzigen Anfrage zu bündeln.
TPM begrenzt das verarbeitete Volumen
TPM summiert Eingabe- und Ausgabetokens über ein gleitendes Zeitfenster von einer Minute. Laut offiziellen Blättern beträgt dies 50 Millionen Tokens pro Minute für grok-4.7 und grok-4.5 sowie 10 Millionen für grok-4.3. Das Verhalten hier ist exakt das Gegenteil des vorherigen Falls: wenige Aufrufe, aber sehr schwere.
Nehmen Sie einen Dokumentenanalyse-Service, der Ordner mit jeweils 50.000 Tokens sendet. Bei grok-4.3 würde die Anfrage-Obergrenze 2.220 Einreichungen pro Minute autorisieren, aber TPM stoppt bei 200 Dokumenten: 200 × 50.000 = 10 Millionen. Sie sättigen sich also bei etwa einem elften Ihrer theoretischen Kapazität in Bezug auf die Anzahl der Aufrufe, und keine Parallelisierungseinstellung wird es Ihnen erlauben, diese Mauer zu überschreiten.
Modell-spezifische Limits
Die Obergrenzen sind je nach Art des aufgerufenen Modells unterschiedlich, und Sie müssen diese Skala kennen, bevor Sie Durchsatzversprechen an einen Kunden machen.
| Kategorie | Modelle | Limit (offizielles Blatt) |
|---|---|---|
| Text | grok-4.7, grok-4.5 | 150 Anfragen/s, 50M TPM |
| Text | grok-4.3 | 37 Anfragen/s, 10M TPM |
| Bild | grok-imagine-image, grok-imagine-image-2.0 | 6 Anfragen/s |
| Video | grok-imagine-video, -1.5, -1.5-lite | 10 Anfragen/s |
Diese Werte stammen aus den offiziellen Modellblättern vom 2. November 2026; Ihre effektiven Limits werden in der xAI-Konsole angezeigt.
Da die Zähler unabhängig sind, blockiert die Sättigung eines Modells nicht die anderen. Wenn grok-4.5 Fehler 429 zurückgibt, nimmt grok-4.3 Ihre Anfragen weiterhin entgegen, als wäre nichts passiert. Dies ist ein oft übersehener Durchsatzhebel: Statt auf eine Quotenerhöhung zu warten, leiten Sie einfache Aufgaben – Klassifizierung, Extraktion, kurze Zusammenfassungen – an ein weniger beanspruchtes Modell weiter, reservieren Sie grok-4.5 für wirklich komplexe Schlussfolgerungen und lassen Sie flux mehrere Sub-Agenten an grok-4.20-multi-agent-0309 orchestrieren. Der Gesamtdurchsatz Ihrer Plattform wird dann die Summe mehrerer Quoten statt nur einer sein.
Überwachung des Verbrauchs ohne dedizierte Header
Die Grok-API gibt in ihren Antworten keine Header zurück, die anzeigen, wie viel RPM oder TPM Ihnen noch zur Verfügung steht. Mit anderen Worten: Es wird nichts warnen, dass Sie dem Limit nahekommen; der einzige Weg, um zu wissen, wo Sie stehen, besteht darin, die Abrechnung selbst auf der Client-Seite zu führen.
Diese Verfolgung stützt sich auf drei Elemente: einen Anforderungszähler pro Minute pro Modell, einen Tokenzähler, der durch das usage-Objekt gespeist wird, das jede Antwort enthält, und einen Warnschwellenwert, der bei etwa 80 % der Limits ausgelöst wird. Dieser letzte Punkt ist der wichtigste: Eine Warnung bei 80 % lässt Ihnen Zeit, Anpassungen vorzunehmen – Lastverteilung, Glättung der Einreichungen, Auslösen eines Tiers-Upgrades – wohingegen eine Warnung bei 100 % nur den laufenden Vorfall bestätigt.
Kernaussagen
- Limits werden in RPM (Anfragen/Minute) und TPM (Tokens/Minute) gemessen
- Textmodelle bieten 1.800 RPM und 10M TPM als Standard
- Jedes Modell hat seine eigenen unabhängigen Limits
- Die Verteilung der Last über Modelle ermöglicht die Vervielfachung des effektiven Durchsatzes
- Implementieren Sie eine Client-seitige Verfolgung, um Limits vorherzusehen