Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

API-Header und Überlaufmanagement

Lektion 8 von 14 Aktualisiert am 28. Juli 2026 Mittelstufe
Auf dieser Seite
  1. Entscheiden Sie, welche Anfragen Ihre Kapazität beanspruchen
  2. Dedizierte Kapazität freiwillig umgehen
  3. Eine Anfrage zu einem spezifischen Pool leiten
  4. Was passiert im Falle eines Überlaufs
  5. Priorität in den Anwendungscode übersetzen
  6. Kernaussagen

Entscheiden Sie, welche Anfragen Ihre Kapazität beanspruchen

Die Reservierung von Kapazität löst nur die Hälfte des Problems: Sie müssen weiterhin auswählen, welche Anfragen tatsächlich davon profitieren. Provisioned Throughput ist keine einmalige Pauschalzahlung zu Beginn des Monats, sondern ein Mechanismus, den Sie aufrufweise steuern. xAI stellt hierfür dedizierte HTTP-Header bereit, die aufrufweise zwischen Ihrer dedizierten Kapazität und dem gemeinsamen Pool entscheiden. Eine feste Zuweisung wird so zu einem operativen Hebel, den Ihre Teams direkt aus dem Anwendungscode manipulieren.

Dedizierte Kapazität freiwillig umgehen

Der erste Header dient dazu, eine Anfrage von Ihrer Zuweisung auszuschließen:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-disable: true" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "Summarize this document."}]
  }'

Es mag kontraintuitiv erscheinen, auf die eigene Kapazität zu verzichten. Vier Situationen rechtfertigen dies im täglichen Betrieb. Erstens bei nicht-kritischen Aufgaben: Eine Batch-Analyse, die um 22:00 Uhr gestartet wird, oder ein verzögerter Verarbeitungsauftrag benötigen keine Latenzgarantie, und es wäre schade, wenn diese die für interaktiven Verkehr bezahlte Zuweisung beanspruchen würde. Zweitens zur Sicherung der Kapazität während Spitzenzeiten: Durch das Deaktivieren des Provisioned Throughputs bei sekundären Verarbeitungsaufgaben setzen Sie die Zuweisung genau dann frei, wenn Prioritätsanfragen in hoher Menge eintreffen. Der Header dient zudem für A/B-Tests, wenn Sie den tatsächlichen Leistungsunterschied zwischen dedizierter und geteilter Kapazität unter Ihrer eigenen Last messen möchten, statt auf eine Versprechungen des Anbieters zu vertrauen. Schließlich ist er für das Debugging wertvoll: Das Erzwingen des Durchgangs der Anfrage über den gemeinsamen Pool zeigt Ihnen sofort, ob das beobachtete Anomalie aus der provisionierten Kapazität oder aus Ihrem Code resultiert.

Eine Anfrage zu einem spezifischen Pool leiten

Der zweite Header leitet den Aufruf zu einem identifizierten Kapazitätspool:

curl https://api.x.ai/v1/chat/completions \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-pt-id: pool-support-client" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.3",
    "messages": [{"role": "user", "content": "How can I help you?"}]
  }'

Dieser Header wird unverzichtbar, sobald mehrere Anwendungen innerhalb Ihrer Organisation Grok aufrufen. Sie erstellen dann separate Pools – einen pool-support für den Kundensupport-Chatbot, einen pool-analysis für die Dokumentenanalyse und einen pool-internal für interne Geschäftstools – und jeder davon arbeitet unabhängig. Die Segmentierung isoliert die Leistung: Die Dokumentenanalyse-Kampagne, die am Montagmorgen gestartet wird, verschlechtert die Reaktionszeiten im Support nicht mehr. Zudem entsteht eine verbrauchsbezogene Aufschlüsselung, die eine faktische Grundlage für Rückbuchungen oder Arbitration bietet, wo Sie zuvor auf Schätzungen angewiesen waren. Und sie verhindert inhärent, dass eine einzelne Anwendung die Kapazität zum Nachteil anderer monopolisiert.

Was passiert im Falle eines Überlaufs

Wenn der Datenverkehr die provisionierte Kapazität überschreitet, ist der Rückgriff automatisch und stumm: Die Anfrage wird an den gemeinsamen Pool weitergeleitet, es gelten die Standardmodelle auf Abruf, und sie unterliegt den üblichen Rate Limits. Es wird kein Fehler zurückgegeben; Ihre Anwendung bemerkt nichts.

Diese Diskretion hat zwei Seiten. Hinsichtlich der Verfügbarkeit ist die Nachricht gut: Sie werden niemals auf einen 429-Fehler stoßen, der durch das Überschreiten der provisionierten Kapazität verursacht wird. Hinsichtlich Finanzen und Servicequalität ist es weniger gut. Die Anfrage wird zum Abrufpreis abgerechnet, möglicherweise höher; die Antwortzeiten können variieren, da die Verarbeitung auf gemeinsamer Infrastruktur stattfindet; und vor allem deckt die 99,9%-SLA nur Anfragen ab, die im Rahmen des Provisioned Throughputs verarbeitet werden. Ein Überlauf bricht also nichts, er lässt Sie lediglich leise aus dem von Ihnen bezahlten Geltungsbereich ausgleiten. Die Management-API stellt das Verhältnis der im provisionierten Modus verarbeiteten Anfragen zu denjenigen auf Abruf bereit: Prüfen Sie dieses Verhältnis monatlich genau wie eine Rechnung. Eine steigende Überlaufquote ist das Signal, dass Sie die Zuweisung erhöhen müssen.

Priorität in den Anwendungscode übersetzen

Anstatt die Anzahl der Aufruffunktionen zu vervielfältigen, besteht die solideste Praxis darin, die Priorität zum Zeitpunkt der Anfrageerstellung zu qualifizieren:

import httpx

def query_grok(prompt: str, priority: str = "normal"):
    headers = {
        "Authorization": f"Bearer {API_KEY}",
        "Content-Type": "application/json",
    }

    if priority == "low":
        headers["x-pt-disable"] = "true"
    elif priority == "high":
        headers["x-pt-id"] = "pool-critical"

    response = httpx.post(
        "https://api.x.ai/v1/chat/completions",
        headers=headers,
        json={
            "model": "grok-4.3",
            "messages": [{"role": "user", "content": prompt}],
        },
    )
    return response.json()

Der priority-Parameter wird zur einzigen Entscheidung, die der Geschäftslogik offensteht, und die Routing-Richtlinie bleibt in einer einzigen Funktion konzentriert, die Sie entwickeln können, ohne den Rest zu berühren. Prüfen Sie Ihren eigenen Aufrufcode und sortieren Sie jeden Einstiegspunkt in eine der drei Kategorien: Die Übung zeigt regelmäßig, dass eine solide Hälfte des Datenverkehrs keinen Bedarf an dedizierter Kapazität hat.

Kernaussagen

  • Der Header x-pt-disable: true umgeht die provisionierte Kapazität für eine Anfrage
  • Der Header x-pt-id leitet zu einem spezifischen Kapazitätspool
  • Überläufe fallen automatisch auf Abruf zurück, ohne Fehler
  • Die Segmentierung in Pools ermöglicht die Isolierung der Leistung und die Verfolgung des Verbrauchs pro Anwendung
  • Überwachen Sie die Überlaufquote, um Ihre Zuweisung bei Bedarf anzupassen