Zum Hauptinhalt springen
Deutsch— Sprache auswählen
Menü

Automatische API-Cache

Lektion 9 von 14 Aktualisiert am 29. Juli 2026 Fortgeschritten
Auf dieser Seite
  1. Cache als Hebel zur Kostensenkung
  2. Funktionsweise des Caches
  3. Der Header x-grok-conv-id
  4. Überprüfung der Cache-Effizienz
  5. Kernaussagen

Cache als Hebel zur Kostensenkung

Der automatische Cache hat den größten Einfluss auf Ihre Abrechnung, zum Guten wie zum Schlechten. Bei vielen Anbietern müssen Sie ihn explizit in der Anfrage deklarieren, die zu bewahrenden Blöcke markieren und deren Lebensdauer verwalten. xAI hat einen anderen Ansatz gewählt: Der Cache wird automatisch auf alle Anfragen angewendet, ohne Parameter oder Annotationen. Sie müssen nichts aktivieren, aber Sie haben alles zu gewinnen, wenn Sie verstehen, was ihn auslöst, denn ein schlecht strukturierter Prompt profitiert nie davon und zahlt den vollen Preis für seinen gesamten Eingabeteil.

5–7×
Günstiger bei gecachtem Eingabeteil
$0,20
Pro Million gecachter Tokens auf grok-4.3
UUID
Header x-grok-conv-id
Auto
Aktivierung ohne Konfiguration

Funktionsweise des Caches

Der Cache arbeitet auf Eingabetokens und ausschließlich auf diesen: Die Generierung der Antwort wird stets zum Standardpreis abgerechnet. Wenn der Anfang Ihres Prompts den Anfang eines zuvor verarbeiteten Prompts exakt reproduziert, wird der identische Teil aus dem Cache zum ermäßigten Preis bereitgestellt, und nur der neue Teil wird zum Standardpreis berechnet.

Drei Anwendungsfamilien profitieren sofort. Erstens ein Gespräch: Der Systemprompt und alle vorherigen Runden sind von einem Aufruf zum nächsten rigoros identisch; nur die letzte Frage ändert sich, sodass die Cache-Rate natürlich mit zunehmender Länge des Austauschs steigt. Zweitens ein Prompt mit festem Kontext – ein Vertrag, eine technische Anleitung, ein Produktrepository, gefolgt von einer variablen Frage – sieht seinen Dokumentblock ab dem zweiten Aufruf gecacht. Drittens ein RAG-Pipeline behält konstante Systemanweisungen; nur der abgerufene Kontext ändert sich, und wenn Sie ihn nach den Anweisungen platzieren, bleibt der Präfix cachebar.

Auf dem Preisgitter von xAI ist die Lücke beträchtlich. Auf grok-4.3 und grok-4.20-0309 kosten eine Million gecachter Eingabetokens $0,20 gegenüber $1,25 zum Standardpreis. Auf grok-4.5 beläuft sich dieselbe Million auf $0,30 statt $2,00. Mit anderen Worten: Ein stabiler Präfix von 5.000 Tokens, der tausendmal täglich wiederverwendet wird, kostet Sie fünf bis sieben Mal weniger als ein bei jedem Aufruf neu rekonstruierter Prompt – für ein streng identisches Ergebnis.

Der Header x-grok-conv-id

Um der Infrastruktur zu helfen, Anfragen zuzuordnen, die zusammengehören, akzeptiert die API einen dedizierten Header:

curl -X POST "https://api.x.ai/v1/chat/completions" \
  -H "Authorization: Bearer $XAI_API_KEY" \
  -H "x-grok-conv-id: 550e8400-e29b-41d4-a716-446655440000" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "grok-4.20",
    "messages": [...]
  }'

Der Header x-grok-conv-id erwartet einen UUID vom Typ v4. Die Nutzungsregel ist einfach: Eine Identifikator pro Gespräch oder Verarbeitungsschritt, der für alle Aufrufe wiederverwendet wird, die zu diesem gehören. Dies signalisiert, dass diese Anfragen verknüpft sind, was die Wahrscheinlichkeit der Cache-Wiederverwendung erhöht. Der häufigste Fehler besteht darin, den UUID zum Zeitpunkt des Aufrufs zu generieren, anstatt ihn bei der Sitzungseröffnung zu erzeugen; jede Runde erhält dann eine andere Identifikator und der Vorteil entfällt. Generieren Sie ihn einmal und speichern Sie ihn mit dem Gesprächszustand:

import uuid

# Ein UUID pro Gespräch
conv_id = str(uuid.uuid4())

# Dieselben UUID für alle Runden im Gespräch verwenden
headers = {
    "Authorization": f"Bearer {api_key}",
    "x-grok-conv-id": conv_id,
    "Content-Type": "application/json"
}

Überprüfung der Cache-Effizienz

Nichts schlägt die Messung. Das Feld cached_tokens im Objekt usage, das in der vorherigen Lektion behandelt wurde, verrät Ihnen genau, was aus dem Cache bereitgestellt wurde:

{
  "usage": {
    "prompt_tokens": 5000,
    "cached_tokens": 4200,
    "completion_tokens": 300
  }
}

Hier stammen 4.200 von 5.000 Tokens aus dem Cache, das entspricht einer Rate von 84 %; nur 800 Tokens wurden zum Standardpreis abgerechnet. Machen Sie es zur Gewohnheit, dieses Verhältnis bei einer Stichprobe echter Anfragen nach jeder Bereitstellung zu prüfen: Wenn Sie eine Rate nahe Null bei einer konversationellen Anwendung sehen, variiert etwas am Kopf des Prompts, und die nächste Lektion zeigt Ihnen, woran es liegt.

Kernaussagen

  • Cache ist automatisch: Keine Konfiguration erforderlich
  • Verwenden Sie den Header x-grok-conv-id mit einem UUID vom Typ v4, um verknüpfte Anfragen zu gruppieren
  • Das Feld cached_tokens im Objekt usage gibt die Anzahl der aus dem Cache bereitgestellten Tokens an
  • Gecachter Eingabe kostet 5 bis 7 Mal weniger: $0,20/M auf grok-4.3, $0,30/M auf grok-4.5
  • Je stabiler Ihr Prompt am Anfang der Sequenz ist, desto höher ist die Cache-Rate