Abrechnung und Kostenmanagement
Auf dieser Seite
Verstehen Sie, wofür Sie bezahlen
Die Responses API weist eine wichtige Abrechnungsdetail auf: In einer verketteten Konversation werden Sie für die gesamte Historie abgerechnet, auch wenn Sie diese nicht explizit erneut senden. Das Verständnis dieses Mechanismus ist unerlässlich, um Ihre Kosten in der Produktion zu kontrollieren.
Die Falle der kumulativen Historie
Mit previous_response_id rekonstruiert der Server automatisch den vollständigen Kontext. Dies ist für Entwickler bequem, bedeutet jedoch, dass Tokens akkumulieren:
| Turn | Ihre Nachricht | Abgerechnete Tokens (Eingabe) |
|---|---|---|
| 1 | 50 Tokens | 50 |
| 2 | 30 Tokens + Historie Turn 1 | 130 |
| 3 | 40 Tokens + Historie Turn 1–2 | 350 |
| 4 | 25 Tokens + Historie Turn 1–3 | 725 |
Das Wachstum ist quadratisch. Bis zum 10. Turn einer Konversation können die Eingabetokens 10 bis 50 Mal höher sein als Ihre ursprüngliche Nachricht.
Kosten in der Antwort ablesen
Jede Antwort enthält ein usage-Objekt mit den genauen Kosten:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Das Feld cost_in_nano_usd gibt die Kosten in Nano-Dollar an:
1.000.000.000 Nano-USD = 1 USD
Zur Umrechnung:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Kosten dieser Anfrage: ${cost_usd:.6f}")
Reasoning-Tokens
Die reasoning_tokens in output_tokens_details werden mit dem Ausgabe-Token-Tarif abgerechnet. Sie können bei Reasoning-Modellen 50 bis 80 % der Ausgabetokens ausmachen.
Optimierungsstrategien
Gesprächslänge begrenzen
Statt unendlich zu verketteln, fassen Sie regelmäßig zusammen:
# Nach N Turns zusammenfassen und neu starten
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Fassen Sie dieses Gespräch in 3 Schlüsselpunkten zusammen.",
previous_response_id=last_id
)
# Neu starten, wobei die Zusammenfassung als neuer Kontext dient
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Vorheriger Kontext: {summary.output[0].content[0].text}",
input=user_message
)
Das richtige Modell wählen
Nicht alle Modelle kosten gleich viel. Nutzen Sie für einfache Aufgaben ein weniger leistungsfähiges (und günstigeres) Modell. Reservieren Sie Reasoning-Modelle für komplexe Probleme.
max_output_tokens steuern
Begrenzen Sie die Ausgabe, wenn Sie keine langen Antworten benötigen:
{
"model": "grok-4.20-0309-reasoning",
"input": "Beantworten Sie in einem Satz: Was ist die Hauptstadt Japans?",
"max_output_tokens": 100
}
store: false nutzen, wann immer möglich
Unspeicherte Antworten werden nicht auf dem Server behalten. Dies reduziert die direkten Kosten nicht, vermeidet aber die Ansammlung unnötiger Daten.
Kosten in der Produktion verfolgen
Implementieren Sie systematisches Tracking:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Speichern Sie in Ihrem Logging-System
save_to_db(log_entry)
Kostenwarnungen
Richten Sie Warnschwellen ein:
MAX_COST_PER_REQUEST = 0.05 # 5 US-Zent
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Teure Anfrage erkannt: ${cost:.4f} (Benutzer: {user_id})")
Kernaussagen
- Verkettete Konversationen werden pro Turn für die gesamte Historie abgerechnet – quadratisches Wachstum
cost_in_nano_usd/ 1 Milliarde = Kosten in USD- Reasoning-Tokens werden abgerechnet, sind aber in der Antwort unsichtbar
- Fassen Sie lange Gespräche zusammen, um Kosten zu begrenzen
- Implementieren Sie systematisches Kosten-Tracking pro Benutzer und pro Funktion