Fakturace a správa nákladů
Na této stránce
Pochopte, za co platíte
API Responses má jedno zásadní detailní pravidlo fakturace: v řetězové konverzaci vám je účtována celá historie, i když ji explicitně znovu neodesíláte. Pochopení tohoto mechanismu je klíčové pro kontrolu vašich nákladů v produkčním prostředí.
Past kumulativní historie
Pomocí parametru previous_response_id server automaticky rekonstruuje celý kontext. Pro vývojáře je to pohodlné, ale znamená to, že se tokeny kumulují:
| Kolo | Vaše zpráva | Účtované tokeny (vstup) |
|---|---|---|
| 1 | 50 tokenů | 50 |
| 2 | 30 tokenů + historie 1. kola | 130 |
| 3 | 40 tokenů + historie 1.–2. kola | 350 |
| 4 | 25 tokenů + historie 1.–3. kola | 725 |
Růst je kvadratický. U 10. kola konverzace mohou být vstupní tokeny 10 až 50krát vyšší než u vaší úvodní zprávy.
Čtení nákladů v odpovědi
Každá odpověď obsahuje objekt usage s přesnou cenou:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Pole cost_in_nano_usd udává cenu v nano-dolarech:
1 000 000 000 nano-USD = 1 USD
Pro převod:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Cost of this request: ${cost_usd:.6f}")
Tokeny pro uvažování (Reasoning Tokens)
reasoning_tokens v output_tokens_details jsou účtovány sazbou za výstupní tokeny. U modelů zaměřených na uvažování mohou tvořit 50 až 80 % výstupních tokenů.
Strategie optimalizace
Omezení délky konverzace
Místo nekonečného řetězení pravidelně shrnujte obsah:
# Po N kolech shrňte a restartujte
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Summarize this conversation in 3 key points.",
previous_response_id=last_id
)
# Restartujte se shrnutím jako novým kontextem
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Previous context: {summary.output[0].content[0].text}",
input=user_message
)
Výběr správného modelu
Ne všechny modely stojí stejně. Pro jednoduché úkoly použijte méně výkonný (a levnější) model. Modely pro uvažování si rezervujte pro složité problémy.
Kontrola max_output_tokens
Omezte výstup, pokud nepotřebujete dlouhé odpovědi:
{
"model": "grok-4.20-0309-reasoning",
"input": "Answer in one sentence: what is the capital of Japan?",
"max_output_tokens": 100
}
Použití store: false, kdykoli je to možné
Neuložené odpovědi nejsou na serveru uchovávány. Přímé náklady to nesnižuje, ale zabráníte tím hromadění zbytečných dat.
Sledování nákladů v produkci
Implementujte systematické sledování:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Uložte do svého logovacího systému
save_to_db(log_entry)
Upozornění na náklady
Nastavte prahové hodnoty pro upozornění:
MAX_COST_PER_REQUEST = 0.05 # 5 USD centů
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")
Klíčové poznatky
- Řetězové konverzace účtují celou historii v každém kole – růst je kvadratický
cost_in_nano_usd/ 1 miliarda = cena v USD- Tokeny pro uvažování jsou účtovány, ale v odpovědi nejsou vidět
- Dlouhé konverzace shrnujte, abyste udrželi náklady pod kontrolou
- Implementujte systematické sledování nákladů pro každého uživatele a každou funkci