Fakturácia a správa nákladov
Na tejto strane
Pochopte, za čo platíte
API Responses má dôležitý detail fakturácie: v reťazovej konverzácii sa vám účtuje za celú históriu, aj keď ju explicitne znova neodosielate. Pochopenie tohto mechanizmu je nevyhnutné na kontrolu vašich nákladov v produkcii.
Pasca kumulatívnej histórie
Pomocou parametra previous_response_id server automaticky rekonštruuje celý kontext. Pre vývojára je to pohodlné, ale znamená to, že tokeny sa kumulujú:
| Kolo | Vaša správa | Fakturované tokeny (vstup) |
|---|---|---|
| 1 | 50 tokenov | 50 |
| 2 | 30 tokenov + história 1. kola | 130 |
| 3 | 40 tokenov + história 1.–2. kola | 350 |
| 4 | 25 tokenov + história 1.–3. kola | 725 |
Rast je kvadratický. Do 10. kola konverzie môžu byť vstupné tokeny 10- až 50-krát vyššie ako vaša počiatočná správa.
Čítanie nákladov v odpovedi
Každá odpoveď obsahuje objekt usage s presnými nákladmi:
{
"usage": {
"input_tokens": 450,
"output_tokens": 280,
"total_tokens": 730,
"output_tokens_details": {
"reasoning_tokens": 200
},
"cost_in_nano_usd": 1500000
}
}
cost_in_nano_usd
Pole cost_in_nano_usd uvádza náklady v nano-dolároch:
1 000 000 000 nano-USD = 1 USD
Prevod:
cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Náklady na túto požiadavku: ${cost_usd:.6f}")
Tokeny na uvažovanie (Reasoning Tokens)
reasoning_tokens v output_tokens_details sa fakturujú sadzbou za výstupné tokeny. Pri modeloch na uvažovanie môžu tvoriť 50 až 80 % výstupných tokenov.
Stratégie optimalizácie
Obmedzte dĺžku konverzácie
Namiesto nekonečného reťazenia pravidelne sumarizujte:
# Po N kolách sumarizujte a reštartujte
if turn_count > 5:
summary = client.responses.create(
model="grok-4.20-0309-reasoning",
input="Sumarizuj túto konverzáciu v 3 kľúčových bodoch.",
previous_response_id=last_id
)
# Reštartujte so sumarizáciou ako novým kontextom
new_start = client.responses.create(
model="grok-4.20-0309-reasoning",
instructions=f"Predchádzajúci kontext: {summary.output[0].content[0].text}",
input=user_message
)
Vyberte správny model
Nie všetky modely stoja rovnako. Na jednoduché úlohy použite menej výkonný (a lacnejší) model. Modely na uvažovanie si nechajte na zložité problémy.
Kontrolujte max_output_tokens
Obmedzte výstup, keď nepotrebujete dlhé odpovede:
{
"model": "grok-4.20-0309-reasoning",
"input": "Odpovedz jednou vetou: aké je hlavné mesto Japonska?",
"max_output_tokens": 100
}
Používajte store: false, keď je to možné
Neuložené odpovede sa na serveri neuchovávajú. Toto priamo neznižuje náklady, ale vyhnete sa hromadeniu zbytočných dát.
Sledovanie nákladov v produkcii
Implementujte systematické sledovanie:
import json
from datetime import datetime
def log_usage(response, user_id, feature):
log_entry = {
"timestamp": datetime.now().isoformat(),
"user_id": user_id,
"feature": feature,
"response_id": response.id,
"model": response.model,
"input_tokens": response.usage.input_tokens,
"output_tokens": response.usage.output_tokens,
"reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
"cost_nano_usd": response.usage.cost_in_nano_usd,
"cost_usd": response.usage.cost_in_nano_usd / 1e9
}
# Uložte do vášho systému logovania
save_to_db(log_entry)
Upozornenia na náklady
Nastavte prahové hodnoty upozornení:
MAX_COST_PER_REQUEST = 0.05 # 5 centov USD
cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
alert(f"Zistená drahá požiadavka: ${cost:.4f} (používateľ: {user_id})")
Kľúčové poznatky
- Reťazové konverzácie fakturujú celú históriu v každom kole – kvadratický rast
cost_in_nano_usd/ 1 miliarda = náklady v USD- Tokeny na uvažovanie sa fakturujú, ale v odpovedi nie sú viditeľné
- Dlhé konverzácie sumarizujte, aby ste udržali náklady pod kontrolou
- Implementujte systematické sledovanie nákladov na používateľa a funkciu