Prejsť na hlavný obsah
Slovenčina— Vyberte jazyk
Menu

Fakturácia a správa nákladov

Lekcia 14 z 16 Aktualizované 30. júla 2026 Vývojár
Na tejto strane
  1. Pochopte, za čo platíte
  2. Pasca kumulatívnej histórie
  3. Čítanie nákladov v odpovedi
  4. Stratégie optimalizácie
  5. Sledovanie nákladov v produkcii
  6. Upozornenia na náklady
  7. Kľúčové poznatky

Pochopte, za čo platíte

API Responses má dôležitý detail fakturácie: v reťazovej konverzácii sa vám účtuje za celú históriu, aj keď ju explicitne znova neodosielate. Pochopenie tohto mechanizmu je nevyhnutné na kontrolu vašich nákladov v produkcii.

Pasca kumulatívnej histórie

Pomocou parametra previous_response_id server automaticky rekonštruuje celý kontext. Pre vývojára je to pohodlné, ale znamená to, že tokeny sa kumulujú:

KoloVaša správaFakturované tokeny (vstup)
150 tokenov50
230 tokenov + história 1. kola130
340 tokenov + história 1.–2. kola350
425 tokenov + história 1.–3. kola725

Rast je kvadratický. Do 10. kola konverzie môžu byť vstupné tokeny 10- až 50-krát vyššie ako vaša počiatočná správa.

Čítanie nákladov v odpovedi

Každá odpoveď obsahuje objekt usage s presnými nákladmi:

{
  "usage": {
    "input_tokens": 450,
    "output_tokens": 280,
    "total_tokens": 730,
    "output_tokens_details": {
      "reasoning_tokens": 200
    },
    "cost_in_nano_usd": 1500000
  }
}

cost_in_nano_usd

Pole cost_in_nano_usd uvádza náklady v nano-dolároch:

1 000 000 000 nano-USD = 1 USD

Prevod:

cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Náklady na túto požiadavku: ${cost_usd:.6f}")

Tokeny na uvažovanie (Reasoning Tokens)

reasoning_tokens v output_tokens_details sa fakturujú sadzbou za výstupné tokeny. Pri modeloch na uvažovanie môžu tvoriť 50 až 80 % výstupných tokenov.

Stratégie optimalizácie

Obmedzte dĺžku konverzácie

Namiesto nekonečného reťazenia pravidelne sumarizujte:

# Po N kolách sumarizujte a reštartujte
if turn_count > 5:
    summary = client.responses.create(
        model="grok-4.20-0309-reasoning",
        input="Sumarizuj túto konverzáciu v 3 kľúčových bodoch.",
        previous_response_id=last_id
    )
    # Reštartujte so sumarizáciou ako novým kontextom
    new_start = client.responses.create(
        model="grok-4.20-0309-reasoning",
        instructions=f"Predchádzajúci kontext: {summary.output[0].content[0].text}",
        input=user_message
    )

Vyberte správny model

Nie všetky modely stoja rovnako. Na jednoduché úlohy použite menej výkonný (a lacnejší) model. Modely na uvažovanie si nechajte na zložité problémy.

Kontrolujte max_output_tokens

Obmedzte výstup, keď nepotrebujete dlhé odpovede:

{
  "model": "grok-4.20-0309-reasoning",
  "input": "Odpovedz jednou vetou: aké je hlavné mesto Japonska?",
  "max_output_tokens": 100
}

Používajte store: false, keď je to možné

Neuložené odpovede sa na serveri neuchovávajú. Toto priamo neznižuje náklady, ale vyhnete sa hromadeniu zbytočných dát.

Sledovanie nákladov v produkcii

Implementujte systematické sledovanie:

import json
from datetime import datetime

def log_usage(response, user_id, feature):
    log_entry = {
        "timestamp": datetime.now().isoformat(),
        "user_id": user_id,
        "feature": feature,
        "response_id": response.id,
        "model": response.model,
        "input_tokens": response.usage.input_tokens,
        "output_tokens": response.usage.output_tokens,
        "reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
        "cost_nano_usd": response.usage.cost_in_nano_usd,
        "cost_usd": response.usage.cost_in_nano_usd / 1e9
    }
    # Uložte do vášho systému logovania
    save_to_db(log_entry)

Upozornenia na náklady

Nastavte prahové hodnoty upozornení:

MAX_COST_PER_REQUEST = 0.05  # 5 centov USD

cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
    alert(f"Zistená drahá požiadavka: ${cost:.4f} (používateľ: {user_id})")

Kľúčové poznatky

  • Reťazové konverzácie fakturujú celú históriu v každom kole – kvadratický rast
  • cost_in_nano_usd / 1 miliarda = náklady v USD
  • Tokeny na uvažovanie sa fakturujú, ale v odpovedi nie sú viditeľné
  • Dlhé konverzácie sumarizujte, aby ste udržali náklady pod kontrolou
  • Implementujte systematické sledovanie nákladov na používateľa a funkciu