Přejít na hlavní obsah
Čeština— Vyberte jazyk
Menu

Fakturace a správa nákladů

Lekce 14 z 16 Aktualizováno 30. července 2026 Vývojář
Na této stránce
  1. Pochopte, za co platíte
  2. Past kumulativní historie
  3. Čtení nákladů v odpovědi
  4. Strategie optimalizace
  5. Sledování nákladů v produkci
  6. Upozornění na náklady
  7. Klíčové poznatky

Pochopte, za co platíte

API Responses má jedno zásadní detailní pravidlo fakturace: v řetězové konverzaci vám je účtována celá historie, i když ji explicitně znovu neodesíláte. Pochopení tohoto mechanismu je klíčové pro kontrolu vašich nákladů v produkčním prostředí.

Past kumulativní historie

Pomocí parametru previous_response_id server automaticky rekonstruuje celý kontext. Pro vývojáře je to pohodlné, ale znamená to, že se tokeny kumulují:

KoloVaše zprávaÚčtované tokeny (vstup)
150 tokenů50
230 tokenů + historie 1. kola130
340 tokenů + historie 1.–2. kola350
425 tokenů + historie 1.–3. kola725

Růst je kvadratický. U 10. kola konverzace mohou být vstupní tokeny 10 až 50krát vyšší než u vaší úvodní zprávy.

Čtení nákladů v odpovědi

Každá odpověď obsahuje objekt usage s přesnou cenou:

{
  "usage": {
    "input_tokens": 450,
    "output_tokens": 280,
    "total_tokens": 730,
    "output_tokens_details": {
      "reasoning_tokens": 200
    },
    "cost_in_nano_usd": 1500000
  }
}

cost_in_nano_usd

Pole cost_in_nano_usd udává cenu v nano-dolarech:

1 000 000 000 nano-USD = 1 USD

Pro převod:

cost_usd = response.usage.cost_in_nano_usd / 1_000_000_000
print(f"Cost of this request: ${cost_usd:.6f}")

Tokeny pro uvažování (Reasoning Tokens)

reasoning_tokens v output_tokens_details jsou účtovány sazbou za výstupní tokeny. U modelů zaměřených na uvažování mohou tvořit 50 až 80 % výstupních tokenů.

Strategie optimalizace

Omezení délky konverzace

Místo nekonečného řetězení pravidelně shrnujte obsah:

# Po N kolech shrňte a restartujte
if turn_count > 5:
    summary = client.responses.create(
        model="grok-4.20-0309-reasoning",
        input="Summarize this conversation in 3 key points.",
        previous_response_id=last_id
    )
    # Restartujte se shrnutím jako novým kontextem
    new_start = client.responses.create(
        model="grok-4.20-0309-reasoning",
        instructions=f"Previous context: {summary.output[0].content[0].text}",
        input=user_message
    )

Výběr správného modelu

Ne všechny modely stojí stejně. Pro jednoduché úkoly použijte méně výkonný (a levnější) model. Modely pro uvažování si rezervujte pro složité problémy.

Kontrola max_output_tokens

Omezte výstup, pokud nepotřebujete dlouhé odpovědi:

{
  "model": "grok-4.20-0309-reasoning",
  "input": "Answer in one sentence: what is the capital of Japan?",
  "max_output_tokens": 100
}

Použití store: false, kdykoli je to možné

Neuložené odpovědi nejsou na serveru uchovávány. Přímé náklady to nesnižuje, ale zabráníte tím hromadění zbytečných dat.

Sledování nákladů v produkci

Implementujte systematické sledování:

import json
from datetime import datetime

def log_usage(response, user_id, feature):
    log_entry = {
        "timestamp": datetime.now().isoformat(),
        "user_id": user_id,
        "feature": feature,
        "response_id": response.id,
        "model": response.model,
        "input_tokens": response.usage.input_tokens,
        "output_tokens": response.usage.output_tokens,
        "reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
        "cost_nano_usd": response.usage.cost_in_nano_usd,
        "cost_usd": response.usage.cost_in_nano_usd / 1e9
    }
    # Uložte do svého logovacího systému
    save_to_db(log_entry)

Upozornění na náklady

Nastavte prahové hodnoty pro upozornění:

MAX_COST_PER_REQUEST = 0.05  # 5 USD centů

cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
    alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")

Klíčové poznatky

  • Řetězové konverzace účtují celou historii v každém kole – růst je kvadratický
  • cost_in_nano_usd / 1 miliarda = cena v USD
  • Tokeny pro uvažování jsou účtovány, ale v odpovědi nejsou vidět
  • Dlouhé konverzace shrnujte, abyste udrželi náklady pod kontrolou
  • Implementujte systematické sledování nákladů pro každého uživatele a každou funkci