Премини към основното съдържание
Български— Изберете език
Меню

Фактуриране и управление на разходите

Урок 14 от 16 Обновен 30 юли 2026 г. Програмист
На тази страница
  1. Разберете за какво плащате
  2. Капанът на кумулативната история
  3. Преглед на разходите в отговора
  4. Стратегии за оптимизация
  5. Проследяване на разходите в продукционна среда
  6. Известия за разходи
  7. Ключови изводи

Разберете за какво плащате

API за отговори (Responses API) има важна подробност във фактурирането: при верижни разговори Ви се таксува за цялата история, дори ако не я изпращате изрично отново. Разбирането на този механизъм е от съществено значение за контрол на разходите Ви в продукционна среда.

Капанът на кумулативната история

С параметъра previous_response_id сървърът автоматично възстановява пълния контекст. Това е удобно за разработчика, но означава, че токените се натрупват:

РедВашето съобщениеТаксувани токени (вход)
150 токена50
230 токена + история от ред 1130
340 токена + история от редове 1–2350
425 токена + история от редове 1–3725

Растежът е квадратичен. Към 10-ия ред на разговора входните токени могат да бъдат от 10 до 50 пъти по-високи от първоначалното Ви съобщение.

Преглед на разходите в отговора

Всеки отговор включва обект usage с точната стойност на разхода:

{
  "usage": {
    "input_tokens": 450,
    "output_tokens": 280,
    "total_tokens": 730,
    "output_tokens_details": {
      "reasoning_tokens": 200
    },
    "cost_in_nano_usd": 1500000
  }
}

cost_in_nano_usd

Полето cost_in_nano_usd предоставя разхода в нано-долари:

1 000 000 000 нано-USD = 1 USD

За конвертиране:

cost_usd = response.usage.cost_in_nano_usd / 1_000 000_000
print(f"Cost of this request: ${cost_usd:.6f}")

Токени за разсъждение (Reasoning Tokens)

Полето reasoning_tokens в output_tokens_details се таксува със ставката за изходни токени. При моделите за разсъждение те могат да представляват от 50% до 80% от изходните токени.

Стратегии за оптимизация

Ограничаване на дължината на разговора

Вместо да верижите безкрайно, правете периодично обобщение:

# След N реда, обобщете и рестартирайте
if turn_count > 5:
    summary = client.responses.create(
        model="grok-4.20-0309-reasoning",
        input="Summarize this conversation in 3 key points.",
        previous_response_id=last_id
    )
    # Рестартирайте с обобщението като нов контекст
    new_start = client.responses.create(
        model="grok-4.20-0309-reasoning",
        instructions=f"Previous context: {summary.output[0].content[0].text}",
        input=user_message
    )

Избор на подходящия модел

Не всички модели струват еднакво. За прости задачи използвайте по-малко мощен (и по-евтин) модел. Запазете моделите за разсъждение за сложни проблеми.

Контрол на max_output_tokens

Ограничете изхода, когато не са необходими дълги отговори:

{
  "model": "grok-4.20-0309-reasoning",
  "input": "Answer in one sentence: what is the capital of Japan?",
  "max_output_tokens": 100
}

Използвайте store: false, когато е възможно

Незапазените отговори не се съхраняват на сървъра. Това не намалява директния разход, но избягва натрупването на ненужни данни.

Проследяване на разходите в продукционна среда

Внедрете систематично проследяване:

import json
from datetime import datetime

def log_usage(response, user_id, feature):
    log_entry = {
        "timestamp": datetime.now().isoformat(),
        "user_id": user_id,
        "feature": feature,
        "response_id": response.id,
        "model": response.model,
        "input_tokens": response.usage.input_tokens,
        "output_tokens": response.usage.output_tokens,
        "reasoning_tokens": response.usage.output_tokens_details.reasoning_tokens,
        "cost_nano_usd": response.usage.cost_in_nano_usd,
        "cost_usd": response.usage.cost_in_nano_usd / 1e9
    }
    # Запазване във Вашата система за логиране
    save_to_db(log_entry)

Известия за разходи

Настройте прагове за известяване:

MAX_COST_PER_REQUEST = 0.05  # 5 цента щатски долара

cost = response.usage.cost_in_nano_usd / 1e9
if cost > MAX_COST_PER_REQUEST:
    alert(f"Expensive request detected: ${cost:.4f} (user: {user_id})")

Ключови изводи

  • Верижните разговори таксуват цялата история при всеки ред – квадратичен растеж
  • cost_in_nano_usd / 1 милиард = разход в щатски долари
  • Токените за разсъждение се таксуват, но са невидими в отговора
  • Обобщавайте дългите разговори, за да ограничите разходите
  • Внедрете систематично проследяване на разходите за всеки потребител и функция