Премини към основното съдържание
Български— Изберете език
Меню

Полета за разходи в отговорите

Урок 8 от 14 Обновен 29 юли 2026 г. Напреднало
На тази страница
  1. Проследяване на разходите в реално време
  2. Обектът usage
  3. Две скали за една и съща стойност
  4. Изграждане на тракер за разходи
  5. Анализ на процента на кеша
  6. Ключови изводи

Проследяване на разходите в реално време

Всеки отговор от Grok API носи детайли за току-що направения разход. Много екипи откриват тази информация твърде късно, когато пристигне месечната фактура, въпреки че тя е налична за всяка заявка поотделно. Използвайки я от самото начало на интеграцията, Вие откривате отклонения в рамките на един час от появата им: системно подканване, което се е удвоило след внедряване, лошо калибриран цикъл за повторни опити, възпроизвеждащ същите обаждания, или контекст, преминаващ праг на таксуване. Без това проследяване тези инциденти остават невидими до издаването на извлечението.

Обектът usage

Всеки отговор включва обект usage, описващ потреблението на токени и свързаните разходи:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Четирите полета за броене се четат по следния начин.

ПолеЗначение
prompt_tokensброй входни токени (цялото Ви подканване)
completion_tokensброй изходни токени (отговорът на модела)
total_tokensсума от входните и изходните токени
cached_tokensвходни токени, обслужени от кеша

Един детайл предотвратява често срещана грешка: cached_tokens е включен в prompt_tokens, а не се добавя към него. В горния пример 1250 токена са въведени в модела, 800 идват от кеша и само 450 са таксувани по пълния тарифен план. Ако Вашият агрегатор събере и двете полета, той ще преброи двойно кешираната част и изкуствено ще увеличи статистиката за обем.

Две скали за една и съща стойност

Разходът за заявката се предоставя в две цели числови единици. Този избор не е произволен: изразяването на части от цента чрез числа с плаваща запетая въвежда грешки от закръгляне, които стават видими при агрегиране на милиони обаждания. Целите числа избягват този проблем напълно.

Полето cost_in_usd_ticks брои в „тикове“, като има 10 милиарда тика за един долар. Стойността 5 000 000 000 в примера следователно съответства на $0.50, а един милион тика е равен на $0.0001. Преобразуването се събира в един ред:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Полето cost_in_nano_usd брои в нано-долари, като има един милиард нано-долара за един долар. Стойността 500 000 000 в примера представлява същата сума, $0.50, а хиляда нано-долара са равни на $0.000001. Преобразуването следва същата логика:

cost_usd = cost_in_nano_usd / 1_000_000_000

И двете полета описват една и съща сума в различни мащаби. cost_in_nano_usd е по-интуитивно за работа, докато cost_in_usd_ticks предлага малко по-висока прецизност. Изберете едно и го използвайте последователно във цялата си верига за измерване: смесването на двете в един и същи агрегат е най-сигурният начин да получите несъответстващи общи суми.

Изграждане на тракер за разходи

В производствена среда един единствен акумулатор е достатъчен, за да превърне тези полета в табло за управление. Класът по-долу записва всеки обект usage и предоставя кумулативния разход заедно с процента на кеша:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

След това прикрепете прагове към total_cost_usd. Първи праг на 80% от дневния бюджет задейства информационно предупреждение за техническия екип; втори праг на 95% става критично предупреждение, изискващо човешко решение; при 100% приложението автоматично спира некритичните заявки – пакетни задачи, предварителни изчисления, отложени обогатявания – и позволява само директен потребителски трафик. Това постепенно влошаване на функционалността е по-добро от внезапно спиране на услугата в пиков ден.

Анализ на процента на кеша

Свойството cache_rate заслужава собствено табло за управление, тъй като то пряко отразява качеството на структурата на Вашите подканвания.

Процент на кешаИнтерпретация
0 до 20%няма ефективен кеш, прегледайте структурата на подканването
20 до 50%частичен кеш, проверете стабилността на системните си подканвания
50 до 80%добър процент за разговори
80% и нагореотлично, типично за дълги, стабилни подканвания

Процент, който рязко спада от една седмица към следващата, почти винаги е знак за внедряване, което е въвело променлива в началото на подканването. Следващият урок описва механизма; засега помнете, че тази фигура е индикатор за регресия, толкова ценен колкото и процента на грешки.

Цени към 5 август 2026 г. — цените се променят редовно: преди всяко изчисление на бюджета проверете текущата ценова листа на официалната страница за модели и цени на xAI.

Ключови изводи

  • Всеки API отговор съдържа обект usage с детайли за токените и разходите
  • cost_in_usd_ticks: 10 милиарда тика = 1 USD
  • cost_in_nano_usd: 1 милиард нано-USD = 1 USD
  • Полето cached_tokens измерва ефективността на кеша
  • Изградете тракер за разходи в производствена среда с предупреждения за бюджета