Przejdź do głównej treści
Polski— Wybierz język
Menu

Pola kosztów w odpowiedziach

Lekcja 8 z 14 Zaktualizowano 29 lipca 2026 Zaawansowany
Na tej stronie
  1. Śledzenie kosztów w czasie rzeczywistym
  2. Obiekt usage
  3. Dwie skale dla tego samego kosztu
  4. Budowa trackera kosztów
  5. Analiza wskaźnika cache
  6. Kluczowe wnioski

Śledzenie kosztów w czasie rzeczywistym

Każda odpowiedź API Grok zawiera szczegóły dotyczące poniesionych właśnie kosztów. Wiele zespołów odkrywa te informacje zbyt późno, gdy przychodzi miesięczny rachunek, mimo że są one dostępne dla każdego żądania z osobna. Wykorzystując je od samego początku integracji, wykryjesz dryf w ciągu godziny od jego wystąpienia: prompt systemowy, który podwoił swój rozmiar po wdrożeniu, źle skalibrowana pętla ponowień odtwarzająca te same wywołania lub kontekst przekraczający próg rozliczeniowy. Bez tego śledzenia incydenty te pozostają niewidoczne aż do momentu otrzymania wyciągu.

Obiekt usage

Każda odpowiedź zawiera obiekt usage szczegółowo opisujący zużycie tokenów i powiązany koszt:

{
  "usage": {
    "prompt_tokens": 1250,
    "completion_tokens": 340,
    "total_tokens": 1590,
    "cached_tokens": 800,
    "cost_in_usd_ticks": 5000000000,
    "cost_in_nano_usd": 500000000
  }
}

Cztery pola zliczające oznaczają odpowiednio:

PoleZnaczenie
prompt_tokensliczba tokenów wejściowych (Twój pełny prompt)
completion_tokensliczba tokenów wyjściowych (odpowiedź modelu)
total_tokenssuma tokenów wejściowych i wyjściowych
cached_tokenstokeny wejściowe obsłużone z pamięci podręcznej (cache)

Jeden szczegół zapobiega częstemu błędowi: cached_tokens jest wliczone w prompt_tokens, a nie dodawane do niego. W powyższym przykładzie do modelu trafiło 1250 tokenów, 800 pochodziło z cache, a jedynie 450 zostało rozliczonych według pełnej stawki. Jeśli Twój agregator doda oba pola, podwójnie zliczy część zapisaną w cache i sztucznie zawyży statystyki wolumenu.

Dwie skale dla tego samego kosztu

Koszt żądania jest podawany w dwóch jednostkach całkowitych. Wybór ten nie jest przypadkowy: wyrażanie ułamków centa za pomocą liczb zmiennoprzecinkowych wprowadza błędy zaokrągleń, które stają się widoczne podczas agregowania milionów wywołań. Liczby całkowite całkowicie eliminują ten problem.

Pole cost_in_usd_ticks zlicza w „tickach“, przy czym na jednego dolara przypada 10 miliardów ticków. Wartość 5 000 000 000 w przykładzie odpowiada zatem 0,50 USD, a jeden milion ticków równa się 0,0001 USD. Konwersja mieści się w jednej linii:

cost_usd = cost_in_usd_ticks / 10_000_000_000

Pole cost_in_nano_usd zlicza w nanodolarach, przy czym na jednego dolara przypada miliard nanodolarów. Wartość 500 000 000 w przykładzie reprezentuje tę samą kwotę, 0,50 USD, a tysiąc nanodolarów równa się 0,000001 USD. Konwersja przebiega według tej samej logiki:

cost_usd = cost_in_nano_usd / 1_000_000_000

Oba pola opisują tę samą kwotę w różnych skalach. cost_in_nano_usd jest bardziej intuicyjny w obsłudze, podczas gdy cost_in_usd_ticks oferuje nieco wyższą precyzję. Wybierz jedno i stosuj je konsekwentnie w całym łańcuchu pomiarowym: mieszanie obu w tej samej agregacji to najlepszy sposób na uzyskanie niespójnych sum.

Budowa trackera kosztów

W środowisku produkcyjnym pojedynczy akumulator wystarczy, aby przekształcić te pola w panel kontrolny. Poniższa klasa rejestruje każdy obiekt usage i udostępnia koszt skumulowany wraz ze wskaźnikiem cache:

class CostTracker:
    def __init__(self):
        self.total_nano_usd = 0
        self.requests = 0
        self.input_tokens = 0
        self.output_tokens = 0
        self.cached_tokens = 0

    def record(self, usage):
        self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
        self.requests += 1
        self.input_tokens += usage.get("prompt_tokens", 0)
        self.output_tokens += usage.get("completion_tokens", 0)
        self.cached_tokens += usage.get("cached_tokens", 0)

    @property
    def total_cost_usd(self):
        return self.total_nano_usd / 1_000_000_000

    @property
    def cache_rate(self):
        if self.input_tokens == 0:
            return 0
        return self.cached_tokens / self.input_tokens

Następnie przypisz progi do total_cost_usd. Pierwszy próg na poziomie 80% dziennego budżetu uruchamia alert informacyjny dla zespołu technicznego; drugi na poziomie 95% staje się alertem krytycznym wymagającym decyzji człowieka; przy 10% aplikacja automatycznie odcina żądania niekrytyczne – zadania wsadowe, wstępne obliczenia, odroczone wzbogacania – i przepuszcza wyłącznie ruch bezpośredni użytkowników. Takie graceful degradation jest lepsze niż nagłe zatrzymanie usługi w szczycie.

Analiza wskaźnika cache

Właściwość cache_rate zasługuje na własny panel kontrolny, ponieważ bezpośrednio odzwierciedla jakość struktury Twojego promptu.

Wskaźnik cacheInterpretacja
0 do 20%brak efektywnego cache, przejrzyj strukturę promptu
20 do 50%częściowy cache, sprawdź stabilność promptów systemowych
50 do 80%dobry wskaźnik dla konwersacji
80% i więcejdoskonały, typowy dla długich, stabilnych promptów

Wskaźnik, który gwałtownie spada z tygodnia na tydzień, jest niemal zawsze sygnałem wdrożenia, które wprowadziło zmienną na początku promptu. Następna lekcja szczegółowo opisuje ten mechanizm; na razie pamiętaj, że wartość ta jest wskaźnikiem regresji tak samo cennym jak wskaźnik błędów.

Ceny na dzień 5 sierpnia 2026 r. – ceny regularnie ewoluują: przed jakimkolwiek obliczeniem budżetu sprawdź aktualny cennik na oficjalnej stronie modeli i cennika xAI.

Kluczowe wnioski

  • Każda odpowiedź API zawiera obiekt usage ze szczegółami dotyczącymi tokenów i kosztu
  • cost_in_usd_ticks: 10 miliardów ticków = 1 USD
  • cost_in_nano_usd: 1 miliard nano-USD = 1 USD
  • Pole cached_tokens mierzy wydajność cache
  • Zbuduj tracker kosztów w środowisku produkcyjnym z alertami budżetowymi