Pola kosztów w odpowiedziach
Na tej stronie
Śledzenie kosztów w czasie rzeczywistym
Każda odpowiedź API Grok zawiera szczegóły dotyczące poniesionych właśnie kosztów. Wiele zespołów odkrywa te informacje zbyt późno, gdy przychodzi miesięczny rachunek, mimo że są one dostępne dla każdego żądania z osobna. Wykorzystując je od samego początku integracji, wykryjesz dryf w ciągu godziny od jego wystąpienia: prompt systemowy, który podwoił swój rozmiar po wdrożeniu, źle skalibrowana pętla ponowień odtwarzająca te same wywołania lub kontekst przekraczający próg rozliczeniowy. Bez tego śledzenia incydenty te pozostają niewidoczne aż do momentu otrzymania wyciągu.
Obiekt usage
Każda odpowiedź zawiera obiekt usage szczegółowo opisujący zużycie tokenów i powiązany koszt:
{
"usage": {
"prompt_tokens": 1250,
"completion_tokens": 340,
"total_tokens": 1590,
"cached_tokens": 800,
"cost_in_usd_ticks": 5000000000,
"cost_in_nano_usd": 500000000
}
}
Cztery pola zliczające oznaczają odpowiednio:
| Pole | Znaczenie |
|---|---|
prompt_tokens | liczba tokenów wejściowych (Twój pełny prompt) |
completion_tokens | liczba tokenów wyjściowych (odpowiedź modelu) |
total_tokens | suma tokenów wejściowych i wyjściowych |
cached_tokens | tokeny wejściowe obsłużone z pamięci podręcznej (cache) |
Jeden szczegół zapobiega częstemu błędowi: cached_tokens jest wliczone w prompt_tokens, a nie dodawane do niego. W powyższym przykładzie do modelu trafiło 1250 tokenów, 800 pochodziło z cache, a jedynie 450 zostało rozliczonych według pełnej stawki. Jeśli Twój agregator doda oba pola, podwójnie zliczy część zapisaną w cache i sztucznie zawyży statystyki wolumenu.
Dwie skale dla tego samego kosztu
Koszt żądania jest podawany w dwóch jednostkach całkowitych. Wybór ten nie jest przypadkowy: wyrażanie ułamków centa za pomocą liczb zmiennoprzecinkowych wprowadza błędy zaokrągleń, które stają się widoczne podczas agregowania milionów wywołań. Liczby całkowite całkowicie eliminują ten problem.
Pole cost_in_usd_ticks zlicza w „tickach“, przy czym na jednego dolara przypada 10 miliardów ticków. Wartość 5 000 000 000 w przykładzie odpowiada zatem 0,50 USD, a jeden milion ticków równa się 0,0001 USD. Konwersja mieści się w jednej linii:
cost_usd = cost_in_usd_ticks / 10_000_000_000
Pole cost_in_nano_usd zlicza w nanodolarach, przy czym na jednego dolara przypada miliard nanodolarów. Wartość 500 000 000 w przykładzie reprezentuje tę samą kwotę, 0,50 USD, a tysiąc nanodolarów równa się 0,000001 USD. Konwersja przebiega według tej samej logiki:
cost_usd = cost_in_nano_usd / 1_000_000_000
Oba pola opisują tę samą kwotę w różnych skalach. cost_in_nano_usd jest bardziej intuicyjny w obsłudze, podczas gdy cost_in_usd_ticks oferuje nieco wyższą precyzję. Wybierz jedno i stosuj je konsekwentnie w całym łańcuchu pomiarowym: mieszanie obu w tej samej agregacji to najlepszy sposób na uzyskanie niespójnych sum.
Budowa trackera kosztów
W środowisku produkcyjnym pojedynczy akumulator wystarczy, aby przekształcić te pola w panel kontrolny. Poniższa klasa rejestruje każdy obiekt usage i udostępnia koszt skumulowany wraz ze wskaźnikiem cache:
class CostTracker:
def __init__(self):
self.total_nano_usd = 0
self.requests = 0
self.input_tokens = 0
self.output_tokens = 0
self.cached_tokens = 0
def record(self, usage):
self.total_nano_usd += usage.get("cost_in_nano_usd", 0)
self.requests += 1
self.input_tokens += usage.get("prompt_tokens", 0)
self.output_tokens += usage.get("completion_tokens", 0)
self.cached_tokens += usage.get("cached_tokens", 0)
@property
def total_cost_usd(self):
return self.total_nano_usd / 1_000_000_000
@property
def cache_rate(self):
if self.input_tokens == 0:
return 0
return self.cached_tokens / self.input_tokens
Następnie przypisz progi do total_cost_usd. Pierwszy próg na poziomie 80% dziennego budżetu uruchamia alert informacyjny dla zespołu technicznego; drugi na poziomie 95% staje się alertem krytycznym wymagającym decyzji człowieka; przy 10% aplikacja automatycznie odcina żądania niekrytyczne – zadania wsadowe, wstępne obliczenia, odroczone wzbogacania – i przepuszcza wyłącznie ruch bezpośredni użytkowników. Takie graceful degradation jest lepsze niż nagłe zatrzymanie usługi w szczycie.
Analiza wskaźnika cache
Właściwość cache_rate zasługuje na własny panel kontrolny, ponieważ bezpośrednio odzwierciedla jakość struktury Twojego promptu.
| Wskaźnik cache | Interpretacja |
|---|---|
| 0 do 20% | brak efektywnego cache, przejrzyj strukturę promptu |
| 20 do 50% | częściowy cache, sprawdź stabilność promptów systemowych |
| 50 do 80% | dobry wskaźnik dla konwersacji |
| 80% i więcej | doskonały, typowy dla długich, stabilnych promptów |
Wskaźnik, który gwałtownie spada z tygodnia na tydzień, jest niemal zawsze sygnałem wdrożenia, które wprowadziło zmienną na początku promptu. Następna lekcja szczegółowo opisuje ten mechanizm; na razie pamiętaj, że wartość ta jest wskaźnikiem regresji tak samo cennym jak wskaźnik błędów.
Ceny na dzień 5 sierpnia 2026 r. – ceny regularnie ewoluują: przed jakimkolwiek obliczeniem budżetu sprawdź aktualny cennik na oficjalnej stronie modeli i cennika xAI.
Kluczowe wnioski
- Każda odpowiedź API zawiera obiekt
usageze szczegółami dotyczącymi tokenów i kosztu cost_in_usd_ticks: 10 miliardów ticków = 1 USDcost_in_nano_usd: 1 miliard nano-USD = 1 USD- Pole
cached_tokensmierzy wydajność cache - Zbuduj tracker kosztów w środowisku produkcyjnym z alertami budżetowymi