Przejdź do głównej treści
Polski— Wybierz język
Menu

Liczenie tokenów rozumowania

Lekcja 8 z 12 Zaktualizowano 3 listopada 2026 Programista
Na tej stronie
  1. Zrozumienie tokenów rozumowania
  2. Obiekt usage w Chat Completions
  3. Dostęp do tokenów rozumowania w kodzie
  4. Rozliczanie według stawki za output
  5. Rola parametru max_completion_tokens
  6. Kluczowe wnioski

Lekcja przepisana 3 listopada 2026 r. na podstawie dokumentacji API xAI (Chat Completions i Responses), przewodnika Reasoning oraz przykładu Reasoning Effort Evals z cookbooka: w xAI pole completion_tokens (lub output_tokens) liczy tylko widoczną odpowiedź, rozumowanie jest liczone osobno, a suma obejmuje wszystkie trzy składniki; limit wyjścia nie ogranicza rozumowania. Poprzednia wersja twierdziła co innego, używała pól Chat Completions w odpowiedzi API Responses, ustawiała parametr effort dla modelu grok-4.20-0309-reasoning, który go nie akceptuje, i przedstawiała zrzut ekranu niezgodny z API; elementy te zostały poprawione lub usunięte. Źródła: Chat Completions · Responses · Reasoning Effort Evals.

Zrozumienie tokenów rozumowania

Modele rozumowania generują dwa rodzaje tokenów: te przeznaczające na widoczną odpowiedź oraz te służące wewnętrznemu procesowi myślowemu modelu. Zrozumienie, jak xAI je liczy, jest kluczowe, abyś mógł panować nad kosztami i poprawnie odczytywać swoje dashboardy.

Output
Rozliczane według stawki za output
usage
Szczegółowy obiekt śledzenia
Separate
Rozumowanie liczone poza odpowiedzią
Effort
Dźwignia sterująca rozumowaniem

Obiekt usage w Chat Completions

Każda odpowiedź zawiera obiekt usage, który szczegółowo opisuje zużycie. Oto przykład z dokumentacji referencyjnej API Chat Completions od xAI:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

W tym przykładzie:

  • prompt_tokens (32): tokeny w wiadomości wejściowej
  • completion_tokens (9): tokeny w widocznej odpowiedzi
  • reasoning_tokens (94): tokeny poświęcone na wewnętrzne rozumowanie
  • total_tokens (135): suma wszystkich trzech wartości, czyli 32 + 9 + 94

Zatem rozumowanie nie jest wliczane w completion_tokens: jest do niego dodawane. Uważaj, jeśli przesiadasz się z innego API, gdzie konwencja jest inna, lub jeśli Twój dashboard oblicza widoczną odpowiedź przez odejmowanie.

Dostęp do tokenów rozumowania w kodzie

W API Responses te same informacje występują pod innymi nazwami: input_tokens i output_tokens dla widocznej odpowiedzi oraz output_tokens_details.reasoning_tokens dla rozumowania.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Parametr effort ustawiasz dla modeli grok-4.7, grok-4.6 i grok-4.5; model grok-4.20-0309-reasoning zawsze przeprowadza rozumowanie i nie przyjmuje parametru effort.

Rozliczanie według stawki za output

Tokeny rozumowania są rozliczane według stawki za tokeny wyjściowe (output), co przypomina przykład Reasoning Effort Evals w cookbooku xAI. Dla modelu grok-4.7 przy cenie 6 USD za milion tokenów output (przy prompcie poniżej 200 000 tokenów) każdy token rozumowania kosztuje tyle samo, co token odpowiedzi.

Parametr effort wpływa więc na rachunek, ale nie zawsze tak mocno, jak mogłoby się wydawać. W tym samym przykładzie, przy trzydziestu krótkich zgłoszeniach wsparcia obsłużonych przez grok-4.7, poziomy effort medium, high i xhigh zużyły podobną ilość tokenów rozumowania – około 600 tokenów na odpowiedź – podczas gdy low zużył około 140 i kosztował połowę tego, przy wynikach jakościowych mieszczących się między 87% a 93%. Zmierz to na własnych danych przed podjęciem decyzji.

Przykład obliczania kosztu

# grok-4.7: 6,00 USD/M tokenów output (prompt < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

Rola parametru max_completion_tokens

Limit wyjścia – max_completion_tokens w Chat Completions lub max_output_tokens w API Responses – dotyczy wyłącznie widocznej odpowiedzi: zgodnie z dokumentacją API tokeny rozumowania i wywołania funkcji nie są do niego wliczane. Bez podanej wartości domyślnie wynosi 128 000 tokenów. Aby ograniczyć rozumowanie, musisz ustawić parametr effort (lekcja 10).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Ceny zweryfikowane 3 listopada 2026 r. – ceny zmieniają się regularnie: przed jakimkolwiek obliczeniem budżetu sprawdź aktualny cennik na oficjalnej stronie modeli i cen xAI.

Kluczowe wnioski

  • Tokeny rozumowania znajdują się w usage.completion_tokens_details.reasoning_tokens (Chat Completions) lub usage.output_tokens_details.reasoning_tokens (Responses)
  • W xAI pola completion_tokens i output_tokens liczą tylko widoczną odpowiedź; suma obejmuje dane wejściowe, odpowiedź i rozumowanie
  • Tokeny rozumowania są rozliczane według stawki za output
  • Limit wyjścia ogranicza tylko widoczną odpowiedź; to effort steruje rozumowaniem
  • Różnica kosztów między poziomami effort zależy od zadania: zmierz ją na własnych danych