Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Reasoning tokenų skaičiavimas

Paskaita 8 iš 12 Atnaujinta 2026 m. lapkričio 3 d. Kūrėjas
Šiame puslapyje
  1. Suprask reasoning tokenus
  2. usage objektas „Chat Completions“
  3. Reasoning tokenų gavimas kode
  4. Apmokestinimas pagal išvesties tarifą
  5. max_completion_tokens vaidmuo
  6. Svarbiausi punktai

Pamoka perrašyta 2026 m. lapkričio 3 d. remiantis xAI API nuoroda („Chat Completions“ ir „Responses“), Reasoning vadovu ir Reasoning Effort Evals pavyzdžiu iš receptų knygos: xAI sistemoje completion_tokens (arba output_tokens) skaičiuoja tik matomą atsakymą, samprotavimai skaičiuojami atskirai, o bendra suma apima visus tris dydžius; išvesties limitas neriboja samprotavimų. Ankstesnė versija teigė priešingai, naudojo „Chat Completions“ laukus „Responses“ API atsakyme, nustatė pastangų lygį modeliui grok-4.20-0309-reasoning, kuris jo nepriima, ir rodė ekrano kopiją, neatitinkančią API; šie elementai yra ištaisyti arba pašalinti. Šaltiniai: Chat Completions · Responses · Reasoning Effort Evals.

Suprask reasoning tokenus

Samprotavimo modeliai generuoja dviejų rūšių tokenus: tuos, kurie skirti matomam atsakymui, ir tuos, kurie skirti vidiniam modelio mąstymo procesui. Suprasti, kaip xAI juos skaičiuoja, yra būtina norint valdyti išlaidas ir teisingai skaityti savo informacines skydelius.

Output
Billed at the output rate
usage
Detailed tracking object
Separate
Reasoning counted outside response
Effort
The lever on reasoning

usage objektas „Chat Completions“

Kiekviename atsakyme yra usage objektas, kuris išsamiai aprašo suvartojimą. Štai pavyzdys iš xAI „Chat Completions“ API nuorodos:

{
  "usage": {
    "prompt_tokens": 32,
    "completion_tokens": 9,
    "total_tokens": 135,
    "completion_tokens_details": {
      "reasoning_tokens": 94
    }
  }
}

Šiame pavyzdyje:

  • prompt_tokens (32): tokenai įvesties žinutėje
  • completion_tokens (9): tokenai matomame atsakyme
  • reasoning_tokens (94): tokenai, skirti vidiniams samprotavimams
  • total_tokens (135): visų trijų suma, 32 + 9 + 94

Taigi samprotavimai nėra įtraukti į completion_tokens: jie yra pridedami prie jų. Būk atsargus, jei ateini iš kitos API, kurioje galioja kitokia konvencija, arba jei tavo informacinis skydelis matomą atsakymą apskaičiuoja atimties būdu.

Reasoning tokenų gavimas kode

„Responses“ API ta pati informacija turi kitus pavadinimus: input_tokens, output_tokens – matomam atsakymui, ir output_tokens_details.reasoning_tokens – samprotavimams.

response = client.responses.create(
    model="grok-4.7",
    input="Solve the integral of x^2 * e^x dx.",
    reasoning={"effort": "high"},
)

visible_response = response.usage.output_tokens
reasoning = response.usage.output_tokens_details.reasoning_tokens
billed_output = visible_response + reasoning

print(f"Reasoning tokens: {reasoning}")
print(f"Response tokens: {visible_response}")
print(f"Reasoning share: {reasoning / billed_output * 100:.0f}%")

Pastangų lygį nustatai modeliams grok-4.7, grok-4.6 ir grok-4.5; modelis grok-4.20-0309-reasoning visada samprotauja be jokio pastangų parametro.

Apmokestinimas pagal išvesties tarifą

Samprotavimo tokenai apmokestinami pagal išvesties tokenų tarifą, kaip primena Reasoning Effort Evals pavyzdys xAI receptų knygoje. Modeliui grok-4.7, kainuojančiam 6 USD už milijoną išvesties tokenų (kai užklausa mažesnė nei 200 000 tokenų), kiekvienas samprotavimo tokenas kainuoja tiek pat, kiek ir atsakymo tokenas.

Todėl pastangų lygis daro įtaką sąskaitai, bet ne visada tiek, kiek gali manyti. Tame pačiame pavyzdyje, apdorojant trisdešimt trumpų palaikymo bilietų su grok-4.7, medium, high ir xhigh pastangų lygiai suvartojo maždaug tiek pat samprotavimo tokenų – apie 600 tokenų vienam atsakymui, tuo tarpu low suvartojo apie 140 ir kainavo perpus mažiau, o rezultatai visais atvejais svyravo tarp 87 ir 93 %. Prieš pasirinkdami, atlikite matavimus su savo duomenimis.

Išlaidų skaičiavimo pavyzdys

# grok-4.7: 6,00 USD/M išvesties tokenų (užklausa < 200k)
cost_per_token = 6.00 / 1_000_000

reasoning = 600
visible_response = 350
billed_output = reasoning + visible_response  # 950

cost = billed_output * cost_per_token
print(f"Output cost: ${cost:.4f}")  # $0.0057

max_completion_tokens vaidmuo

Išvesties riba – max_completion_tokens „Chat Completions“ arba max_output_tokens „Responses“ API – taikoma tik matomam atsakymui: pagal API nuorodą, samprotavimo tokenai ir funkcijų kvietimai į ją neįskaičiuojami. Jei reikšmė nenustatyta, numatytoji vertė yra 128 000 tokenų. Norėdami apriboti samprotavimus, turite nustatyti pastangų lygį (10 pamoka).

{
  "model": "grok-4.7",
  "messages": [
    {"role": "user", "content": "Explain special relativity."}
  ],
  "reasoning_effort": "medium",
  "max_completion_tokens": 2000
}

Kainos patikrintos 2026 m. lapkričio 3 d. – kainos keičiasi reguliariai: prieš atlikdami bet kokius biudžeto skaičiavimus, patikrinkite dabartinį kainoraštį oficialiame xAI modelių ir kainų puslapyje.

Svarbiausi punktai

  • Samprotavimo tokenai yra usage.completion_tokens_details.reasoning_tokens („Chat Completions“) arba usage.output_tokens_details.reasoning_tokens („Responses“)
  • xAI sistemoje completion_tokens ir output_tokens skaičiuoja tik matomą atsakymą; bendra suma apima įvestį, atsakymą ir samprotavimus
  • Samprotavimo tokenai apmokestinami pagal išvesties tarifą
  • Išvesties riba riboja tik matomą atsakymą; pastangų lygis valdo samprotavimus
  • Išlaidų skirtumas tarp skirtingų pastangų lygių priklauso nuo užduoties: išmatuokite jį su savo duomenimis