Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Úsáid token agus reasoning_tokens

Ceacht 9 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Tuiscint a fháil ar bhilleáil token
  2. An gnáthoibiacht usage
  3. reasoning_tokens: sonrach do shamhlacha réasúnaíochta
  4. Straitéisí chun costais a optamú
  5. Príomhphointí

Nuashonraithe an 3 Samhain, 2026. Bunaithe ar thagairt API Chat Completions xAI: tá max_tokens imithe i léig in áit max_completion_tokens, a chuireann teorainn leis an bhfreagra infheicthe amháin. Foinse: Chat Completions.

Tuiscint a fháil ar bhilleáil token

Gearrtar táille ar gach iarratas ar an API Chat Completions bunaithe ar líon na token a úsáidtear. Tugann an oibiacht usage sa fhreagra comhaireamh cruinn duit, rud atá riachtanach chun costais a mhonatóiriú, leideanna a optamú, agus buiséid do API a mhéadú.

An gnáthoibiacht usage

Seo struchtúr na hoibiachta usage a thilleann sé le gach freagra:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 342,
    "total_tokens": 469
  }
}

Na trí chomhaireamh bunúsacha

  • prompt_tokens: líon na token in d’iarratas (teachtaireacht chórais + stair + teachtaireacht nua). Is é seo taobh “ionchuir” na billeála.
  • completion_tokens: líon na token a ghin an tsamhail ina freagra. Is é seo taobh “aschuir”.
  • total_tokens: suim an dá cheann roimhe seo. Is é seo an méid iomlán a ghearrtar ar an iarratas seo.

Tionchar na staire ar chostais

Ós rud é go bhfuil an críochphointe gan staid, seoltar an stair le gach iarratas. Ciallaíonn sé seo go méadaíonn prompt_tokens le gach malartú:

Malartú 1 : prompt_tokens = 50   (córas + 1 teachtaireacht úsáideora)
Malartú 2 : prompt_tokens = 150  (córas + 2 úsáideoir + 1 cúntóir)
Malartú 3 : prompt_tokens = 300  (córas + 3 úsáideoir + 2 chúntóir)
Malartú 10: prompt_tokens = 1500 (córas + 10 úsáideoir + 9 gcúntóir)

I gcás comhráite fada, is féidir le costas na staire teacht chun bheith níos airde go tapa ná costas na freagra féin.

reasoning_tokens: sonrach do shamhlacha réasúnaíochta

Cuireann samhlacha Grok le cumais réasúnaíochta (mar shampla grok-4.20-0309-reasoning) réimse breise leis an oibiacht usage:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 892,
    "total_tokens": 1019,
    "completion_tokens_details": {
      "reasoning_tokens": 550
    }
  }
}

Cad iad reasoning_tokens?

Is iad reasoning_tokens na token a úsáideann an tsamhail don réasúnaíocht inmheánach — an “smaoineamh” a dhéanann sí sula dtáirgeann sí a freagra deiridh. Gintear na token seo ach ní fheictear iad sa réimse content den fhreagra.

Sa sampla thuas:

  • Ghin an tsamhail 892 token san iomlán (completion_tokens)
  • Ina measc 550 token réasúnaíochta inmheánaí (reasoning_tokens)
  • Ag fágáil 342 token freagra infheicthe (892 - 550)

Cén fáth a bhfuil tábhacht leis seo

Gearrtar táille ar thoken réasúnaíochta mar a dhéantar le gnáth-token críochnaithe. I gcás samhail réasúnaíochta, d’fhéadfadh an freagra infheicthe ach codán den chostas iomlán a léiriú:

usage = response.usage

visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens

print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")

Ní haon rud annamh é go léiríonn token réasúnaíochta 50 go 80% de na token críochnaithe le haghaidh ceisteanna casta.

Straitéisí chun costais a optamú

Laghdaigh prompt_tokens

  • Déan achoimre ar an stair: in ionad an comhrá iomlán a sheoladh, déan achoimre ar mhalartuithe níos sine
  • Cuir teorainn leis an teachtaireacht chórais: is annamh a bhíonn gá le leid chórais 500-token — dírich ar 100–200 token
  • Scag teachtaireachtaí: ná seol ach na malartuithe atá ábhartha don cheist reatha

Rialaigh completion_tokens

  • Úsáid max_completion_tokens (tá max_tokens imithe i léig): cuireann sé teorainn leis an bhfreagra infheicthe, ní leis an réasúnaíocht
  • Sonraigh an formáid: costóidh “Freagair i 3 abairt” níos lú ná “Mínigh go mion”
  • Roghnaigh an tsamhail cheart: tá samhail neamh-réasúnaíochta níos saoire mura bhfuil gá le smaointeoireacht chasta don tasc

Monatóirigh costais i dtáirgeadh

import json

def log_usage(response, requete_id: str):
    usage = response.usage
    log = {
        "id": requete_id,
        "prompt": usage.prompt_tokens,
        "completion": usage.completion_tokens,
        "total": usage.total_tokens,
    }
    if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
        log["reasoning"] = usage.completion_tokens_details.reasoning_tokens

    print(json.dumps(log))

Príomhphointí

  • Tá prompt_tokens, completion_tokens, agus total_tokens san oibiacht usage
  • Méadaíonn prompt_tokens le gach malartú mar gheall ar an stair a sheoltar
  • Cuireann samhlacha réasúnaíochta reasoning_tokens le completion_tokens_details
  • Gearrtar táille ar thoken réasúnaíochta ag an ráta aschuir ach tá siad dofheicthe sa fhreagra — braitheann a sciar den chostas ar an tasc agus ar an iarracht, mar sin déan tomhas air
  • Déan optamú trí achoimre a dhéanamh ar an stair, iarracht réasúnaíochta a choigeartú, teorainn a chur le max_completion_tokens, agus an tsamhail cheart a roghnú