Úsáid token agus reasoning_tokens
Ar an leathanach seo
Nuashonraithe an 3 Samhain, 2026. Bunaithe ar thagairt API Chat Completions xAI: tá
max_tokensimithe i léig in áitmax_completion_tokens, a chuireann teorainn leis an bhfreagra infheicthe amháin. Foinse: Chat Completions.
Tuiscint a fháil ar bhilleáil token
Gearrtar táille ar gach iarratas ar an API Chat Completions bunaithe ar líon na token a úsáidtear. Tugann an oibiacht usage sa fhreagra comhaireamh cruinn duit, rud atá riachtanach chun costais a mhonatóiriú, leideanna a optamú, agus buiséid do API a mhéadú.
An gnáthoibiacht usage
Seo struchtúr na hoibiachta usage a thilleann sé le gach freagra:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
Na trí chomhaireamh bunúsacha
prompt_tokens: líon na token in d’iarratas (teachtaireacht chórais + stair + teachtaireacht nua). Is é seo taobh “ionchuir” na billeála.completion_tokens: líon na token a ghin an tsamhail ina freagra. Is é seo taobh “aschuir”.total_tokens: suim an dá cheann roimhe seo. Is é seo an méid iomlán a ghearrtar ar an iarratas seo.
Tionchar na staire ar chostais
Ós rud é go bhfuil an críochphointe gan staid, seoltar an stair le gach iarratas. Ciallaíonn sé seo go méadaíonn prompt_tokens le gach malartú:
Malartú 1 : prompt_tokens = 50 (córas + 1 teachtaireacht úsáideora)
Malartú 2 : prompt_tokens = 150 (córas + 2 úsáideoir + 1 cúntóir)
Malartú 3 : prompt_tokens = 300 (córas + 3 úsáideoir + 2 chúntóir)
Malartú 10: prompt_tokens = 1500 (córas + 10 úsáideoir + 9 gcúntóir)
I gcás comhráite fada, is féidir le costas na staire teacht chun bheith níos airde go tapa ná costas na freagra féin.
reasoning_tokens: sonrach do shamhlacha réasúnaíochta
Cuireann samhlacha Grok le cumais réasúnaíochta (mar shampla grok-4.20-0309-reasoning) réimse breise leis an oibiacht usage:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
Cad iad reasoning_tokens?
Is iad reasoning_tokens na token a úsáideann an tsamhail don réasúnaíocht inmheánach — an “smaoineamh” a dhéanann sí sula dtáirgeann sí a freagra deiridh. Gintear na token seo ach ní fheictear iad sa réimse content den fhreagra.
Sa sampla thuas:
- Ghin an tsamhail 892 token san iomlán (
completion_tokens) - Ina measc 550 token réasúnaíochta inmheánaí (
reasoning_tokens) - Ag fágáil 342 token freagra infheicthe (892 - 550)
Cén fáth a bhfuil tábhacht leis seo
Gearrtar táille ar thoken réasúnaíochta mar a dhéantar le gnáth-token críochnaithe. I gcás samhail réasúnaíochta, d’fhéadfadh an freagra infheicthe ach codán den chostas iomlán a léiriú:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Ní haon rud annamh é go léiríonn token réasúnaíochta 50 go 80% de na token críochnaithe le haghaidh ceisteanna casta.
Straitéisí chun costais a optamú
Laghdaigh prompt_tokens
- Déan achoimre ar an stair: in ionad an comhrá iomlán a sheoladh, déan achoimre ar mhalartuithe níos sine
- Cuir teorainn leis an teachtaireacht chórais: is annamh a bhíonn gá le leid chórais 500-token — dírich ar 100–200 token
- Scag teachtaireachtaí: ná seol ach na malartuithe atá ábhartha don cheist reatha
Rialaigh completion_tokens
- Úsáid
max_completion_tokens(támax_tokensimithe i léig): cuireann sé teorainn leis an bhfreagra infheicthe, ní leis an réasúnaíocht - Sonraigh an formáid: costóidh “Freagair i 3 abairt” níos lú ná “Mínigh go mion”
- Roghnaigh an tsamhail cheart: tá samhail neamh-réasúnaíochta níos saoire mura bhfuil gá le smaointeoireacht chasta don tasc
Monatóirigh costais i dtáirgeadh
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Príomhphointí
- Tá
prompt_tokens,completion_tokens, agustotal_tokenssan oibiachtusage - Méadaíonn
prompt_tokensle gach malartú mar gheall ar an stair a sheoltar - Cuireann samhlacha réasúnaíochta
reasoning_tokenslecompletion_tokens_details - Gearrtar táille ar thoken réasúnaíochta ag an ráta aschuir ach tá siad dofheicthe sa fhreagra — braitheann a sciar den chostas ar an tasc agus ar an iarracht, mar sin déan tomhas air
- Déan optamú trí achoimre a dhéanamh ar an stair, iarracht réasúnaíochta a choigeartú, teorainn a chur le
max_completion_tokens, agus an tsamhail cheart a roghnú