Użu tat-Tokens u reasoning_tokens
F'din il-paġna
Aġġornat fit-3 ta’ Novembru, 2026. Ibbażat fuq ir-referenza tal-API Chat Completions ta’ xAI:
max_tokensġie deprekat favurmax_completion_tokens, li jillimita biss ir-risposta viżibbli. Sors: Chat Completions.
Fhem il-fatturazzjoni tat-tokens
Kull talba lill-API Chat Completions tiġi fatturata abbażi tan-numru ta’ tokens ikkunsmati. L-oġġett usage fir-risposta jagħtik għadd eżatt, li huwa essenzjali biex timmonitorja l-ispejjeż, tottimizza l-prompts, u tiddimensjona l-baġits tal-API tiegħek.
L-oġġett standard tal-użu
Hawnhekk hija l-istruttura tal-oġġett usage ritornata ma’ kull risposta:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 342,
"total_tokens": 469
}
}
It-tliet kontituri bażiċi
prompt_tokens: numru ta’ tokens fit-talba tiegħek (messagġ tas-sistema + storja + messagġ ġdid). Dan huwa n-naħa tal-”input” tal-fatturazzjoni.completion_tokens: numru ta’ tokens iġġenerati mill-mudell fir-risposta tiegħu. Din hija n-naħa tal-”output”.total_tokens: somma taż-żewġ preċedenti. Dan huwa l-ammont totali fatturat għal din it-talba.
L-impatt tal-istorja fuq l-ispejjeż
Peress li l-endpoint huwa mingħajr stat (stateless), l-istorja tintbagħat ma’ kull talba. Dan ifisser li prompt_tokens jiżdiedu ma’ kull skambju:
Skambju 1 : prompt_tokens = 50 (sistema + 1 messagġ tal-utent)
Skambju 2 : prompt_tokens = 150 (sistema + 2 utent + 1 assistent)
Skambju 3 : prompt_tokens = 300 (sistema + 3 utent + 2 assistent)
Skambju 10: prompt_tokens = 1500 (sistema + 10 utent + 9 assistent)
Għal konversazzjonijiet twal, l-ispiża tal-istorja tista’ malajr taqbeż l-ispiża tar-risposta nnifisha.
reasoning_tokens: speċifiku għall-mudelli tar-raġunament
Il-mudelli Grok b’kapaċitajiet ta’ raġunament (bħal grok-4.20-0309-reasoning) iżidu kamp addizzjonali fl-oġġett usage:
{
"usage": {
"prompt_tokens": 127,
"completion_tokens": 892,
"total_tokens": 1019,
"completion_tokens_details": {
"reasoning_tokens": 550
}
}
}
X’inhu r-raġunament_tokens?
reasoning_tokens jirrappreżentaw it-tokens użati mill-mudell għar-raġunament intern tiegħu — il-”ħsieb” li jagħmel qabel ma jipproduċi r-risposta finali tiegħu. Dawn it-tokens jiġu ġġenerati iżda mhumiex viżibbli fil-kamp content tar-risposta.
Fl-eżempju ta’ hawn fuq:
- Il-mudell iġġenera 892 token totali (
completion_tokens) - Inklużi 550 token ta’ raġunament intern (
reasoning_tokens) - Jħallu 342 token ta’ risposta viżibbli (892 - 550)
Għaliex dan huwa importanti
It-tokens tar-raġunament huma fatturati bħal tokens normali ta’ tlestija. Għal mudell tar-raġunament, ir-risposta viżibbli tista’ tirrappreżenta biss frazzjoni tal-ispiża totali:
usage = response.usage
visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens
print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")
Mhux rari li t-tokens tar-raġunament jirrappreżentaw bejn 50 u 80% tat-tokens ta’ tlestija għal mistoqsijiet kumplessi.
Strateġiji għall-ottimizzazzjoni tal-ispejjeż
Naqqas il-prompt_tokens
- Agħmel sommarju tal-istorja: minflok tibgħat il-konversazzjoni kollha, agħmel sommarju tal-iskambji l-antiki
- Illimita l-messagġ tas-sistema: prompt tas-sistema ta’ 500 token rari huwa meħtieġ — immira għal 100–200 token
- Iffiltra l-messaġġi: ibgħat biss l-iskambji rilevanti għall-mistoqsija attwali
Ikkontrolla l-completion_tokens
- Uża
max_completion_tokens(max_tokenshuwa deprekat): dan jillimita r-risposta viżibbli, mhux ir-raġunament - Speċifika l-format: “Wieġeb f’3 sentenzi” jispiża inqas minn “Spjega fid-dettall”
- Agħżel il-mudell it-tajjeb: mudell mhux tar-raġunament huwa inqas għali jekk il-kompitu ma jeħtiġix ħsieb kumpless
Immonitorja l-ispejjeż fil-produzzjoni
import json
def log_usage(response, requete_id: str):
usage = response.usage
log = {
"id": requete_id,
"prompt": usage.prompt_tokens,
"completion": usage.completion_tokens,
"total": usage.total_tokens,
}
if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
log["reasoning"] = usage.completion_tokens_details.reasoning_tokens
print(json.dumps(log))
Punti Ewlenin
- L-oġġett
usagefihprompt_tokens,completion_tokens, utotal_tokens prompt_tokensjiżdiedu ma’ kull skambju minħabba l-istorja mibgħuta- Il-mudelli tar-raġunament iżidu
reasoning_tokensf’completion_tokens_details - It-tokens tar-raġunament huma fatturati bir-rata tal-output iżda mhumiex viżibbli fir-risposta — is-sehem tagħhom fl-ispiża jiddependi mill-kompitu u mill-isforz, allura kejjilhom
- Ottimizza billi tagħmel sommarju tal-istorja, taġġusta l-isforz tar-raġunament, tillimita
max_completion_tokens, u tagħżel il-mudell it-tajjeb