Aqbeż għall-kontenut ewlieni
Malti— Agħżel lingwa
Menu

Użu tat-Tokens u reasoning_tokens

Lezzjoni 9 / 12 Aġġornat 3 ta’ Novembru 2026 Zviluppatur
F'din il-paġna
  1. Fhem il-fatturazzjoni tat-tokens
  2. L-oġġett standard tal-użu
  3. reasoning_tokens: speċifiku għall-mudelli tar-raġunament
  4. Strateġiji għall-ottimizzazzjoni tal-ispejjeż
  5. Immonitorja l-ispejjeż fil-produzzjoni
  6. Punti Ewlenin

Aġġornat fit-3 ta’ Novembru, 2026. Ibbażat fuq ir-referenza tal-API Chat Completions ta’ xAI: max_tokens ġie deprekat favur max_completion_tokens, li jillimita biss ir-risposta viżibbli. Sors: Chat Completions.

Fhem il-fatturazzjoni tat-tokens

Kull talba lill-API Chat Completions tiġi fatturata abbażi tan-numru ta’ tokens ikkunsmati. L-oġġett usage fir-risposta jagħtik għadd eżatt, li huwa essenzjali biex timmonitorja l-ispejjeż, tottimizza l-prompts, u tiddimensjona l-baġits tal-API tiegħek.

L-oġġett standard tal-użu

Hawnhekk hija l-istruttura tal-oġġett usage ritornata ma’ kull risposta:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 342,
    "total_tokens": 469
  }
}

It-tliet kontituri bażiċi

  • prompt_tokens: numru ta’ tokens fit-talba tiegħek (messagġ tas-sistema + storja + messagġ ġdid). Dan huwa n-naħa tal-”input” tal-fatturazzjoni.
  • completion_tokens: numru ta’ tokens iġġenerati mill-mudell fir-risposta tiegħu. Din hija n-naħa tal-”output”.
  • total_tokens: somma taż-żewġ preċedenti. Dan huwa l-ammont totali fatturat għal din it-talba.

L-impatt tal-istorja fuq l-ispejjeż

Peress li l-endpoint huwa mingħajr stat (stateless), l-istorja tintbagħat ma’ kull talba. Dan ifisser li prompt_tokens jiżdiedu ma’ kull skambju:

Skambju 1 : prompt_tokens = 50   (sistema + 1 messagġ tal-utent)
Skambju 2 : prompt_tokens = 150  (sistema + 2 utent + 1 assistent)
Skambju 3 : prompt_tokens = 300  (sistema + 3 utent + 2 assistent)
Skambju 10: prompt_tokens = 1500 (sistema + 10 utent + 9 assistent)

Għal konversazzjonijiet twal, l-ispiża tal-istorja tista’ malajr taqbeż l-ispiża tar-risposta nnifisha.

reasoning_tokens: speċifiku għall-mudelli tar-raġunament

Il-mudelli Grok b’kapaċitajiet ta’ raġunament (bħal grok-4.20-0309-reasoning) iżidu kamp addizzjonali fl-oġġett usage:

{
  "usage": {
    "prompt_tokens": 127,
    "completion_tokens": 892,
    "total_tokens": 1019,
    "completion_tokens_details": {
      "reasoning_tokens": 550
    }
  }
}

X’inhu r-raġunament_tokens?

reasoning_tokens jirrappreżentaw it-tokens użati mill-mudell għar-raġunament intern tiegħu — il-”ħsieb” li jagħmel qabel ma jipproduċi r-risposta finali tiegħu. Dawn it-tokens jiġu ġġenerati iżda mhumiex viżibbli fil-kamp content tar-risposta.

Fl-eżempju ta’ hawn fuq:

  • Il-mudell iġġenera 892 token totali (completion_tokens)
  • Inklużi 550 token ta’ raġunament intern (reasoning_tokens)
  • Jħallu 342 token ta’ risposta viżibbli (892 - 550)

Għaliex dan huwa importanti

It-tokens tar-raġunament huma fatturati bħal tokens normali ta’ tlestija. Għal mudell tar-raġunament, ir-risposta viżibbli tista’ tirrappreżenta biss frazzjoni tal-ispiża totali:

usage = response.usage

visible_tokens = usage.completion_tokens - usage.completion_tokens_details.reasoning_tokens
reasoning_tokens = usage.completion_tokens_details.reasoning_tokens

print(f"Visible tokens: {visible_tokens}")
print(f"Reasoning tokens: {reasoning_tokens}")
print(f"Reasoning ratio: {reasoning_tokens / usage.completion_tokens * 100:.0f}%")

Mhux rari li t-tokens tar-raġunament jirrappreżentaw bejn 50 u 80% tat-tokens ta’ tlestija għal mistoqsijiet kumplessi.

Strateġiji għall-ottimizzazzjoni tal-ispejjeż

Naqqas il-prompt_tokens

  • Agħmel sommarju tal-istorja: minflok tibgħat il-konversazzjoni kollha, agħmel sommarju tal-iskambji l-antiki
  • Illimita l-messagġ tas-sistema: prompt tas-sistema ta’ 500 token rari huwa meħtieġ — immira għal 100–200 token
  • Iffiltra l-messaġġi: ibgħat biss l-iskambji rilevanti għall-mistoqsija attwali

Ikkontrolla l-completion_tokens

  • Uża max_completion_tokens (max_tokens huwa deprekat): dan jillimita r-risposta viżibbli, mhux ir-raġunament
  • Speċifika l-format: “Wieġeb f’3 sentenzi” jispiża inqas minn “Spjega fid-dettall”
  • Agħżel il-mudell it-tajjeb: mudell mhux tar-raġunament huwa inqas għali jekk il-kompitu ma jeħtiġix ħsieb kumpless

Immonitorja l-ispejjeż fil-produzzjoni

import json

def log_usage(response, requete_id: str):
    usage = response.usage
    log = {
        "id": requete_id,
        "prompt": usage.prompt_tokens,
        "completion": usage.completion_tokens,
        "total": usage.total_tokens,
    }
    if hasattr(usage, "completion_tokens_details") and usage.completion_tokens_details:
        log["reasoning"] = usage.completion_tokens_details.reasoning_tokens

    print(json.dumps(log))

Punti Ewlenin

  • L-oġġett usage fih prompt_tokens, completion_tokens, u total_tokens
  • prompt_tokens jiżdiedu ma’ kull skambju minħabba l-istorja mibgħuta
  • Il-mudelli tar-raġunament iżidu reasoning_tokens f’completion_tokens_details
  • It-tokens tar-raġunament huma fatturati bir-rata tal-output iżda mhumiex viżibbli fir-risposta — is-sehem tagħhom fl-ispiża jiddependi mill-kompitu u mill-isforz, allura kejjilhom
  • Ottimizza billi tagħmel sommarju tal-istorja, taġġusta l-isforz tar-raġunament, tillimita max_completion_tokens, u tagħżel il-mudell it-tajjeb