Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

max_completion_tokens agus Buiséad Token

Ceacht 10 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Cad a theorannaíonn an buiséad i ndáiríre
  2. Stiúradh na réasúnaíochta: iarracht, ní an teorainn
  3. Méid na teorann aschuir a shocrú
  4. Truncadh a bhrath
  5. Ná measctar leis an teorainn comhthéacs é
  6. Príomhphointí

An ceacht athscríofa an 3 Samhain, 2026 bunaithe ar thagairt API xAI (Críochnú Comhrá agus Freagraí), an treoir Reasoning, agus dea-chleachtais xAI: ní chuireann max_completion_tokens agus max_output_tokens teorainn ach leis an bhfreagra infheicthe—ní áirítear token réasúnaíochta ná token glaonna feidhme sa teorainn seo—agus tá siad réamhshocraithe ag 128,000. Mhaígh an leagan roimhe seo a mhalairt agus shocraigh sé an teorainn bunaithe ar réasúnaíocht; chuir sé iarracht ar grok-4.20-0309-reasoning freisin, rud nach nglacann leis. Foincí: Críochnú Comhrá · Freagraí · Réasúnaíocht.

Cad a theorannaíonn an buiséad i ndáiríre

I gcás samhlacha réasúnaíochta, d’fhéadfá ceapadh go roinneann an teorainn aschuir a buiséad idir smaointeoireacht agus freagra. Ní mar sin atá ag xAI. Tá an tagairt API soiléir: baineann max_completion_tokens (Críochnú Comhrá) agus max_output_tokens (API Freagraí) le token aschuir infheicthe amháin; ní áirítear token réasúnaíochta ná token glaonna feidhme.

max_completion_tokens → freagra infheicthe amháin
token réasúnaíochta → lasmuigh den teorainn, socraithe ag iarracht

Gan luach sonraithe, tá an teorainn seo réamhshocraithe ag 128,000 token. Maidir leis an sean-max_tokens, tá sé as feidhm anois in ionad max_completion_tokens.

Stiúradh na réasúnaíochta: iarracht, ní an teorainn

Ós rud é nach mbaineann an teorainn leis an réasúnaíocht, is í an iarracht a rialaíonn an méid. Ar grok-4.7, grok-4.6, agus grok-4.5, is é reasoning_effort an paraiméadar i gCríochnú Comhrá agus reasoning.effort san API Freagraí; tá sé réamhshocraithe ar high, glacann sé le low agus medium, agus xhigh ó Grok 4.6 ar aghaidh. Ní féidir an réasúnaíocht a dhíchumasú.

Ní ghlacann grok-4.20-0309-reasoning leis an bparaiméadar seo: déanann sé réasúnaíocht i gcónaí, agus freagraíonn a leagan grok-4.20-0309-non-reasoning gan réasúnaíocht. Ar grok-4.20-multi-agent, ar deireadh, ní shocraíonn an iarracht doimhneacht na réasúnaíochta ach líon na ngníomhairí a ghluaiseachtar (4 nó 16).

response = client.chat.completions.create(
    model="grok-4.7",
    reasoning_effort="low",  # tasc simplí: beagán réasúnaíochta
    messages=[{"role": "user", "content": "Aicmigh an ticéad seo: billeáil, rochtain, nó fabht?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)

Tá líon na dtoken réasúnaíochta le feiceáil in úsáid na freagra: usage.completion_tokens_details.reasoning_tokens i gCríochnú Comhrá, usage.output_tokens_details.reasoning_tokens san API Freagraí. Is cuid iad de na token a bhilleáiltear: mar sin, is í an iarracht, ní an teorainn aschuir, a chuireann meáchan ar an mír seo.

Méid na teorann aschuir a shocrú

Níl feidhm leis an teorainn ach chun fad na freagra féin a theorannú. Tugann dea-chleachtais xAI riail shimplí: socraigh é os cionn na freagra is faide a bhfuil súil agat leis, nó fág an luach réamhshocraithe 128,000 token. Gearrfaidh teorainn atá ró-theann an fhreagra infheicthe, beag beann ar an iarracht réasúnaíochta.

Freagra a bhfuil súil leisTeorainn aschuir réasúnach
Lipéad, uimhircúpla dosaen token
Mír500 go 1,000 token
Tuairisc struchtúrtharoinnt mílte token
Gan smaoineamh cruinnan luach réamhshocraithe

Truncadh a bhrath

Nuair a shroicheann an fhreagra infheicthe an teorainn, filleann Críochnú Comhrá "length" in finish_reason in ionad "stop", agus filleann an API Freagraí stádas incomplete. Is féidir leat an staid seo a bhrath agus iarracht arís a dhéanamh le teorainn níos airde:

response = client.chat.completions.create(
    model="grok-4.7",
    messages=[{"role": "user", "content": question}],
    max_completion_tokens=2000,
)

if response.choices[0].finish_reason == "length":
    # Gearradh an fhreagra infheicthe: déan iarracht arís le teorainn níos airde
    response = client.chat.completions.create(
        model="grok-4.7",
        messages=[{"role": "user", "content": question}],
        max_completion_tokens=8000,
    )

Ná measctar leis an teorainn comhthéacs é

Tá an teorainn aschuir neamhspleách ar fhuinneog chomhthéacs na samhla—500,000 token do grok-4.7, 1 milliún do grok-4.20-0309-reasoning—a theorannaíonn an comhrá iomlán. Agus d’fhéadfadh iarratas réasúnaíochta doimhin roinnt nóiméad a ghlacadh: molann xAI ligean do 900 soicind ar a laghad in aghaidh na hiarratais agus sruthú a roghnú.

Príomhphointí

  • Ní chuireann max_completion_tokens agus max_output_tokens teorainn ach leis an bhfreagra infheicthe: ní áirítear an réasúnaíocht sa teorainn seo
  • Gan luach, tá an teorainn aschuir réamhshocraithe ag 128,000 token; tá max_tokens as feidhm
  • Socraítear méid na réasúnaíochta trí iarracht (reasoning_effort nó reasoning.effort) ar grok-4.5 go 4.7; níl sé seo ag grok-4.20-0309-reasoning
  • Feictear token réasúnaíochta san úsáid agus is cuid den bhille iad
  • Brathar freagra gearrtha le finish_reason: "length" nó an stádas incomplete