max_completion_tokens agus Buiséad Token
Ar an leathanach seo
An ceacht athscríofa an 3 Samhain, 2026 bunaithe ar thagairt API xAI (Críochnú Comhrá agus Freagraí), an treoir Reasoning, agus dea-chleachtais xAI: ní chuireann
max_completion_tokensagusmax_output_tokensteorainn ach leis an bhfreagra infheicthe—ní áirítear token réasúnaíochta ná token glaonna feidhme sa teorainn seo—agus tá siad réamhshocraithe ag 128,000. Mhaígh an leagan roimhe seo a mhalairt agus shocraigh sé an teorainn bunaithe ar réasúnaíocht; chuir sé iarracht argrok-4.20-0309-reasoningfreisin, rud nach nglacann leis. Foincí: Críochnú Comhrá · Freagraí · Réasúnaíocht.
Cad a theorannaíonn an buiséad i ndáiríre
I gcás samhlacha réasúnaíochta, d’fhéadfá ceapadh go roinneann an teorainn aschuir a buiséad idir smaointeoireacht agus freagra. Ní mar sin atá ag xAI. Tá an tagairt API soiléir: baineann max_completion_tokens (Críochnú Comhrá) agus max_output_tokens (API Freagraí) le token aschuir infheicthe amháin; ní áirítear token réasúnaíochta ná token glaonna feidhme.
max_completion_tokens → freagra infheicthe amháin
token réasúnaíochta → lasmuigh den teorainn, socraithe ag iarracht
Gan luach sonraithe, tá an teorainn seo réamhshocraithe ag 128,000 token. Maidir leis an sean-max_tokens, tá sé as feidhm anois in ionad max_completion_tokens.
Stiúradh na réasúnaíochta: iarracht, ní an teorainn
Ós rud é nach mbaineann an teorainn leis an réasúnaíocht, is í an iarracht a rialaíonn an méid. Ar grok-4.7, grok-4.6, agus grok-4.5, is é reasoning_effort an paraiméadar i gCríochnú Comhrá agus reasoning.effort san API Freagraí; tá sé réamhshocraithe ar high, glacann sé le low agus medium, agus xhigh ó Grok 4.6 ar aghaidh. Ní féidir an réasúnaíocht a dhíchumasú.
Ní ghlacann grok-4.20-0309-reasoning leis an bparaiméadar seo: déanann sé réasúnaíocht i gcónaí, agus freagraíonn a leagan grok-4.20-0309-non-reasoning gan réasúnaíocht. Ar grok-4.20-multi-agent, ar deireadh, ní shocraíonn an iarracht doimhneacht na réasúnaíochta ach líon na ngníomhairí a ghluaiseachtar (4 nó 16).
response = client.chat.completions.create(
model="grok-4.7",
reasoning_effort="low", # tasc simplí: beagán réasúnaíochta
messages=[{"role": "user", "content": "Aicmigh an ticéad seo: billeáil, rochtain, nó fabht?"}],
)
print(response.usage.completion_tokens_details.reasoning_tokens)
Tá líon na dtoken réasúnaíochta le feiceáil in úsáid na freagra: usage.completion_tokens_details.reasoning_tokens i gCríochnú Comhrá, usage.output_tokens_details.reasoning_tokens san API Freagraí. Is cuid iad de na token a bhilleáiltear: mar sin, is í an iarracht, ní an teorainn aschuir, a chuireann meáchan ar an mír seo.
Méid na teorann aschuir a shocrú
Níl feidhm leis an teorainn ach chun fad na freagra féin a theorannú. Tugann dea-chleachtais xAI riail shimplí: socraigh é os cionn na freagra is faide a bhfuil súil agat leis, nó fág an luach réamhshocraithe 128,000 token. Gearrfaidh teorainn atá ró-theann an fhreagra infheicthe, beag beann ar an iarracht réasúnaíochta.
| Freagra a bhfuil súil leis | Teorainn aschuir réasúnach |
|---|---|
| Lipéad, uimhir | cúpla dosaen token |
| Mír | 500 go 1,000 token |
| Tuairisc struchtúrtha | roinnt mílte token |
| Gan smaoineamh cruinn | an luach réamhshocraithe |
Truncadh a bhrath
Nuair a shroicheann an fhreagra infheicthe an teorainn, filleann Críochnú Comhrá "length" in finish_reason in ionad "stop", agus filleann an API Freagraí stádas incomplete. Is féidir leat an staid seo a bhrath agus iarracht arís a dhéanamh le teorainn níos airde:
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=2000,
)
if response.choices[0].finish_reason == "length":
# Gearradh an fhreagra infheicthe: déan iarracht arís le teorainn níos airde
response = client.chat.completions.create(
model="grok-4.7",
messages=[{"role": "user", "content": question}],
max_completion_tokens=8000,
)
Ná measctar leis an teorainn comhthéacs é
Tá an teorainn aschuir neamhspleách ar fhuinneog chomhthéacs na samhla—500,000 token do grok-4.7, 1 milliún do grok-4.20-0309-reasoning—a theorannaíonn an comhrá iomlán. Agus d’fhéadfadh iarratas réasúnaíochta doimhin roinnt nóiméad a ghlacadh: molann xAI ligean do 900 soicind ar a laghad in aghaidh na hiarratais agus sruthú a roghnú.
Príomhphointí
- Ní chuireann
max_completion_tokensagusmax_output_tokensteorainn ach leis an bhfreagra infheicthe: ní áirítear an réasúnaíocht sa teorainn seo - Gan luach, tá an teorainn aschuir réamhshocraithe ag 128,000 token; tá
max_tokensas feidhm - Socraítear méid na réasúnaíochta trí iarracht (
reasoning_effortnóreasoning.effort) ar grok-4.5 go 4.7; níl sé seo aggrok-4.20-0309-reasoning - Feictear token réasúnaíochta san úsáid agus is cuid den bhille iad
- Brathar freagra gearrtha le
finish_reason: "length"nó an stádasincomplete