Pastangų lygiai: žemas, vidutinis ir aukštas
Šiame puslapyje
Atnaujinta 2026 m. lapkričio 3 d. remiantis xAI API dokumentacija:
max_completion_tokensriboja tik matomą atsakymą; samprotavimo žetonai į šią ribą neįskaičiuojami, o pastangų lygis kontroliuoja jų kiekį. Šaltinis: Chat Completions. Lapkričio 3 d. papildymas: anksčiau pamokoje pastangos buvo siejamos su API („Chat Completions“ arba „Responses“) ir taikomos modeliuigrok-4.20-0309-reasoning, kuris jų nepalaiko; pagal xAI puslapį Reasoning, tai priklauso nuo modelio (grok-4.7,grok-4.6,grok-4.5,grok-4.20-multi-agent). Pavyzdyje taip pat buvo naudotasusage.completion_tokens, kurio nėra „Responses“ API atsakymuose (vietoj jo naudojamioutput_tokens,output_tokens_details.reasoning_tokens). Šaltinis: Reasoning.
Samprotavimo gylio valdymas
Samprotavimo pastangų lygis leidžia sureguliuoti, kiek mąstymo resursų modelis investuos prieš pateikdamas atsakymą. Tai tiesioginis įrankis subalansuoti kokybę, greitį ir žetonų sunaudojimą.
Galimybę naudoti šią funkciją lemia modelis, o ne API. Pagal xAI dokumentaciją:
| Modelis | Pastangos | Reikšmės |
|---|---|---|
grok-4.7, grok-4.6 | Samprotavimo gylis | low, medium, high (numatytasis), xhigh |
grok-4.5 | Samprotavimo gylis | low, medium, high (numatytasis); xhigh traktuojamas kaip high |
grok-4.20-multi-agent | Mobilizuotų agentų skaičius (4 arba 16), o ne gylis | low, medium, high, xhigh |
grok-4.20-0309-reasoning | Nekonfigūruojama: modelis visada samprotauja | — |
Šiuose modeliuose samprotavimo išjungti negalima: nesuconfigūravus, pastangų lygis pagal nutylėjimą yra high. Keičiasi tik parametro pavadinimas priklausomai nuo API: reasoning_effort aukščiausiu lygmeniu naudojant „Chat Completions“ arba reasoning.effort objekte reasoning naudojant „Responses“ API.
{
"model": "grok-4.7",
"input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
"reasoning": {
"effort": "medium"
}
}
Pastangų lygiai
Dokumentacijoje aprašomas kiekvienas lygis ir jo tinkamas naudojimas:
low: Naudojama šiek tiek samprotavimo, išlaikomas greitis. Tinka užduotims, jautrioms delsai, agentiniams sprendimams ir paprastiems įrankių kvietimams.medium: Daugiau refleksijos, tinka programoms, mažiau jautrioms delsai. Tinka sudėtingai duomenų analizei ir samprotavimui ilgame kontekste.high(numatytasis): Daug daugiau samprotavimo žetonų. Tinka labai sunkioms problemoms, sudėtingai matematikai, daugiapakopės logikos užduotims.xhigh: Maksimalus gylis ir atitinkama delsa. Tinka sunkiausioms problemoms, kai kokybė svarbesnė už atsakymo laiką.
xAI geriausios praktikos siūlo paprastą taisyklę: kiekvienoje užklausoje nustatykite pastangų lygį aiškiai ir fiksuokite jį kartu su kiekvienu rezultatu, kad jūsų matavimai būtų palyginami.
Samprotavimo modeliai taip pat atmeta tris parametrus: presence_penalty, frequency_penalty ir stop – jų naudojimas sukels užklausos klaidą.
Poveikis žetonams
Pastangų lygis tiesiogiai veikia samprotavimo žetonų sunaudojimą:
low: Mažai samprotavimo žetonų, greitas atsakymas, maža kainamedium: Vidutinis sunaudojimas, geras kompromisashighirxhigh: Daug samprotavimo žetonų, lėtesnis atsakymas, didelė kaina
Šie samprotavimo žetonai apmokestinami kaip išvesties žetonai (žr. 8 pamoką). Išvesties riba (max_completion_tokens „Chat Completions“ arba max_output_tokens „Responses“ API) riboja tik matomą atsakymą: samprotavimas į ją neįskaičiuojamas, todėl pastangų lygis kontroliuoja jų kiekį.
Tinkamo lygio pasirinkimas
| Užduotis | Rekomenduojamos pastangos |
|---|---|
| Teksto klasifikavimas | low |
| Santrauka su analize | medium |
| Struktūruotas entitetų išskyrimas | low |
| Lygčių sprendimas | high |
| Kodo klaidų analizė | high |
| Teksto performulavimas | low |
| Variantų palyginimas su privalumais ir trūkumais | medium |
| Matematinis įrodymas | high |
Praktinis pavyzdys: tas pats klausimas, trys pastangų lygiai
for effort in ["low", "medium", "high"]:
response = client.responses.create(
model="grok-4.7",
input="Explain why 0.1 + 0.2 != 0.3 in computing.",
reasoning={"effort": effort},
)
usage = response.usage
print(f"Effort {effort}: {usage.output_tokens} output tokens, "
f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")
Skirtumas tarp lygių priklauso nuo klausimo: matuokite jį savo konkrečiais atvejais, o ne pasikliaukite bendru santykiu, ir fiksuokite pastangų lygį kartu su kiekvienu rezultatu.
Svarbiausi punktai
- Pastangos priklauso nuo modelio:
low,medium,high(numatytasis) irxhighmodeliamsgrok-4.7irgrok-4.6; modelisgrok-4.5nepalaikoxhigh;grok-4.20-0309-reasoningšios funkcijos nepalaiko - „Chat Completions“ naudokite
reasoning_effort, „Responses“ API –reasoning.effort; samprotavimo išjungti negalima - Pastangų lygis tiesiogiai veikia samprotavimo žetonų skaičių, taigi ir kainą
- Nesuconfigūravus, pastangų lygis pagal nutylėjimą yra
high: kaip rekomenduoja xAI, nustatykite jį aiškiai kiekvienoje užklausoje - Pritaikykite pastangų lygį realiam užduoties sudėtingumui, kad optimizuotumėte išlaidas