Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Pastangų lygiai: žemas, vidutinis ir aukštas

Paskaita 4 iš 12 Atnaujinta 2026 m. lapkričio 3 d. Kūrėjas
Šiame puslapyje
  1. Samprotavimo gylio valdymas
  2. Pastangų lygiai
  3. Poveikis žetonams
  4. Tinkamo lygio pasirinkimas
  5. Praktinis pavyzdys: tas pats klausimas, trys pastangų lygiai
  6. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 3 d. remiantis xAI API dokumentacija: max_completion_tokens riboja tik matomą atsakymą; samprotavimo žetonai į šią ribą neįskaičiuojami, o pastangų lygis kontroliuoja jų kiekį. Šaltinis: Chat Completions. Lapkričio 3 d. papildymas: anksčiau pamokoje pastangos buvo siejamos su API („Chat Completions“ arba „Responses“) ir taikomos modeliui grok-4.20-0309-reasoning, kuris jų nepalaiko; pagal xAI puslapį Reasoning, tai priklauso nuo modelio (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). Pavyzdyje taip pat buvo naudotas usage.completion_tokens, kurio nėra „Responses“ API atsakymuose (vietoj jo naudojami output_tokens, output_tokens_details.reasoning_tokens). Šaltinis: Reasoning.

Samprotavimo gylio valdymas

Samprotavimo pastangų lygis leidžia sureguliuoti, kiek mąstymo resursų modelis investuos prieš pateikdamas atsakymą. Tai tiesioginis įrankis subalansuoti kokybę, greitį ir žetonų sunaudojimą.

Galimybę naudoti šią funkciją lemia modelis, o ne API. Pagal xAI dokumentaciją:

ModelisPastangosReikšmės
grok-4.7, grok-4.6Samprotavimo gylislow, medium, high (numatytasis), xhigh
grok-4.5Samprotavimo gylislow, medium, high (numatytasis); xhigh traktuojamas kaip high
grok-4.20-multi-agentMobilizuotų agentų skaičius (4 arba 16), o ne gylislow, medium, high, xhigh
grok-4.20-0309-reasoningNekonfigūruojama: modelis visada samprotauja—

Šiuose modeliuose samprotavimo išjungti negalima: nesuconfigūravus, pastangų lygis pagal nutylėjimą yra high. Keičiasi tik parametro pavadinimas priklausomai nuo API: reasoning_effort aukščiausiu lygmeniu naudojant „Chat Completions“ arba reasoning.effort objekte reasoning naudojant „Responses“ API.

{
  "model": "grok-4.7",
  "input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Pastangų lygiai

Dokumentacijoje aprašomas kiekvienas lygis ir jo tinkamas naudojimas:

  • low: Naudojama šiek tiek samprotavimo, išlaikomas greitis. Tinka užduotims, jautrioms delsai, agentiniams sprendimams ir paprastiems įrankių kvietimams.
  • medium: Daugiau refleksijos, tinka programoms, mažiau jautrioms delsai. Tinka sudėtingai duomenų analizei ir samprotavimui ilgame kontekste.
  • high (numatytasis): Daug daugiau samprotavimo žetonų. Tinka labai sunkioms problemoms, sudėtingai matematikai, daugiapakopės logikos užduotims.
  • xhigh: Maksimalus gylis ir atitinkama delsa. Tinka sunkiausioms problemoms, kai kokybė svarbesnė už atsakymo laiką.

xAI geriausios praktikos siūlo paprastą taisyklę: kiekvienoje užklausoje nustatykite pastangų lygį aiškiai ir fiksuokite jį kartu su kiekvienu rezultatu, kad jūsų matavimai būtų palyginami.

Samprotavimo modeliai taip pat atmeta tris parametrus: presence_penalty, frequency_penalty ir stop – jų naudojimas sukels užklausos klaidą.

Poveikis žetonams

Pastangų lygis tiesiogiai veikia samprotavimo žetonų sunaudojimą:

  • low: Mažai samprotavimo žetonų, greitas atsakymas, maža kaina
  • medium: Vidutinis sunaudojimas, geras kompromisas
  • high ir xhigh: Daug samprotavimo žetonų, lėtesnis atsakymas, didelė kaina

Šie samprotavimo žetonai apmokestinami kaip išvesties žetonai (žr. 8 pamoką). Išvesties riba (max_completion_tokens „Chat Completions“ arba max_output_tokens „Responses“ API) riboja tik matomą atsakymą: samprotavimas į ją neįskaičiuojamas, todėl pastangų lygis kontroliuoja jų kiekį.

Tinkamo lygio pasirinkimas

UžduotisRekomenduojamos pastangos
Teksto klasifikavimaslow
Santrauka su analizemedium
Struktūruotas entitetų išskyrimaslow
Lygčių sprendimashigh
Kodo klaidų analizėhigh
Teksto performulavimaslow
Variantų palyginimas su privalumais ir trūkumaismedium
Matematinis įrodymashigh

Praktinis pavyzdys: tas pats klausimas, trys pastangų lygiai

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Explain why 0.1 + 0.2 != 0.3 in computing.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Effort {effort}: {usage.output_tokens} output tokens, "
          f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")

Skirtumas tarp lygių priklauso nuo klausimo: matuokite jį savo konkrečiais atvejais, o ne pasikliaukite bendru santykiu, ir fiksuokite pastangų lygį kartu su kiekvienu rezultatu.

Svarbiausi punktai

  • Pastangos priklauso nuo modelio: low, medium, high (numatytasis) ir xhigh modeliams grok-4.7 ir grok-4.6; modelis grok-4.5 nepalaiko xhigh; grok-4.20-0309-reasoning šios funkcijos nepalaiko
  • „Chat Completions“ naudokite reasoning_effort, „Responses“ API – reasoning.effort; samprotavimo išjungti negalima
  • Pastangų lygis tiesiogiai veikia samprotavimo žetonų skaičių, taigi ir kainą
  • Nesuconfigūravus, pastangų lygis pagal nutylėjimą yra high: kaip rekomenduoja xAI, nustatykite jį aiškiai kiekvienoje užklausoje
  • Pritaikykite pastangų lygį realiam užduoties sudėtingumui, kad optimizuotumėte išlaidas