Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Põhjendustegevus: madal, keskmine ja kõrge

Õppetund 4 / 12 Värskendatud 3. november 2026 Arendajatele
Sellel lehel
  1. Põhjendustegevuse sügavuse juhtimine
  2. Tegevustasemed
  3. Mõju tokenitele
  4. Õige taseme valimine
  5. Praktiline näide: sama küsimus, kolm tegevustaset
  6. Peamised punktid

Uuendatud 3. novembril 2026 vastavalt xAI API dokumentatsioonile: max_completion_tokens piirab ainult nähtavat vastust; põhjendustokeneid sellesse limiiti ei arvestata ja nende hulka reguleerib tegevusparameeter. Allikas: Chat Completions. 3. novembri lisa: Õppetund sidus varem tegevuse API-ga (Chat Completions või Responses) ja rakendas seda mudelile grok-4.20-0309-reasoning, mis seda ei toeta; vastavalt xAI lehele Reasoning sõltub see mudelist (grok-4.7, grok-4.6, grok-4.5, grok-4.20-multi-agent). Näites kasutati ka usage.completion_tokens, mida Responses API vastustes ei leidu (seal on output_tokens, output_tokens_details.reasoning_tokens). Allikas: Reasoning.

Põhjendustegevuse sügavuse juhtimine

Põhjendustegevus võimaldab sul kalibreerida, kui palju mõtleb mudel enne vastamist. See on otsene hoob kvaliteedi, kiiruse ja tokenite tarbimise tasakaalustamiseks.

Mudel määrab kättesaadavuse, mitte API. Vastavalt xAI dokumentatsioonile:

MudelTegevusVäärtused
grok-4.7, grok-4.6Põhjendustegevuse sügavuslow, medium, high (vaikimisi), xhigh
grok-4.5Põhjendustegevuse sügavuslow, medium, high (vaikimisi); xhigh käsitletakse kui high
grok-4.20-multi-agentMobiliseeritud agentide arv (4 või 16), mitte sügavuslow, medium, high, xhigh
grok-4.20-0309-reasoningPole konfigureeritav: mudel põhjendab alati—

Nendel mudelitel ei saa põhjendamist välja lülitada: ilma konfiguratsioonita on tegevus vaikimisi high. Ainult parameetri nimi muutub sõltuvalt API-st: reasoning_effort ülemisel tasemel Chat Completionsis ja reasoning.effort objekti reasoning sees Responses API puhul.

{
  "model": "grok-4.7",
  "input": "Solve the system of equations: 3x + 2y = 12, x - y = 1",
  "reasoning": {
    "effort": "medium"
  }
}

Tegevustasemed

Dokumentatsioon kirjeldab iga taset ja selle sobivat kasutust:

  • low: Kasutab mõningast põhjendamist, jäädes kiireks. Sobib latentsustundlikele agentsetele kasutusjuhtudele ja lihtsatele tööriistakutsetele.
  • medium: Rohkem arutlemist, rakendustele, mis on latentsuse suhtes vähem tundlikud. Sobib keeruliseks andmeanalüüsiks ja põhjendamiseks pikkades kontekstides.
  • high (vaikimisi): Palju rohkem põhjendustokeneid. Sobib väga keerukate probleemide, kompleksse matemaatika ja mitmeastmelise loogika jaoks.
  • xhigh: Maksimaalne sügavus koos vastava latentsusega. Sobib kõige raskemate probleemide lahendamiseks, kui kvaliteet on olulisem vastuse ajast.

xAI parimad tavad lisavad lihtsa reegli: määra tegevus iga päringu puhul sõnaselgelt ja logi see iga tulemuse juurde, et mõõtmised jääksid võrreldavaks.

Põhjendusmudelid lükkavad tagasi ka kolm parameetrit: presence_penalty, frequency_penalty ja stop põhjustavad päringu nurjumise.

Mõju tokenitele

Tegevustase mõjutab otseselt põhjendustokenite tarbimist:

  • low: Vähe põhjendustokeneid, kiire vastus, madal hind
  • medium: Mõõdukas tarbimine, hea kompromiss
  • high ja xhigh: Palju põhjendustokeneid, aeglasem vastus, kõrge hind

Neid põhjendustokeneid arvestatakse väljundtokenitena (vt õppetund 8). Väljundi piirang (max_completion_tokens Chat Completionsis, max_output_tokens Responses APIs) piirab ainult nähtavat vastust: põhjendustokeneid sellesse ei arvestata, seega kontrollib tegevus nende hulka.

Õige taseme valimine

ÜlesanneSoovitatav tegevus
Teksti klassifitseeriminelow
Kokkuvõte koos analüüsigamedium
Struktureeritud üksuste ekstraheeriminelow
Võrrandite lahendaminehigh
Koodivea analüüshigh
Teksti ümberformuleeriminelow
Valikute võrdlus plusside ja miinustegamedium
Matemaatiline tõestushigh

Praktiline näide: sama küsimus, kolm tegevustaset

for effort in ["low", "medium", "high"]:
    response = client.responses.create(
        model="grok-4.7",
        input="Explain why 0.1 + 0.2 != 0.3 in computing.",
        reasoning={"effort": effort},
    )
    usage = response.usage
    print(f"Effort {effort}: {usage.output_tokens} output tokens, "
          f"including {usage.output_tokens_details.reasoning_tokens} reasoning tokens")

Erinevus tasemete vahel sõltub küsimusest: mõõda seda oma konkreetsetel juhtudel, mitte ei toetu üldisele suhtele, ning logi tegevus iga tulemuse juurde.

Peamised punktid

  • Tegevus sõltub mudelist: low, medium, high (vaikimisi) ja xhigh mudelitel grok-4.7 ja grok-4.6; ilma xhigh-ta mudelil grok-4.5; grok-4.20-0309-reasoning ei toeta seda
  • reasoning_effort Chat Completionsis, reasoning.effort Responses APIs; põhjendamist ei saa välja lülitada
  • Tegevustase mõjutab otseselt põhjendustokenite arvu ja seega ka hinda
  • Ilma konfiguratsioonita on tegevus vaikimisi high: määra see iga päringu puhul sõnaselgelt, nagu xAI soovitab
  • Kohanda tegevust ülesande tegeliku keerukusega, et optimeerida kulusid