Lähe põhisisu juurde
Eesti— Vali keel
Menüü

Põhjendav vs mittepõhjendav mudel

Õppetund 12 / 14 Värskendatud 3. november 2026 Algajatele
Sellel lehel
  1. Kaks fundamentaalselt erinevat lähenemist
  2. Kuidas põhjendamine toimib
  3. Põhjendusrežiimis keelatud parameetrid
  4. Millal kasutada põhjendamist
  5. Millal kasutada mittepõhjendavat mudelit
  6. Suunamisstrateegia
  7. max_completion_tokens erijuhtum
  8. Peamised punktid

Uuendatud 3. novembril 2026 vastavalt xAI API dokumentatsioonile ja Põhjendamise juhendile: max_completion_tokens piirab ainult nähtavat vastust, mitte põhjendamist; logprobs eiratakse alates Grok 4.20 versioonist; kohandatav põhjendamine kehtib mudelitele grok-4.5, 4.6 ja 4.7. Allikad: Chat Completions · Reasoning.

Kaks fundamentaalselt erinevat lähenemist

Grok’i mudelipere pakub põhjendamiseks kahte lähenemist: grok-4.20 generatsioon on saadaval kahe eraldi variandina – põhjendav ja mittepõhjendav –, samas kui grok-4.5, grok-4.6 ja grok-4.7 ühendavad need kohandatavaks põhjendamiseks jõuparameetri (effort) kaudu, mida ei saa välja lülitada. See valik pole kosmeetiline – see muudab fundamentaalselt mudeli käitumist, võimekust, hinda ja API piiranguid. Õige variandi valimine iga ülesande jaoks on võtmeoskus.

Kuidas põhjendamine toimib

Kui kasutad põhjendavat varianti, läbib mudel enne vastuse genereerimist sisemise mõtteprotsessi. See lagundab probleemi, uurib erinevaid lähenemisviise, kontrollib oma loogikat ja构建ib vastuse samm-sammult.

xAI puhul on see põhjendamine Grok 4 mudelite ja uuemate puhul „krüpteeritud“: sa ei saa vahepealseid samme lihttekstina lugeda. Küll aga saad:

  • Hankida krüpteeritud sisu parameetriga include=["reasoning.encrypted_content"], et süstida see järgnevatesse päringutesse tagasi
  • Kontrollida põhjendamise tokenite arvu väljal usage.completion_tokens_details.reasoning_tokens

Põhjendamine tarbib lisatokeneid, mida arveldatakse väljundi hinnaga. Seega maksab põhjendav päring sama mittepõhjendava päringuga võrreldes rohkem; erinevus sõltub ülesandest ja jõupingutusest, nii et mõõda seda oma andmetel.

Põhjendusrežiimis keelatud parameetrid

See on迁移imisel levinud lõks. Põhjendavad variandid ei toeta teatud parameetreid, mida mittepõhjendavas režiimis sageli kasutatakse:

Parameeter Mittepõhjendav Põhjendav
presencePenalty Toetatud Keelatud (viga)
frequencyPenalty Toetatud Keelatud (viga)
stop Toetatud Keelatud (viga)
logprobs Eiratakse alates Grok 4.20 Eiratakse
max_completion_tokens Toetatud Toetatud (ainult nähtav vastus)

Kui saadad põhjendavale variandile parameetrid presencePenalty, frequencyPenalty või stop, tagastab API veateate. Veendu, et eemaldad need parameetrid oma päringutest, kui lülitud põhjendusrežiimile.

Millal kasutada põhjendamist

Põjendamine toob selget lisaväärtust teatud ülesannete kategooriates:

  • Matemaatika ja formaalne loogika – võrrandite lahendamine, tõestused, optimeerimine
  • Kompleksne koodianalüüs – silumine sõltuvustega, turvaauditid
  • Mitmeastmelised küsimused – probleemid, mis nõuavad põhjendamist mitmes faasis
  • Peened otsused – plusside ja miinuste hindamine, põhjalik võrdlev analüüs
  • Kvantitatiivne ekspertiis – statistika, finantsmodelleerimine, andmeanalüüs

Millal kasutada mittepõhjendavat mudelit

Mittepõhjendav variant on eelistatav, kui ülesanne ei nõua sügavat mõtlemist:

  • Kirjutamine ja kokkuvõtete tegemine – mudel ei pea „mõtlema“, et kirjutada
  • Klassifitseerimine ja sildistamine – sisu kiire kategoriseerimine
  • Informatsiooni ekstraheerimine – andmete struktureerimine toortekstist
  • Tõlkimine – mudel oskab tõlkida ilma eksplitsiitse põhjendamiseta
  • Lihtne vestlus – vestlusrobotid, KKK-d, esmase taseme tugi
  • Sisu genereerimine – e-kirjad, kirjeldused, turundustekstid

Suunamisstrateegia

Tootmises on optimaalne strateegia suunata päringud dünaamiliselt õigele variandile:

  1. Analüüsi päringut – kas see hõlmab arvutust, analüüsi või lihtsat töötlemist?
  2. Vaikimisi suuna mittepõhjendavale – see on kiirem ja odavam
  3. Lülitu põhjendavale, kui päring hõlmab mitmeastmelist põhjendamist
  4. Jälgi tulemusi – kohanda suunamiskriteeriume vastavalt täheldatud kvaliteedile

See lähenemine võimaldab sul kasutada põhjendamise võimsust seal, kus seda vaja, maksmata lisatasu, kui see on üleliigne.

max_completion_tokens erijuhtum

Vastavalt xAI API dokumentatsioonile kehtib max_completion_tokens ainult nähtava vastuse kohta: põhjendamise tokenid ja funktsioonikutsed ei lähe selle arvesse ning vaikeväärtus on 128 000 tokenit. Määra see piirang eeldatava vastuse pikkuse põhjal ja kohanda põhjendamist jõuparameetri (reasoning_effort) kaudu mudelite grok-4.5, 4.6 ja 4.7 puhul.

Peamised punktid

  • Põhjendavad variandid lisavad enne vastamist sisemise mõttefaasi
  • Põjendamine on krüpteeritud (ei ole lihttekstina nähtav); küll aga avaldab grok-4.7 kokkuvõtte, mida saab vaadata voogedastuse kaudu
  • presencePenalty, frequencyPenalty ja stop on põhjendusrežiimis keelatud
  • Põjendamine maksab 2–5 korda rohkem kui mittepõhjendamine
  • Kasuta põhjendamist matemaatika, loogika ja mitmeastmeliste probleemide jaoks
  • Kasuta mittepõhjendavat mudelit kirjutamise, klassifitseerimise ja ekstraheerimise jaoks