Põhjendav vs mittepõhjendav mudel
Sellel lehel
Uuendatud 3. novembril 2026 vastavalt xAI API dokumentatsioonile ja Põhjendamise juhendile:
max_completion_tokenspiirab ainult nähtavat vastust, mitte põhjendamist;logprobseiratakse alates Grok 4.20 versioonist; kohandatav põhjendamine kehtib mudelitele grok-4.5, 4.6 ja 4.7. Allikad: Chat Completions · Reasoning.
Kaks fundamentaalselt erinevat lähenemist
Grok’i mudelipere pakub põhjendamiseks kahte lähenemist: grok-4.20 generatsioon on saadaval kahe eraldi variandina – põhjendav ja mittepõhjendav –, samas kui grok-4.5, grok-4.6 ja grok-4.7 ühendavad need kohandatavaks põhjendamiseks jõuparameetri (effort) kaudu, mida ei saa välja lülitada. See valik pole kosmeetiline – see muudab fundamentaalselt mudeli käitumist, võimekust, hinda ja API piiranguid. Õige variandi valimine iga ülesande jaoks on võtmeoskus.
Kuidas põhjendamine toimib
Kui kasutad põhjendavat varianti, läbib mudel enne vastuse genereerimist sisemise mõtteprotsessi. See lagundab probleemi, uurib erinevaid lähenemisviise, kontrollib oma loogikat ja构建ib vastuse samm-sammult.
xAI puhul on see põhjendamine Grok 4 mudelite ja uuemate puhul „krüpteeritud“: sa ei saa vahepealseid samme lihttekstina lugeda. Küll aga saad:
- Hankida krüpteeritud sisu parameetriga
include=["reasoning.encrypted_content"], et süstida see järgnevatesse päringutesse tagasi - Kontrollida põhjendamise tokenite arvu väljal
usage.completion_tokens_details.reasoning_tokens
Põhjendamine tarbib lisatokeneid, mida arveldatakse väljundi hinnaga. Seega maksab põhjendav päring sama mittepõhjendava päringuga võrreldes rohkem; erinevus sõltub ülesandest ja jõupingutusest, nii et mõõda seda oma andmetel.
Põhjendusrežiimis keelatud parameetrid
See on迁移imisel levinud lõks. Põhjendavad variandid ei toeta teatud parameetreid, mida mittepõhjendavas režiimis sageli kasutatakse:
| Parameeter | Mittepõhjendav | Põhjendav |
|---|---|---|
| presencePenalty | Toetatud | Keelatud (viga) |
| frequencyPenalty | Toetatud | Keelatud (viga) |
| stop | Toetatud | Keelatud (viga) |
| logprobs | Eiratakse alates Grok 4.20 | Eiratakse |
| max_completion_tokens | Toetatud | Toetatud (ainult nähtav vastus) |
Kui saadad põhjendavale variandile parameetrid presencePenalty, frequencyPenalty või stop, tagastab API veateate. Veendu, et eemaldad need parameetrid oma päringutest, kui lülitud põhjendusrežiimile.
Millal kasutada põhjendamist
Põjendamine toob selget lisaväärtust teatud ülesannete kategooriates:
- Matemaatika ja formaalne loogika – võrrandite lahendamine, tõestused, optimeerimine
- Kompleksne koodianalüüs – silumine sõltuvustega, turvaauditid
- Mitmeastmelised küsimused – probleemid, mis nõuavad põhjendamist mitmes faasis
- Peened otsused – plusside ja miinuste hindamine, põhjalik võrdlev analüüs
- Kvantitatiivne ekspertiis – statistika, finantsmodelleerimine, andmeanalüüs
Millal kasutada mittepõhjendavat mudelit
Mittepõhjendav variant on eelistatav, kui ülesanne ei nõua sügavat mõtlemist:
- Kirjutamine ja kokkuvõtete tegemine – mudel ei pea „mõtlema“, et kirjutada
- Klassifitseerimine ja sildistamine – sisu kiire kategoriseerimine
- Informatsiooni ekstraheerimine – andmete struktureerimine toortekstist
- Tõlkimine – mudel oskab tõlkida ilma eksplitsiitse põhjendamiseta
- Lihtne vestlus – vestlusrobotid, KKK-d, esmase taseme tugi
- Sisu genereerimine – e-kirjad, kirjeldused, turundustekstid
Suunamisstrateegia
Tootmises on optimaalne strateegia suunata päringud dünaamiliselt õigele variandile:
- Analüüsi päringut – kas see hõlmab arvutust, analüüsi või lihtsat töötlemist?
- Vaikimisi suuna mittepõhjendavale – see on kiirem ja odavam
- Lülitu põhjendavale, kui päring hõlmab mitmeastmelist põhjendamist
- Jälgi tulemusi – kohanda suunamiskriteeriume vastavalt täheldatud kvaliteedile
See lähenemine võimaldab sul kasutada põhjendamise võimsust seal, kus seda vaja, maksmata lisatasu, kui see on üleliigne.
max_completion_tokens erijuhtum
Vastavalt xAI API dokumentatsioonile kehtib max_completion_tokens ainult nähtava vastuse kohta: põhjendamise tokenid ja funktsioonikutsed ei lähe selle arvesse ning vaikeväärtus on 128 000 tokenit. Määra see piirang eeldatava vastuse pikkuse põhjal ja kohanda põhjendamist jõuparameetri (reasoning_effort) kaudu mudelite grok-4.5, 4.6 ja 4.7 puhul.
Peamised punktid
- Põhjendavad variandid lisavad enne vastamist sisemise mõttefaasi
- Põjendamine on krüpteeritud (ei ole lihttekstina nähtav); küll aga avaldab grok-4.7 kokkuvõtte, mida saab vaadata voogedastuse kaudu
presencePenalty,frequencyPenaltyjastopon põhjendusrežiimis keelatud- Põjendamine maksab 2–5 korda rohkem kui mittepõhjendamine
- Kasuta põhjendamist matemaatika, loogika ja mitmeastmeliste probleemide jaoks
- Kasuta mittepõhjendavat mudelit kirjutamise, klassifitseerimise ja ekstraheerimise jaoks