Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Kaip veikia samprotavimo modeliai

Paskaita 2 iš 12 Atnaujinta 2026 m. lapkričio 5 d. Vidutinis lygis
Šiame puslapyje
  1. Kaip iš tikrųjų „mąsto“ modeliai
  2. Pirmiau pagalvok, paskui atsakyk
  3. Samprotavimo tokenai: nematomi, bet skaičiuojami
  4. Pro, Max ir Ultra: trys būdai nuveikti daugiau
  5. Ką samprotavimas keičia, o ko ne
  6. Išbandyk pats
  7. Svarbiausi punktai

Kaip iš tikrųjų „mąsto“ modeliai

Kai padidini samprotavimo lygį, modelis atsakymo negeneruoja iškart. Pirmiausia jis sukuria samprotavimo tokenus, kuriuos naudoja užklausai išskaidyti ir įvairiems atsakymo būdams išnagrinėti. Šio mechanizmo supratimas nėra vien teorija – būtent tai leidžia tinkamai nustatyti lygį, numatyti išlaidas ir teisingai interpretuoti modelio output’ą.

Pirmiau pagalvok, paskui atsakyk

Esant greitam lygiui („Instant“ pokalbiuose, none arba low API), modelis atsako beveik tiesiogiai. Kuo aukštesnį lygį nustatai, tuo daugiau tokenų modelis sunaudoja mąstymui prieš pateikdamas matomą atsakymą. Šią fazę gali įsivaizduoti kaip juodraštį: problemos skaidymą, galimybių tyrinėjimą, aklaviečių atmetimą, tikrinimą ir galiausiai sintezę. Tai naudingas mentalinis modelis, o ne oficialus vidinių procesų aprašymas; „OpenAI“ apibūdina modelį, kuris išskaido užklausą ir prieš atsakydamas svarsto kelis būdus.

Paimkime išraišką „17 × 23 + 45 ÷ 9 − 12“. Nenaudojant samprotavimo, reali klaidos rizika dėl veiksmų eiliškumo. Esant aukštesniam lygiui, modelis skiria laiko pirmiausia apskaičiuoti daugybą ir dalybą (391 ir 5), tada sudėtį ir atimtį (391 + 5 − 12 = 384) ir prieš pateikdamas rezultatą jį patikrina.

Kas vyksta prieš atsakymą Keturi supaprastinti žingsniai: užklausa ir jos kontekstas; samprotavimas, sudarytas iš samprotavimo tokenų; tikrinimas, kai lyginamos galimybės ir atmetamos klaidos; atsakymas – vienintelė matoma dalis. SAMPROTAVIMO TOKENAI Kas vyksta prieš atsakymą 1 Užklausa Promptas ir kontekstas 2 Samprotavimas Samprotavimo tokenai 3 Tikrinimas Galimybių palyginimas 4 Atsakymas Vienintelė matoma dalis API šie tokenai užima kontekstą ir yra apmokestinami kaip outputo tokenai.
Pagal „OpenAI“ API samprotavimo modelių gaires (2026 m. lapkritis).

Samprotavimo tokenai: nematomi, bet skaičiuojami

Samprotavimo tokenai nerodomi atsakyme, tačiau jie yra skaičiuojami. API jie užima vietos konteksto lange ir yra apmokestinami kaip outputo tokenai. Priklausomai nuo sudėtingumo, modelis gali sugeneruoti nuo kelių šimtų iki kelių dešimčių tūkstančių tokių tokenų. Jei outputo limitas (max_output_tokens) pasiekiamas samprotavimo metu, atsakymas grąžinamas su būsena incomplete, kartais dar prieš atsirandant bet kokiam matomam tekstui; „OpenAI“ rekomenduoja pradedant eksperimentuoti rezervuoti bent 25 000 tokenų samprotavimui ir atsakymui.

Žalias samprotavimas nėra atveriamas. API gali paprašyti samprotavimo santraukos naudodamas parametrą reasoning.summary. „ChatGPT“ su GPT-6 atsakymas gali prasidėti modeliai vis dar mąstant, o vėliau būti papildytas detalėmis.

Pro, Max ir Ultra: trys būdai nuveikti daugiau

Be pastangų lygių, yra trys mechanizmai, kurie dar labiau sustiprina samprotavimą, ir svarbu jų nesupainioti.

  • Pro režimas (reasoning.mode: "pro" API, Pro lygis pokalbiuose) verčia modelį dirbti intensyviau sudėtingose užduotyse, kurios toleruoja didesnę delsą. API šis papildomas darbas apmokestinamas standartiniu pasirinkto modelio tarifu, tačiau suvartoja daugiau tokenų.
  • Max, skirtas „Work“ ir „Codex“ bei API (max), suteikia modeliui daugiau laiko samprotavimui vienoje užduotyje.
  • Ultra, skirtas tik „Work“ ir „Codex“, eina toliau nei vienas agentas: jis priskiria sudėtingos užduoties dalis sub-agentams, dirbantiems lygiagrečiai. Tai naudinga tik tada, kai darbą galima padalinti į nepriklausomas dalis. GPT-6 Luna pasiekia Max, bet ne Ultra.

Ką samprotavimas keičia, o ko ne

Aukštas samprotavimo lygis daro skirtumą specifinėms problemų grupėms: matematikai ir statistikai, logikai ir dedukcijai, sudėtingam kodui ir derinimui, strateginei analizei su svoriniais kriterijais ir apskritai bet kokiai daugiapakopei užduočiai. Todėl „OpenAI“ rekomenduoja high sudėtingam samprotavimui, kompleksiniam derinimui ir giliam planavimui.

Visgi tai nėra stebuklinga lazdelė. Modelis gali klysti ir po samprotavimo: klaidinga prielaida lemia klaidingą išvadą, nesvarbu, kiek kruopštus buvo samprotavimo procesas. Samprotavimas didina atsakymo laiką ir kainą. O paprastai užduočiai jis neprideda nieko, ko negalėtų atlikti greitas lygis.

Išbandyk pats

Pamatyk mechanizmą veikiant. Pirmiausia užduok šį klausimą esant greitam lygiui, tada – aukštam („Instant“, tada „High“ pokalbiuose arba low, tada high API): „Traukinys išvyksta iš Paryžiaus 8:00 val. 120 km/h greičiu. Kitas išvyksta iš Liono, esančio už 465 km, 8:30 val. 150 km/h greičiu Paryžiaus link. Kurioje valandoje ir kokiu atstumu nuo Paryžiaus jie susitiks?“ Pats patikrink tikėtiną atsakymą: 10:00 val., 240 km nuo Paryžiaus. Jei naudoji API, palygink abiejų lygių atsakymų naudojimo statistikoje nurodytą samprotavimo tokenų skaičių.

Oficialūs šaltiniai: Samprotavimo modeliai („OpenAI“ API: samprotavimo tokenai, apmokestinimas, kontekstas, santraukos, Pro režimas, pastangų lygiai) · Modeliai („ChatGPT“ dokumentacija: Max ir Ultra) · GPT-6 ir kiti modeliai „ChatGPT“ (atsakymai, prasidedantys samprotavimo metu)

Svarbiausi punktai

  • Samprotavimas prieš atsakymą prideda mąstymo tokenų; jų skaičius auga pasirinkus aukštesnį lygį
  • Nematomi, šie tokenai užima kontekstą ir API yra apmokestinami kaip outputo tokenai
  • Palik pakankamai outputo rezervą, kitaip atsakymas bus grąžintas kaip nebaigtas
  • Pro verčia modelį dirbti intensyviau, Max suteikia daugiau laiko, Ultra paskirsto darbą sub-agentams („Work“ ir „Codex“)
  • Samprotavimas neapsaugo nuo klaidų: klaidinga prielaida lemia klaidingą išvadą