Pereiti prie pagrindinio turinio
Lietuvių— Pasirinkite kalbą
Meniu

Samprotavimas prieš nesamprotavimą

Paskaita 12 iš 14 Atnaujinta 2026 m. lapkričio 3 d. Pradedantisiems
Šiame puslapyje
  1. Du iš esmės skirtingi požiūriai
  2. Kaip veikia samprotavimas
  3. Parametrai, draudžiami samprotavimo režimu
  4. Kada naudoti samprotavimą
  5. Kada naudoti režimą be samprotavimo
  6. Maršrutizavimo strategija
  7. Ypatingas max_completion_tokens atvejis
  8. Svarbiausi punktai

Atnaujinta 2026 m. lapkričio 3 d. remiantis xAI API nuoroda ir Samprotavimo vadovu: max_completion_tokens riboja tik matomą atsakymą, bet ne samprotavimą; logprobs ignoruojamas nuo Grok 4.20 versijos; reguliuojamas samprotavimas taikomas modeliams grok-4.5, 4.6 ir 4.7. Šaltiniai: Chat Completions · Reasoning.

Du iš esmės skirtingi požiūriai

„Grok“ modelių šeima siūlo du samprotavimo būdus: „grok-4.20“ generavimas turi dvi atskiras versijas – su samprotavimu ir be jo, o „grok-4.5“, „grok-4.6“ bei „grok-4.7“ jas sujungia į reguliuojamą samprotavimą naudojant pastangų parametrą (effort), kurio išjungti negalima. Šis pasirinkimas nėra tik kosmetinis – jis iš esmės keičia modelio elgseną, galimybes, kainą ir API apribojimus. Tinkamos versijos parinkimas kiekvienai užduočiai yra esminis įgūdis.

Kaip veikia samprotavimas

Kai naudoji samprotavimo versiją, modelis prieš pateikdamas atsakymą atlieka vidinį mąstymo procesą. Jis suskaido problemą, nagrinėja įvairius sprendimo būdus, tikrina savo logiką ir žingsnis po žingsnio formuoja atsakymą.

xAI sistemoje šis samprotavimas „Grok 4“ ir naujesniems modeliams yra „užšifruotas“: tarpinių žingsnių negali skaityti paprastu tekstu. Tačiau gali:

  • Gauti užšifruotą turinį naudodamas include=["reasoning.encrypted_content"], kad vėliau jį įterptum į kitus užklausas
  • Patikrinti samprotavimo žetonų skaičių lauke usage.completion_tokens_details.reasoning_tokens

Samprotavimas sunaudoja papildomų žetonų, kurie apmokestinami išvesties tarifu. Todėl užklausa su samprotavimu kainuoja daugiau nei identiška užklausa be samprotavimo; skirtumas priklauso nuo užduoties ir pastangų lygio, todėl jį būtina įvertinti pagal savo duomenis.

Parametrai, draudžiami samprotavimo režimu

Tai dažna klaida migracijos metu. Samprotavimo versijos nepalaiko kai kurių parametrų, įprastų veikiant be samprotavimo:

Parametras Be samprotavimo Su samprotavimu
presencePenalty Palaikoma Draudžiama (klaida)
frequencyPenalty Palaikoma Draudžiama (klaida)
stop Palaikoma Draudžiama (klaida)
logprobs Ignoruojamas nuo Grok 4.20 Ignoruojamas
max_completion_tokens Palaikoma Palaikoma (tik matomam atsakymui)

Jei samprotavimo versijai perduosi presencePenalty, frequencyPenalty arba stop, API grąžins klaidą. Perjungdamas į samprotavimo režimą, būtinai pašalink šiuos parametrus iš savo užklausų.

Kada naudoti samprotavimą

Samprotavimas suteikia akivaizdžios naudos tam tikrų kategorijų užduotims:

  • Matematika ir formalioji logika – lygčių sprendimas, įrodymai, optimizavimas
  • Sudėtinga kodo analizė – derinimas esant tarpusavio priklausomybėms, saugumo auditas
  • Daugiaetapiai klausimai – problemos, reikalaujančios samprotavimo keliais etapais
  • Niuansuoti sprendimai – privalumų ir trūkumų vertinimas, išsami lyginamoji analizė
  • Kiekybinė ekspertizė – statistika, finansinis modeliavimas, duomenų analizė

Kada naudoti režimą be samprotavimo

Režimas be samprotavimo yra pageidautinas, kai užduotis nereikalauja gilaus mąstymo:

  • Rašymas ir santraukos – modeliui nereikia „galvoti“, kad rašytų
  • Klasifikavimas ir žymėjimas – greitas turinio kategorizavimas
  • Informacijos išgavimas – duomenų struktūrizavimas iš neapdoroto teksto
  • Vertimas – modelis moka versti be aiškaus samprotavimo proceso
  • Paprastas pokalbis – pokalbių robotai, DUK, pirmosios pakopos pagalba
  • Turinio kūrimas – el. laiškai, aprašymai, rinkodaros tekstai

Maršrutizavimo strategija

Gamybinėje aplinkoje optimali strategija – dinamiškai nukreipti užklausas į tinkamą versiją:

  1. Išanalizuok užklausą – ar ji apima skaičiavimus, analizę ar paprastą apdorojimą?
  2. Numatytasis nukreipimas be samprotavimo – tai greičiau ir pigiau
  3. Perjunk į samprotavimą, kai užklausa reikalauja daugiaetapio mąstymo
  4. Stebėk rezultatus – koreguok maršrutizavimo kriterijus pagal pastebėtą kokybę

Šis požiūris leidžia pasinaudoti samprotavimo galia ten, kur ji būtina, nemokant papildomo mokesčio, kai ji nereikalinga.

Ypatingas max_completion_tokens atvejis

Pagal xAI API nuorodą, max_completion_tokens taikomas tik matomam atsakymui: samprotavimo žetonai ir funkcijų iškvietimai į šią ribą neįskaičiuojami, o numatytoji vertė yra 128 000 žetonų. Nustatyk šią ribą pagal numatomą atsakymo ilgį, o samprotavimą reguliuok naudodamas pastangų parametrą (reasoning_effort) modeliams „grok-4.5“, „4.6“ ir „4.7“.

Svarbiausi punktai

  • Samprotavimo versijos prieš atsakydamos atlieka vidinį mąstymo etapą
  • Samprotavimas yra užšifruotas (nematomas paprastu tekstu); tačiau „grok-4.7“ pateikia santrauką, kurią galima peržiūrėti srautiniu būdu
  • Parametrai presencePenalty, frequencyPenalty ir stop samprotavimo režimu yra draudžiami
  • Samprotavimas kainuoja 2–5 kartus daugiau nei režimas be samprotavimo
  • Samprotavimą naudok matematikai, logikai ir daugiaetapėms problemoms spręsti
  • Režimą be samprotavimo naudok rašymui, klasifikavimui ir informacijos išgavimui