Millal mõtlemist võimendada (ja millal sellest loobuda)
Sellel lehel
Tea, millal mõelda ja millal mitte
Mõtlemise maksimaalne võimendamine iga päringu puhul on nagu naela löömine haamri puuriga. See õppetund õpetab sind tuvastama olukordi, kus mõtlemine toob tegelikku kasu, ning neid palju levinumaid juhtumeid, kus see ainult aeglustab sind ja suurendab kulusid.
OpenAI soovitused tasemeti
API dokumentatsioon kirjeldab, kuidas kasutada iga pingutustaset. Need samad juhised kehtivad väikeste erinevustega ka ChatGPT liuguri kohta.
| Tase | Milleks seda OpenAI sõnul kasutada | ChatGPT liuguri vaste |
|---|---|---|
none | Latentsuskriitilised ülesanded: hääl, kiire infootsing, klassifitseerimine | Kohene |
low | Tõhus mõtlemine: andmeanalüüs, kirjutamine, käivitatav kood, klienditugi | Kohene või Keskmine |
medium | Kvaliteet ja usaldusväärsus, planeerimine ning otsustusvõime; kõige tasakaalustatum vaikeseade | Keskmine |
high | Rasked arutluskäigud, keeruline silumine, sügav planeerimine | Kõrge |
xhigh | Sügav uurimistöö ja pikaajalised ülesanded, ainult kui testid näitavad kasu | Eriti kõrge |
max | Kõige keerukamad ülesanded, mida tuleb võrrelda tasemega xhigh | Pro või Max töökeskkonnas |
Pööra erilist tähelepanu reale medium: see on soovitatav lähtepunkt enamiku kasutusjuhtude jaoks. Langeta taset, kui kiirus on olulisem sügavusest, ja tõsta seda, kui ülesanne seda nõuab.
Millal taset tõsta
Esimene märk on aheldatud sammud. Kui õige vastuse leidmiseks tuleb lahendada A, et mõista B, ning seejärel kombineerida A ja B, et saada C, tõsta taset. „Analüüsi neid kolme kaubanduslikku pakkumist, võrdle neid viie kaalutud kriteeriumi alusel ja soovita parimat koos põhjendusega“ sobib sellesse kategooriasse täiuslikult.
Teine märk on matemaatiline või loogiline: arvutused, järeldused, kombinatoorika. Võrdle näiteks kahte taset ülesandel „Arvuta 120 000 € väärtusega vara kahaneva jääkmaksumuse amortisatsioon 5 aasta jooksul koefitsiendiga 1,75.“ Kolmas puudutab täpsust: kui viga on kulukas (finantsarvutus, juriidiline analüüs, algoritmid), annab kõrgem tase mudelile aega oma töö üle kontrollida. Neljas on strateegiline: projekti planeerimine, stsenaariumide hindamine või otsustuspuu loomine.
Millal jääda madalale
Vastupidi, enamik formuleerimisülesandeid ei saa lisamõtlemisest mingit kasu. E-kirja või postituse koostamine, tõlkimine, ümber sõnastamine, kokkuvõtte tegemine tihendamise eesmärgil, lihtsa faktilise küsimusele vastamine või ideede genereerimine: selleks piisab kiirest tasemest ja OpenAI loetleb kirjutamise isegi low kasutusjuhtude alla. Kokkuvõtete tegemine nihkub kategooriatesse alles siis, kui eesmärk ei ole tihendamine, vaid teksti kriitiline analüüs.
Otsustuspuu
Enne päringu seadistamist piisab kolmest küsimusest:
- Kas ülesanne nõuab mitut mõtlemissammu? Kui jah, siis vähemalt Keskmine (
medium). - Kas täpsus on kriitilise tähtsusega? Kui jah, siis Kõrge (
high) või kõrgem, pluss kontrollimine tööriistaga. - Kas kiirus on olulisem sügavusest? Kui jah, siis Kohene (
nonevõilow).
Kulud ja aeg: praktilised tegurid
Iga tase maksab tokeneid ja sekundeid. Mõtlemistokeneid arvestatakse väljundtokenitena ja need võivad ulatuda mõnest sajast kümnete tuhandeteni keerulise probleemi puhul; mida kõrgem tase, seda pikem on ooteaeg. ChatGPT-s tarbivad kõrgemad tasemed sinu plaanile omaseid kvooti; kui piirang on täis, võib ChatGPT jätkata teise saadaoleva mudeliga. Kompromiss on sümmeetriline: maksimumtaseme raiskamine lihtsale ülesandele tähendab asjata maksmist ja ootamist; keerulise probleemi lahendamine miinimumtasemel toodab keskpärase tulemuse, mille eest maksad hiljem parandustega.
Sinu kord
Treeni oma tunnetust. Klassifitseeri need kuus ülesannet enne parema veeru vaatamist ja korda harjutust oma nädala päringutega.
| Ülesanne | Oodatav seade |
|---|---|
| „Koosta järelkirje kliendile“ | Kiire |
| „Optimeeri see eelarve, austades neid nelja piirangut“ | Kõrge |
| „Tõlgi see lõik saksa keelde“ | Kiire |
| „Leia selles kolme punktiga argumendis loogiline viga“ | Keskmine kuni Kõrge |
| „Genereeri kümme nimeideed oma idufirma jaoks“ | Kiire |
| „Arvuta kümneaastase investeeringu sisemine tulumäär (IRR)“ | Kõrge, koos kontrollimisega |
Sind ootavad kaks sümmeetrilist viga: mõtlemise ületarbimine (aeglased vastused, kasvavad kulud) ja alatarbimine (keerukate probleemide lahendamine liiga kiiresti). Kolmas on salakavalam: seade ei muuda töövoogu keskel. Ühe vestluse raames langeta taset ümber sõnastamiseks ja tõsta seda analüüsimiseks.
Ametlikud allikad: Mõtlemismudelid (OpenAI API: soovitatud kasutus vastavalt pingutustasemele, mõtlemistokenite arveldamine) · GPT-6 ja teised mudelid ChatGPT-s (ChatGPT tasemed, piirangud ja üleminek teisele mudelile)
Peamised punktid
mediumon soovitatav lähtepunkt; langeta kiiruse jaoks, tõsta raskuse jaoks- Tõsta taset mitmeastmeliste probleemide, arvutuste, kriitilise täpsuse ja strateegia puhul
- Püsi kiire kirjutamise, tõlkimise, ümber sõnastamise, lihtsate küsimuste ja ideede genereerimise korral
- Kolm küsimust on piisavad: mitu sammu? kriitiline täpsus? kiiruse prioriteet?
- Kohanda taset iga päringu jaoks eraldi: see on liugur, mitte püsiv valik