ChatGPT ribotumai ir haliucinacijos
Šiame puslapyje
Ko ChatGPT negali daryti ir kodėl tai svarbu
Mokėjimas naudotis ChatGPT prasideda nuo supratimo, kur jis suklysta. Šis įrankis galingas, tačiau turi trūkumų, kurių vien patirtis neištaisys – turi išmokti juos apeiti. Ši pamoka, galima sakyti, yra svarbiausia visame kurse, nes ji atskiria vartotojus, kurie tikrina informaciją, nuo tų, kurie vieną dieną pasitikėdami platins klaidingą informaciją. „OpenAI“ tai aiškiai nurodo savo naudojimo sąlygose: atsakymas gali būti netikslus, jis neturėtų būti vienintelis jūsų tiesos šaltinis ar pakeisti profesionalų patarimą, o jūs esate atsakingi už jo tikslumo įvertinimą.
Haliucinacijos: kai modelis išgalvoja
Haliucinacija – tai atsakymas, kuris atrodo visiškai teisingas – įtikinama formuluočių ir nepriekaištinga struktūra, – tačiau faktiškai klaidingas. ChatGPT nemeluoja; jis sugeneruoja tikimiausią tęsinį pagal išmoktus dėsningumus, ir kartais tas tęsinys būna neteisingas. Kai jis „nežino“ ko nors, ne visada sustoja tai pasakyti; vietoj to gali sugeneruoti tikroviškai skambantį atsakymą.
„OpenAI“ išskiria dažniausiai pasitaikančias formas: neteisingi apibrėžimai, datos ar faktai; sugalvotos citatos, tyrimai ar nuorodos, priskirtos neegzistuojantiems šaltiniams, bei pernelyg įtikimi atsakymai į dviprasmiškus ar sudėtingus klausimus. Yra ir kita spąstai, kuriuos daugelis atranda sunkiai: ChatGPT negali patikimai nustatyti, ar tekstą parašė dirbtinis intelektas, ar jį parašė pats. Jo atsakymas į klausimą „Ar tu parašei šį rašinį?“ nieko neįrodo.
Gynyba remiasi keturiais įpročiais. Savarankiškai patikrinkite bet kokią svarbią informaciją: skaičius, datas, vardus, šaltinius. Leiskite tinkamiems įrankiams pagrįsti atsakymą: naudokite žiniatinklio paiešką naujienoms ir specifiniams faktams, duomenų analizę skaičiavimams, o gilųjį tyrimą – keliems šaltiniams palyginti. Paprašykite šaltinių ir juos atidarykite: nuoroda, kuri nepatvirtina teiginio, yra lygiavertė jos nebuvimui. Galiausiai, sudėtingais klausimais pakelkite samprotavimo lygį: rizikos visiškai nepanaikinsite, tačiau suteiksite modeliui laiko nuosekliai išdėstyti savo logiką.
Ko modelis negali žinoti
Modelio žinios baigiasi tam tikra data. Be žiniatinklio paieškos, viskas, kas įvyko po tos datos, jam yra nematoma, ir jis gali net nesuvokti, kad jam trūksta informacijos. Įjungus žiniatinklio paiešką, atsiranda kitas ribotumas: kai kurios svetainės lieka neprieinamos dėl techninių sutrikimų, mokamų prieigos sienų arba todėl, kad jos blokuoja robotus.
Aprėptis taip pat skiriasi priklausomai nuo temos. Gerai dokumentuotomis temomis atsakymai dažnai būna puikūs; nišinėmis ar retai nagrinėjamomis temomis kokybė gali staigiai kristi, ir joks tonas jūsų apie tai neįspės. „OpenAI“ taip pat atkreipia dėmesį į šališkumą: vienos perspektyvos pateikimą kaip absoliučią tiesą, niuansuotų problemų supaprastinimą arba mokslinio konsensuso ar visuomeninių debatų svorio iškraipymą. Jautriomis temomis būtinai pasitikrinkite informaciją kituose šaltiniuose.
Samprotavimo ribotumai
Daugiažingsniai skaičiavimai, atliekami „galvoje“ tiesiai atsakymo tekste, išlieka silpna vieta. Bet kokiam skaičiavimui, turinčiam įtakos sprendimui, paprašykite modelio naudoti duomenų analizę, kuri vykdo kodą, ir patikrinkite rezultatą specializuotu įrankiu. Labai ilgos samprotavimo grandinės kelia tą pačią riziką: siūlas nutrūksta, ir pakeliui atsiranda nenuoseklumų. Skaičiavimas yra dar vienas netikėtas trūkumas: raidžių, žodžių ar elementų skaičiavimas gali suklaidinti modelį, nors tai lengvai padarytų vaikas.
Praktiniai pokalbio ribotumai
Kiekvienas pokalbis turi konteksto langą – informacijos kiekį, kurį ChatGPT gali naudoti toje pokalbio eilutėje. Jūsų žinutės ir jo atsakymai užima vietą, todėl keli labai ilgi keitimaisi gali sunaudoti daugiau vietos nei daug trumpų: taigi nėra fiksuoto žinučių skaičiaus vienam pokalbiui. Šio lango dydis didėja priklausomai nuo jūsų plano. Kai jis pilnas, ChatGPT jums tai praneša („Konteksto langas pilnas“): galite peržiūrėti pokalbį, o tada iškart pradėti naują, pasirinktinai naudodami ChatGPT pateiktą santrauką. Toje santraukoje gali būti praleista sena instrukcija ar tiksli formulė: vėl pridėkite tai, kas svarbu.
Tas pats efektas taikomas ir ilgiems išvesties tekstams: jei liepiate modeliui rašyti dvidešimties puslapių dokumentą dalimis, tarp dalių gali atsirasti prieštaravimų. Pilna peržiūra nėra opcionali, o pažymėtus nenuoseklumus galima ištaisyti viena žinute.
Išbandykite patys
Patys išbandykite ribas. Paprašykite konkrečios prancūzų autoriaus citatos su šaltiniu, tada patys ją suraskite naudodami paieškos sistemą. Paklauskite apie labai naują įvykį be žiniatinklio paieškos, tada paklauskite dar kartą, įjungę paiešką. Leiskite modeliui atlikti penkių žingsnių skaičiavimą „galvoje“, tada naudodami duomenų analizę, ir perskaičiuokite rankiniu būdu. Galiausiai, paklauskite, kiek kartų raidė R pasikartoja žodyje „extraordinary“, tada suskaičiuokite patys. Šie pratimai ugdo intuityvų supratimą – patikimesnį nei bet kuri išmokta taisyklė – kada reikia tikrinti informaciją.
Jūsų laukia du spąstai. Pirmasis – aklas pasitikėjimas: kuo didesnė rizika, tuo griežtesnė turi būti jūsų kontrolė. Antrasis – priešinga kraštutinė nuostata: kaltinti įrankį, kai jūsų užklausa buvo neaiški. Prieš darydami išvadą, kad įvyko klaida, performuluokite savo prašymą.
Oficialūs šaltiniai: Ar ChatGPT sako tiesą? („OpenAI“ pagalbos centras: haliucinacijos, įrankiai, žinių riba, šališkumas, DI teksto aptikimas) · ChatGPT nemokamo lygio DUK (pilnas pokalbis) · Europos naudojimo sąlygos (atsakymų tikslumas) · Duomenų analizė su ChatGPT (skaičiavimai vykdomi Python kalba)
Svarbiausi punktai
- Haliucinacijos kyla iš ChatGPT veikimo principo: jis generuoja tikrovišką tekstą, o nebūtinai teisingą
- Visada tikrinkite svarbius faktus, citatas, šaltinius ir skaičius; ChatGPT negali patikimai aptikti DI parašyto teksto
- Žiniatinklio paieška, duomenų analizė ir gilusis tyrimas sumažina riziką, bet jos visiškai nepanaikina
- Pokalbiai turi ribotą konteksto langą: kai jis pilnas, pradėkite naują eilutę su esmine informacija
- Šių ribotumų žinojimas nemažina ChatGPT naudingumo – jis daro jus efektyvesnius