ChatGPTi piirangud ja hallutsinatsioonid
Sellel lehel
Mida ChatGPT ei oska teha ja miks see loeb
ChatGPTi kasutamise õppimine algab sellest, kus see ebaõnnestub. Tööriist on võimas, kuid sellel on vigu, mida pelgalt kogemus ei paranda – nendega tuleb osata ümber käia. See tund on kogu kursuse üks kriitilisemaid, sest see eraldab kasutajaid, kes infot kontrollivad, neist, kes ühel päeval kindlalt valeinfot levitavad. OpenAI sõnastab seda oma kasutustingimustes selgelt: vastus võib olla ebatäpne, see ei tohi olla sinu ainus tõeallikas ega asendada professionaalset nõuannet ning sina vastutad selle täpsuse hindamise eest.
Hallutsinatsioonid: kui mudel leiutab fakte
Hallutsinatsioon on vastus, mis näib täiuslikult õige – enesekindel sõnastus ja veatu struktuur –, kuid on faktiliselt vale. ChatGPT ei valeta; see genereerib õpitud mustrite põhjal kõige tõenäolisema jätkamise ja see jätkamine on mõnikord ekslik. Kui see midagi ei “tea”, ei peatu see alati, et seda öelda; selle asemel võib see genereerida usutavalt kõlava vastuse.
OpenAI toob välja levinumad vormid: valed definitsioonid, kuupäevad või faktid; väljamõeldud tsitaadid, uuringud või viited olematutele allikatele ning liiga enesekindlad vastused mitmetimõistetavatele või keerukatele küsimustele. On veel üks lõks, mille paljud valusalt avastavad: ChatGPT ei suuda usaldusväärselt öelda, kas teksti on kirjutanud tehisintellekt või kas see kirjutas teksti ise. Selle vastus küsimusele “Kas sa kirjutasid selle essee?” ei tõesta midagi.
Kaitse taandub neljale harjumusele. Kontrolli sõltumatult kogu kriitilist infot: numbreid, kuupäevi, nimesid, allikaid. Lase õigetel tööriistadel vastust põhjendada: kasuta veebiotsingut aktuaalsete sündmuste ja konkreetsete faktide jaoks, andmeanalüüsi arvutuste tegemiseks ning süvaanalüüsi mitme allika ristkontrollimiseks. Küsi allikaid ja ava need: link, mis väidet ei toeta, on sama hea kui allika puudumine. Lõpuks tõsta keerukate küsimuste puhul arutluse taset: riski sa ei kõrvalda, kuid annad mudelile aega oma loogikat samm-sammult lahti mõtestada.
Mida mudel teada ei saa
Mudeli teadmised peatuvad kindlal kuupäeval. Ilma veebiotsinguta on kõik pärast seda kuupäeva toimunu sellele nähtamatu ja see ei pruugi isegi mõista, et info puudub. Kui veebiotsing on lubatud, ilmneb teine piirang: mõned saidid jäävad tehniliste probleemide, maksumüüride või botiblokeeringute tõttu kättesaamatuks.
Hõlmatus varieerub ka teemade lõikes. Hästi dokumenteeritud teemade puhul on vastused sageli suurepärased; kitsaste või harva käsitletud teemade puhul võib kvaliteet järsult langeda ja toon ei hoiata sind millegi eest. OpenAI juhib tähelepanu ka kallutatusele: ühe vaatenurga esitamine absoluutse tõena, nüansirikaste küsimuste liigne lihtsustamine või teadusliku konsensuse ja ühiskondliku debati kaalu väär kajastamine. Tundlikel teemadel tee ristkontroll teiste allikatega.
Arutlusvõime piirangud
Mitmeastmelised arvutused jäävad nõrgaks kohaks, kui need tehakse vastuse tekstis “peast”. Iga arvutuse puhul, mis mõjutab otsust, palu mudelil kasutada andmeanalüüsi, mis käivitab koodi, ja kontrolli tulemust spetsiaalse tööriistaga üle. Väga pikad arutlusahelad kannavad sama riski: niit katkeb ja vahele hiilivad vastuolud. Lugemine on veel üks ootamatu viga: tähtede, sõnade või esemete kokkulugemine võib mudelit segadusse ajada, kuigi laps saaks sellega hakkama.
Vestluse praktilised piirangud
Igal vestlusel on kontekstiaken – infohulk, mida ChatGPT selles lõimes kasutada saab. Sinu sõnumid ja selle vastused võtavad mõlemad ruumi ning mõned väga pikad vahetused võivad kulutada rohkem kui palju lühikesi: seega pole vestluse kohta kindlat sõnumite arvu. Selle akna suurus kasvab koos sinu paketiga. Kui see on täis, annab ChatGPT sellest teada (“Context window full”): saad lõime üle vaadata ja seejärel kohe uue vestluse alustada, soovi korral ChatGPTi pakutud kokkuvõttega. See kokkuvõte võib jätta välja vana juhise või täpse sõnastuse: lisa oluline info uuesti juurde.
Same efekt kehtib pikkade väljundite puhul: kui lased mudelil kirjutada kahekümneleheküljelist dokumenti osade kaupa, võivad osade vahel tekkida vastuolud. Täielik ülevaatus ei ole valikuline ja märgitud vastuolud saab parandada ühe sõnumiga.
Proovi ise järele
Testi piiranguid ise. Küsi konkreetset tsitaati prantsuse autorilt koos allikaga ja otsi see ise otsingumootori abil üles. Küsi väga värske sündmuse kohta ilma veebiotsinguta ja seejärel uuesti, kui otsing on lubatud. Lase mudelil teha viieastmeline arvutus “peast”, seejärel andmeanalüüsi teel ja tee see ise käsitsi uuesti. Lõpuks küsi, mitu korda esineb täht R sõnas “extraordinary”, ja loe ise üle. Need harjutused loovad intuitiivse tunde – usaldusväärsema kui ükski päheõpitud reegel – sellest, millal on vaja kontrollida.
Ees ootavad kaks lõksu. Esiteks pime usaldus: mida suuremad on panused, seda rangemad peavad olema sinu kontrollid. Teiseks vastupidine äärmus: süüdistada tööriista, kui sinu sisend oli ebamäärane. Enne vea järeldamist sõnasta oma päring ümber.
Ametlikud allikad: Does ChatGPT tell the truth? (OpenAI abikeskus: hallutsinatsioonid, tööriistad, teadmiste lõppkuupäev, kallutatus, AI-teksti tuvastamine) · ChatGPT Free Tier FAQ (täielik vestlus) · Europe Terms of Use (vastuse täpsus) · Data analysis with ChatGPT (Pythonis tehtavad arvutused)
Peamised punktid
- Hallutsinatsioonid tulenevad ChatGPTi toimimisviisist: see genereerib usutavat teksti, mitte tingimata tõest teksti
- Kontrolli alati kriitilisi fakte, tsitaate, allikaid ja numbreid; ChatGPT ei suuda usaldusväärselt tuvastada tehisintellekti kirjutatud teksti
- Veebiotsing, andmeanalüüs ja süvaanalüüs vähendavad riski, kuid ei kõrvalda seda
- Vestlustel on piiratud kontekstiaken: kui see on täis, alusta uut lõiget olulisemaga
- Nende piirangute tundmine ei vähenda ChatGPTi kasulikkust – see teeb sinust tõhusama