Omejitve in halucinacije ChatGPT
Na tej strani
Kaj ChatGPT ne zmore in zakaj je to pomembno
Če želiš ChatGPT pravilno uporabljati, moraš najprej vedeti, kje odpove. Orodje je zmogljivo, a ima napake, ki jih sama izkušnja ne bo odpravila – obiti jih moraš. Ta lekcija je verjetno najpomembnejša v celotnem tečaju, saj ločuje uporabnike, ki preverjajo informacije, od tistih, ki bodo nekega dne samozavestno širili napačne podatke. OpenAI to jasno navaja v svojih pogojih uporabe: odgovor je lahko netočen, ne sme biti tvoje edino merilo resnice niti nadomestilo strokovnega nasveta, ti pa si odgovoren za oceno njegove točnosti.
Halucinacije: ko model izmišlja
Halucinacija je odgovor, ki videti popolnoma pravilen – samozavestna formulacija in brezhibna struktura –, a je dejansko napačen. ChatGPT ne laže; ustvari najbolj verjetno nadaljevanje na podlagi naučenih vzorcev in to nadaljevanje je včasih napačno. Ko nečesa ne “ve”, se ne ustavi vedno, da bi to povedal; namesto tega lahko ustvari odgovor, ki zveni prepričljivo.
OpenAI opisuje najpogostejše oblike: napačne definicije, datume ali dejstva; izmišljene citate, študije ali reference, pripisane neobstoječim virom; in preveč samozavestne odgovore na dvoumna ali kompleksna vprašanja. Obstaja še ena past, ki jo mnogi odkrijejo na težek način: ChatGPT ne more zanesljivo ugotoviti, ali je besedilo napisal AI ali pa ga je napisal sam. Njegov odgovor na vprašanje “Si ti napisal ta esej?” ne dokazuje ničesar.
Obramba temelji na štirih navadah. Samostojno preveri vse ključne informacije: številke, datume, imena, vire. Odgovor utemelji s pravimi orodji: za aktualne dogodke in specifična dejstva uporabi spletno iskanje, za izračune analizo podatkov, za preverjanje iz več virov pa poglobljeno raziskovanje. Zahtevaj vire in jih nato odpri: povezava, ki ne podpira trditve, je enako dobra kot noben vir. Nazadnje, pri občutljivih vprašanjih dvigni raven sklepanja: tveganja ne boš popolnoma odpravil, modelu pa daš čas, da skozi svojo logiko.
Kaj model ne more vedeti
Znanje modela se konča z datumom odreza. Brez spletnega iskanja je zanj vse, kar se je zgodilo po tem datumu, nevidno, morda se niti ne zaveda, da mu manjkajo informacije. Z vklopljenim spletnim iskanjem se pojavi druga omejitev: nekatera spletna mesta ostanejo nedostopna zaradi tehničnih težav, plačilnih zidov ali ker blokirajo bote.
Pokritost se razlikuje tudi glede na temo. Pri dobro dokumentiranih temah so odgovori pogosto odlični; pri nišnih ali redko obravnavanih temah lahko kakovost močno upade, ton pa te na to ne bo opozoril. OpenAI opozarja tudi na pristranskosti: predstavljanje ene same perspektive kot absolutne resnice, poenostavljanje odtenkov ali napačno prikazovanje teže znanstvenega soglasja ali družbene razprave. Pri občutljivih temah se prekrižaj z drugimi viri.
Omejitve sklepanja
Večstopenjski izračuni ostajajo šibka točka, če jih model opravi “v glavi” znotraj besedila odgovora. Za vsak izračun, ki vpliva na odločitev, zahtevaj, da model uporabi analizo podatkov, ki izvaja kodo, in rezultat preveri s specializiranim orodjem. Zelo dolge verige sklepanja nosijo enako tveganje: nit se izgubi in sčasoma se pojavijo neskladja. Štetje je še ena protislovna napaka: štetje črk, besed ali predmetov lahko modelu povzroči težave, čeprav bi to zmogel že otrok.
Praktične omejitve pogovora
Vsak pogovor ima okno konteksta – količino informacij, ki jih ChatGPT lahko uporabi v tej nitki. Tvoja sporočila in njegovi odgovori zavzemajo prostor, nekaj zelo dolgih izmenjav pa lahko porabi več prostora kot mnogo kratkih: zato ni določenega števila sporočil na pogovor. Velikost tega okna se povečuje z vašim načrtom. Ko je polno, ti ChatGPT to sporoči (“Context window full”): nit lahko pregledaš, nato pa takoj začneš nov pogovor, po potrebi s povzetkom, ki ga zagotovi ChatGPT. Ta povzetek lahko izpusti staro navodilo ali točno formulacijo: ponovno priloži tisto, kar je pomembno.
Enak učinek velja za dolge izpise: če modelu naročiš, naj napiše dvajsetstranski dokument del po del, se lahko med deli pojavijo protislovja. Celovit pregled ni izbiren, označena neskladja pa lahko odpraviš z enim samim sporočilom.
Preizkusi sam
Sam preizkusi omejitve. Zahtevaj specifičen citat francoskega avtorja z virom, nato pa ga sam poišči z iskalnikom. Vprašaj za zelo nedaven dogodek brez spletnega iskanja, nato pa ponovno z vklopljenim iskanjem. Naj model opravi petstopenjski izračun “v glavi”, nato prek analize podatkov in ga nazadnje ponovno izračunaj ročno. Nazadnje vprašaj, kolikokrat se črka R pojavi v besedi “extraordinary”, nato pa preštej sam. Te vaje gradijo intuitiven občutek – bolj zanesljiv od katerega koli naučenega pravila – o tem, kdaj moraš preveriti podatke.
Čakata te dve pasti. Prva je slepo zaupanje: višji kot so stave, strožji morajo biti tvoji kontrolni mehanizmi. Druga je nasprotna skrajnost: obtoževanje orodja, ko je bil tvoj poziv nejasen. Preden sklepaš, da gre za napako, preoblikuj svojo zahtevo.
Uradni viri: Does ChatGPT tell the truth? (središče za pomoč OpenAI: halucinacije, orodja, datum odreza, pristranskosti, zaznavanje besedil AI) · ChatGPT Free Tier FAQ (celoten pogovor) · Europe Terms of Use (točnost odgovorov) · Data analysis with ChatGPT (izračuni, izvršeni v Pythonu)
Ključne ugotovitve
- Halucinacije izhajajo iz načina delovanja ChatGPT: ustvarja verjetno besedilo, ne nujno resničnega
- Vedno preveri ključna dejstva, citate, vire in številke; ChatGPT ne more zanesljivo zaznati besedil, ki jih je napisal AI
- Spletno iskanje, analiza podatkov in poglobljeno raziskovanje zmanjšajo tveganje, a ga ne odpravijo popolnoma
- Pogovori imajo omejeno okno konteksta: ko je polno, začni novo nit z bistvenimi informacijami
- Poznavanje teh omejitev ne zmanjša uporabnosti ChatGPT – naredi te bolj učinkovitega