Preskoči na glavni sadržaj
Hrvatski— Odaberite jezik
Izbornik

Ograničenja i halucinacije ChatGPT-a

Lekcija 16 od 18 Ažurirano 5. studenoga 2026. Početnik
Na ovoj stranici
  1. Što ChatGPT ne može učiniti i zašto je to važno
  2. Halucinacije: kada model izmišlja
  3. Što model ne može znati
  4. Ograničenja rezoniranja
  5. Praktična ograničenja razgovora
  6. Isprobaj sam/a
  7. Ključne točke

Što ChatGPT ne može učiniti i zašto je to važno

Ključ uspješnog korištenja ChatGPT-a leži u poznavanju njegovih slabih točaka. Alat je moćan, ali ima mane koje samo iskustvo neće popraviti – moraš naučiti kako ih zaobići. Ova je lekcija vjerojatno najkritičnija u cijelom tečaju jer razdvaja korisnike koji provjeravaju informacije od onih koji će jednog dana samouvjereno širiti dezinformacije. OpenAI to jasno navodi u svojim Uvjetima korištenja: odgovor može biti netočan, ne smije biti tvoj jedini izvor istine niti zamjena za stručni savjet, a ti si odgovoran/na za procjenu njegove točnosti.

Halucinacije: kada model izmišlja

Halucinacija je odgovor koji izgleda savršeno točno – samouvjeren ton i besprijekorna struktura – ali je činjenično pogrešan. ChatGPT ne laže; on generira najvjerojatniji nastavak teksta na temelju naučenih obrazaca, a taj nastavak ponekad bude netočan. Kada nešto ne “zna”, ne staje uvijek da to prizna; umjesto toga može generirati odgovor koji zvuči uvjerljivo.

OpenAI opisuje najčešće oblike: netočne definicije, datume ili činjenice; izmišljene citate, studije ili reference pripisane nepostojećim izvorima; te previše samouvjerene odgovore na dvosmislena ili složena pitanja. Postoji još jedna zamka koju mnogi otkriju na teži način: ChatGPT ne može pouzdano utvrditi je li tekst napisala umjetna inteligencija ili ga je napisao on sam. Njegov odgovor na pitanje “Jesi li ti napisao/la ovaj esej?” ne dokazuje ništa.

Obrana se svodi na četiri navike. Samostalno provjeri sve ključne informacije: brojeve, datume, imena, izvore. Pusti prave alate da utemelje odgovor: koristi web pretragu za aktualne događaje i specifične činjenice, analizu podataka za izračune, a dubinsko istraživanje za unakrsnu provjeru više izvora. Zatraži izvore, a zatim ih otvori: poveznica koja ne podupire tvrdnju vrijedi isto što i nepostojanje izvora. Naposljetku, podigni razinu rezoniranja kod osjetljivih pitanja: time nećeš eliminirati rizik, ali daješ modelu vremena da prođe kroz svoju logiku.

Zamke i kako ih izbjeći Dva stupca. Oblici halucinacija koje opisuje OpenAI: lažne činjenice, datumi ili definicije; izmišljeni citati i reference; prevelika samouvjerenost kod dvosmislenih pitanja; nepouzdana detekcija AI teksta. Obrana: samostalno provjeri, pusti web pretragu i analizu podataka da obave posao, otvori izvore, podigni razinu rezoniranja. HALUCINACIJE Zamke i kako ih izbjeći Što se događa Činjenice Lažni datumi, definicije, brojevi Reference Izmišljeni citati i studije Samouvjerenost Prevelika samouvjerenost kod dvosmislenog pitanja Detekcija Ne može utvrditi je li tekst napisala AI Što te štiti Provjeri Brojevi, imena, datumi, izvori Alati Web pretraga, analiza podataka Izvori Otvori ih, nemoj ih samo čitati Rezoniranje Viša razina ako je pitanje osjetljivo Odgovor ne smije biti tvoj jedini izvor istine: OpenAI nas na to podsjeća.
Na temelju članka iz OpenAI Help Centra "Does ChatGPT tell the truth?" (studeni 2026.) i OpenAI-jevih europskih Uvjeta korištenja.

Što model ne može znati

Znanje modela završava na određenom datumu prekida (cutoff date). Bez web pretrage, sve što se dogodilo nakon tog datuma za njega je nevidljivo, a on možda neće ni shvatiti da mu nedostaju informacije. Uz uključenu web pretragu pojavljuje se drugo ograničenje: neke stranice ostaju nedostupne zbog tehničkih problema, paywalla ili zato što blokiraju botove.

Obuhvat također varira ovisno o temi. Kod dobro dokumentiranih predmeta odgovori su često izvrsni; kod nišnih ili rijetko obrađivanih tema kvaliteta može naglo pasti, a ton odgovora te na to neće upozoriti. OpenAI također upozorava na pristranosti: prezentiranje jedne perspektive kao apsolutne istine, pojednostavljivanje nijansiranih pitanja ili pogrešno prikazivanje težine znanstvenog konsenzusa ili društvene rasprave. Kod osjetljivih tema uvijek se posluži unakrsnom provjerom s drugim izvorima.

Ograničenja rezoniranja

Višekoračni izračuni ostaju slaba točka kada se rade “u glavi” unutar tekstualnog odgovora. Za svaki izračun koji utječe na odluku zatraži od modela da koristi analizu podataka, koja izvršava kod, i unakrsno provjeri rezultat namjenskim alatom. Vrlo dugi lanci rezoniranja nose isti rizik: nit se gubi, a nedosljednosti se uvlače usput. Brojanje je još jedan kontraintuitivan propust: zbrajanje slova, riječi ili stavki može zbuniti model, iako bi to dijete moglo učiniti.

Praktična ograničenja razgovora

Svaki razgovor ima kontekstni prozor – količinu informacija koje ChatGPT može koristiti u tom nizu. Tvoje poruke i njegovi odgovori zauzimaju prostor, pa nekoliko vrlo dugih razmjena može potrošiti više prostora od mnogih kratkih: stoga ne postoji fiksni broj poruka po razgovoru. Veličina tog prozora raste s tvojim planom pretplate. Kada se ispuni, ChatGPT će ti javiti (“Context window full”): možeš pregledati niz, a zatim odmah započeti novi razgovor, opcionalno sa sažetkom koji pruža ChatGPT. To sažetak može izostaviti staru uputu ili točno formuliranje: ponovno priloži ono što je bitno.

Isti se učinak odnosi na duge izlaze: ako od modela tražiš da napiše dokument od dvadeset stranica dio po dio, mogu se pojaviti kontradikcije između dijelova. Potpuna revizija nije opcionalna, a označene nedosljednosti možeš ispraviti u jednoj poruci.

Isprobaj sam/a

Testiraj granice sam/a. Zatraži specifičan citat francuskog autora s izvorom, a zatim ga samostalno potraži pomoću tražilice. Pitaj za vrlo nedavni događaj bez web pretrage, a zatim ponovi pitanje s uključenom pretragom. Neka model napravi petokoračni izračun “u glavi”, zatim putem analize podataka, i ponovi ga ručno. Naposljetku, pitaj koliko se puta slovo R pojavljuje u riječi “extraordinary”, a zatim sam/a prebroji. Ove vježbe grade intuitivan osjećaj – pouzdaniji od bilo kojeg napamet naučenog pravila – o tome kada moraš provjeriti informacije.

Dvije zamke te čekaju. Prva je slijepo povjerenje: što su ulozi veći, to kontrole moraju biti strože. Druga je suprotan ekstrem: okrivljavanje alata kada je tvoj prompt bio nejasan. Prije nego zaključiš da postoji greška, preformuliraj svoj zahtjev.

Službeni izvori: Does ChatGPT tell the truth? (OpenAI Help Center: halucinacije, alati, datum prekida, pristranosti, detekcija AI teksta) · ChatGPT Free Tier FAQ (cijeli razgovor) · Europe Terms of Use (točnost odgovora) · Data analysis with ChatGPT (izračuni izvršeni u Pythonu)

Ključne točke

  • Halucinacije proizlaze iz načina na koji ChatGPT radi: on generira uvjerljiv tekst, a ne nužno istinit tekst
  • Uvijek provjeri ključne činjenice, citate, izvore i brojeve; ChatGPT ne može pouzdano detektirati tekst napisan umjetnom inteligencijom
  • Web pretraga, analiza podataka i dubinsko istraživanje smanjuju rizik, ali ga ne eliminiraju u potpunosti
  • Razgovori imaju ograničen kontekstni prozor: kada se ispuni, započni novi niz s bitnim informacijama
  • Poznavanje ovih ograničenja ne umanjuje korisnost ChatGPT-a – čini te učinkovitijim/korisnijim