Limiti e allucinazioni di ChatGPT
In questa pagina
Cosa ChatGPT non sa fare e perché è importante
Saper usare ChatGPT inizia col sapere dove fallisce. Lo strumento è potente, ma ha difetti che la sola esperienza non risolve: devi imparare a aggirarli. Questa lezione è forse la più cruciale del corso, perché separa chi verifica le informazioni da chi, un giorno, diffonderà disinformazione con sicurezza. OpenAI lo dichiara chiaramente nelle sue Condizioni d’uso: una risposta può essere inaccurata, non deve essere la tua unica fonte di verità né sostituire un parere professionale, e spetta a te valutarne l’accuratezza.
Allucinazioni: quando il modello inventa
Un’allucinazione è una risposta che sembra perfettamente corretta—frasi sicure e struttura impeccabile—ma è fattualmente errata. ChatGPT non sta mentendo; genera la continuazione più probabile basandosi sui pattern appresi, e talvolta questa continuazione è sbagliata. Quando non “sa” qualcosa, non sempre si ferma a dirlo: può invece generare una risposta che suona plausibile.
OpenAI descrive le forme più comuni: definizioni, date o fatti errati; citazioni, studi o riferimenti inventati attribuiti a fonti inesistenti; e risposte troppo sicure a domande ambigue o complesse. C’è un’altra trappola in cui molti cadono loro malgrado: ChatGPT non riesce ad affermare con affidabilità se un testo sia stato scritto da un’IA o se lo abbia scritto lui stesso. La sua risposta alla domanda «Hai scritto tu questo saggio?» non prova nulla.
La difesa si riduce a quattro abitudini. Verifica indipendentemente qualsiasi informazione critica: numeri, date, nomi, fonti. Lascia che siano gli strumenti giusti a fondare la risposta: usa la ricerca web per eventi attuali e fatti specifici, l’analisi dati per i calcoli e la ricerca approfondita per incrociare più fonti. Chiedi le fonti, poi aprile: un link che non supporta l’affermazione vale quanto nessuna fonte. Infine, alza il livello di ragionamento sulle domande delicate: non eliminerai il rischio, ma darai al modello il tempo di esporre la sua logica.
Cosa il modello non può sapere
La conoscenza del modello si ferma a una data di cutoff. Senza ricerca web, tutto ciò che è accaduto dopo quella data è invisibile per lui, e potrebbe nemmeno rendersi conto di mancare di informazioni. Con la ricerca web attivata, emerge un altro limite: alcuni siti restano inaccessibili per problemi tecnici, paywall o perché bloccano i bot.
La copertura varia anche per argomento. Su temi ben documentati, le risposte sono spesso eccellenti; su argomenti di nicchia o raramente trattati, la qualità può crollare drasticamente, e nulla nel tono te lo segnalerà. OpenAI segnala anche i bias: presentare una singola prospettiva come verità assoluta, semplificare eccessivamente questioni sfumate o travisare il peso del consenso scientifico o del dibattito sociale. Su temi sensibili, incrocia sempre con altre fonti.
Limiti di ragionamento
I calcoli multi-step restano un punto debole se eseguiti “a mente” nel testo della risposta. Per qualsiasi calcolo che influisca su una decisione, chiedi al modello di usare l’analisi dati, che esegue codice, e verifica con uno strumento dedicato. Anche catene di ragionamento molto lunghe comportano lo stesso rischio: il filo si perde e le incongruenze si insinuano strada facendo. Il conteggio è un altro difetto controintuitivo: tallyare lettere, parole o oggetti può mandare in tilt il modello, anche se un bambino saprebbe farlo.
Limiti pratici di una conversazione
Ogni conversazione ha una finestra di contesto: la quantità di informazioni che ChatGPT può usare in quel thread. I tuoi messaggi e le sue risposte occupano spazio, e pochi scambi molto lunghi possono consumare più risorse di molti brevi: non esiste quindi un numero fisso di messaggi per conversazione. La dimensione di questa finestra aumenta con il tuo piano. Quando è piena, ChatGPT te lo dice (“Context window full”): puoi ancora rivedere il thread, poi avviare immediatamente una nuova conversazione, opzionalmente con un riassunto fornito da ChatGPT. Quel riassunto potrebbe omettere una vecchia istruzione o una formulazione esatta: riaggancia ciò che conta.
Lo stesso effetto vale per output lunghi: se fai scrivere al modello una sezione alla volta di un documento di venti pagine, possono apparire contraddizioni tra le parti. Una revisione completa non è opzionale, e le incongruenze segnalate possono essere corrette in un unico messaggio.
Mettiti alla prova
Testa tu stesso i limiti. Chiedi una citazione specifica di un autore francese, con la sua fonte, poi cercala tu stesso usando un motore di ricerca. Chiedi informazioni su un evento molto recente senza ricerca web, poi ripeti con la ricerca attivata. Fai eseguire al modello un calcolo in cinque passaggi “a mente”, poi tramite analisi dati, e rifallo a mano. Infine, chiedi quante volte appare la lettera R in “extraordinary”, poi conta tu stesso. Questi esercizi costruiscono un senso intuitivo—più affidabile di qualsiasi regola memorizzata—su quando devi verificare.
Ti aspettano due insidie. La prima è la fiducia cieca: più alta è la posta in gioco, più stretti devono essere i tuoi controlli. La seconda è l’estremo opposto: incolpare lo strumento quando il tuo prompt era vago. Prima di concludere che c’è un errore, riformula la tua richiesta.
Fonti ufficiali: Does ChatGPT tell the truth? (Centro Assistenza OpenAI: allucinazioni, strumenti, data di cutoff, bias, rilevamento testi IA) · ChatGPT Free Tier FAQ (conversazione completa) · Europe Terms of Use (accuratezza delle risposte) · Data analysis with ChatGPT (calcoli eseguiti in Python)
Punti chiave
- Le allucinazioni derivano dal funzionamento di ChatGPT: genera testo plausibile, non necessariamente vero
- Verifica sempre fatti critici, citazioni, fonti e numeri; ChatGPT non può rilevare con affidabilità i testi scritti da IA
- Ricerca web, analisi dati e ricerca approfondita riducono il rischio ma non lo eliminano
- Le conversazioni hanno una finestra di contesto limitata: quando è piena, avvia un nuovo thread con l’essenziale
- Conoscere questi limiti non riduce l’utilità di ChatGPT: ti rende più efficace