De beperkingen en hallucinaties van ChatGPT
Op deze pagina
Wat ChatGPT niet kan, en waarom dat belangrijk is
Weten hoe u ChatGPT moet gebruiken, begint met weten waar het faalt. De tool is krachtig, maar heeft gebreken die ervaring alleen niet oplost; u moet er omheen werken. Deze les is wellicht de belangrijkste van de cursus, omdat deze het onderscheid maakt tussen gebruikers die informatie verifiëren en zij die op een dag vol vertrouwen desinformatie zullen verspreiden. OpenAI stelt dit duidelijk in zijn Gebruiksvoorwaarden: een antwoord kan onnauwkeurig zijn, het mag niet uw enige bron van waarheid zijn of professioneel advies vervangen, en u bent verantwoordelijk voor het beoordelen van de juistheid ervan.
Hallucinaties: wanneer het model dingen verzint
Een hallucinatie is een antwoord dat er perfect correct uitziet—zelfverzekerde formulering en een vlekkeloze structuur—maar feitelijk onjuist is. ChatGPT liegt niet; het genereert de meest waarschijnlijke voortzetting op basis van geleerde patronen, en die voortzetting is soms onjuist. Wanneer het iets niet “weet”, stopt het niet altijd om dat te zeggen; het kan in plaats daarvan een plausibel klinkend antwoord genereren.
OpenAI beschrijft de meest voorkomende vormen: onjuiste definities, data of feiten; verzonnen citaten, studies of referenties toegeschreven aan niet-bestaande bronnen; en te zelfverzekerde antwoorden op ambiguë of complexe vragen. Er is nog een valkuil die velen op de harde manier ontdekken: ChatGPT kan niet betrouwbaar vaststellen of een tekst door een AI is geschreven, of dat het de tekst zelf heeft geschreven. Het antwoord op “Heb jij dit essay geschreven?” bewijst niets.
De verdediging komt neer op vier gewoonten. Verifieer kritieke informatie onafhankelijk: cijfers, data, namen, bronnen. Laat de juiste tools het antwoord onderbouwen: gebruik webzoekopdrachten voor actuele gebeurtenissen en specifieke feiten, data-analyse voor berekeningen, en diepgaand onderzoek om meerdere bronnen te cross-checken. Vraag om bronnen en open ze vervolgens: een link die de bewering niet ondersteunt, is even goed als geen enkele bron. Tot slot, verhoog het niveau van redeneren bij lastige vragen: u elimineert het risico niet, maar u geeft het model de tijd om zijn logica stap voor stap uit te werken.
Wat het model niet kan weten
De kennis van het model stopt bij een cutoff-datum. Zonder webzoekopdracht is alles wat na die datum is gebeurd onzichtbaar voor het model, en het realiseert zich mogelijk niet eens dat er informatie ontbreekt. Met ingeschakelde webzoekopdracht doet zich een andere limiet voor: sommige sites blijven ontoegankelijk vanwege technische problemen, paywalls, of omdat ze bots blokkeren.
De dekking varieert ook per onderwerp. Bij goed gedocumenteerde onderwerpen zijn de antwoorden vaak uitstekend; bij niche-onderwerpen of onderwerpen waar zelden over wordt geschreven, kan de kwaliteit sterk dalen, en niets in de toon zal u waarschuwen. OpenAI wijst ook op bias: het presenteren van één perspectief als absolute waarheid, het te sterk vereenvoudigen van genuanceerde kwesties, of het verkeerd voorstellen van het gewicht van wetenschappelijke consensus of maatschappelijk debat. Cross-check bij gevoelige onderwerpen met andere bronnen.
Beperkingen in redeneren
Berekeningen in meerdere stappen blijven een zwak punt wanneer ze “in het hoofd” binnen de responstekst worden uitgevoerd. Voor elke berekening die van invloed is op een beslissing, vraagt u het model om data-analyse te gebruiken, die code uitvoert, en cross-checkt u met een gespecialiseerde tool. Zeer lange redeneerketens dragen hetzelfde risico: de draad raakt kwijt en inconsistenties sluipen er gaandeweg in. Tellend werk is een ander contra-intuïtief gebrek: het tellen van letters, woorden of items kan het model op het verkeerde been zetten, hoewel een kind dit zou kunnen.
Praktische beperkingen van een gesprek
Elk gesprek heeft een contextvenster—de hoeveelheid informatie die ChatGPT in die thread kan gebruiken. Uw berichten en de antwoorden ervan nemen beide ruimte in, en een paar zeer lange uitwisselingen kunnen meer verbruiken dan veel korte: er is dus geen vast aantal berichten per gesprek. De grootte van dit venster neemt toe met uw abonnement. Wanneer het vol is, vertelt ChatGPT u dat (“Context window full”): u kunt de thread nog steeds bekijken en vervolgens direct een nieuw gesprek starten, optioneel met een samenvatting die door ChatGPT is verstrekt. Die samenvatting kan een oude instructie of exacte formulering laten vallen: voeg opnieuw toe wat belangrijk is.
Hetzelfde effect geldt voor lange outputs: als u het model sectie voor sectie een document van twintig pagina’s laat schrijven, kunnen er tegenstrijdigheden tussen de delen ontstaan. Een volledige review is niet optioneel, en gemarkeerde inconsistenties kunnen in één bericht worden opgelost.
Probeer het zelf
Test de limieten zelf. Vraag om een specifiek citaat van een Franse auteur, met de bron, en zoek het vervolgens zelf op via een zoekmachine. Vraag naar een zeer recente gebeurtenis zonder webzoekopdracht, en vraag het daarna nogmaals met ingeschakelde zoekfunctie. Laat het model een berekening in vijf stappen “in zijn hoofd” doen, vervolgens via data-analyse, en doe het daarna handmatig na. Vraag tot slot hoe vaak de letter R voorkomt in “extraordinary”, en tel het vervolgens zelf. Deze oefeningen bouwen een intuïtief gevoel op—betrouwbaarder dan welke onthouden regel dan ook—van wanneer u moet verifiëren.
Twee valkuilen wachten u. Ten eerste blind vertrouwen: hoe hoger de inzet, hoe strenger uw controles moeten zijn. Ten tweede het tegenovergestelde uiterste: de tool de schuld geven wanneer uw prompt vaag was. Voordat u concludeert dat er een fout is, herformuleert u uw verzoek.
Officiële bronnen: Does ChatGPT tell the truth? (OpenAI Help Center: hallucinaties, tools, cutoff-datum, bias, detectie van AI-tekst) · ChatGPT Free Tier FAQ (volledig gesprek) · Europe Terms of Use (nauwkeurigheid van antwoorden) · Data analysis with ChatGPT (berekeningen uitgevoerd in Python)
Belangrijkste punten
- Hallucinaties komen voort uit de werking van ChatGPT: het genereert plausibele tekst, niet noodzakelijk ware tekst
- Verifieer altijd kritieke feiten, citaten, bronnen en cijfers; ChatGPT kan niet betrouwbaar detecteren of tekst door een AI is geschreven
- Webzoekopdrachten, data-analyse en diepgaand onderzoek verminderen het risico, maar elimineren het niet
- Gesprekken hebben een beperkt contextvenster: wanneer dit vol is, start u een nieuwe thread met de essentie
- Het kennen van deze beperkingen vermindert het nut van ChatGPT niet; het maakt u effectiever