Gérer les limites et les refus de ChatGPT

ChatGPT invente parfois des informations, perd le fil d’une conversation très longue, ignore ce qui s’est passé après sa date de coupure, ou refuse une demande. Ce ne sont pas des pannes passagères, mais des limites que le centre d’aide d’OpenAI documente lui-même. Les connaître permet de les anticiper : pour chacune, il existe une parade honnête et efficace.

Les hallucinations

OpenAI appelle hallucination une réponse qui n’est pas exacte : une définition, une date ou un fait erroné, une citation, une étude ou une référence qui n’existe pas, ou une réponse trop assurée à une question ambiguë. Le centre d’aide le dit sans détour : le modèle peut paraître sûr de lui même quand il se trompe, et la confiance affichée n’est pas un gage de fiabilité. Le danger tient donc moins à l’erreur qu’au ton, identique à celui des passages exacts.

Deux parades se combinent. La première consiste à rendre l’incertitude visible dans la réponse ; la seconde, à s’appuyer sur les outils qui améliorent l’exactitude : la recherche web, qui cite ses sources, l’analyse de données, qui fait les calculs en Python, et la recherche approfondie, pour les synthèses à plusieurs sources.

Analyse les grandes tendances du marché européen de la cybersécurité
sur les douze derniers mois.

Règles :
- Appuie-toi sur une recherche web et cite chaque source
- Pour chaque chiffre, indique s'il est exact, estimé ou non vérifié
- Si une information manque, écris « Donnée non disponible » plutôt
  que de l'estimer
- Sépare clairement les faits sourcés de ton analyse

Vous ne supprimez pas les hallucinations, mais vous obtenez une carte des zones à vérifier, et des liens pour le faire. Le centre d’aide conseille d’ouvrir ces liens directement et de vérifier toute citation, donnée ou référence importante : ChatGPT fournit un premier jet, pas une source finale.

La fenêtre de contexte

Chaque conversation a une taille maximale, sa fenêtre de contexte. Sur un échange très long, les consignes données au début peuvent peser moins que les échanges récents : le ton dérive, une contrainte de longueur s’efface. La parade est simple : rappelez le cadre en tête d’une nouvelle demande, ou placez-le dans les instructions d’un projet, qui s’appliquent à toutes ses conversations.

Rappel des règles fixées en début de conversation :
- Rédaction SEO pour un public B2B tech
- Ton professionnel mais accessible
- Mots-clés principaux : [liste]
- 1 200 mots au maximum par article

Avec ces règles, rédige maintenant l'article suivant : [...]

Quand ChatGPT signale que la conversation est pleine, poursuivez dans une nouvelle conversation, en y reprenant un résumé de la précédente.

Les connaissances datées

Les connaissances d’un modèle s’arrêtent à une date de coupure : sans outil, il ne sait rien des événements postérieurs. Mais la recherche web change la donne. Selon le centre d’aide, les outils de recherche sont activés par défaut pour tous les modèles, et ChatGPT les utilise quand l’information récente compte ; vous pouvez aussi la demander explicitement, et vérifier qu’une réponse s’appuie bien sur des sources citées. Pour une analyse qui doit reposer sur vos propres données, fournissez-les et demandez à ChatGPT de s’y tenir.

Voici les informations à jour que je te fournis :
- [donnée 1, avec sa date et sa source]
- [donnée 2, avec sa date et sa source]

Analyse l'impact sur notre stratégie en t'appuyant uniquement sur
ces données. Signale ce qu'il faudrait vérifier ou compléter.

Les refus

Certaines demandes sont refusées ou bloquées. Le centre d’aide d’OpenAI en donne les raisons : un contenu contraire aux conditions d’utilisation ou aux règles d’usage, ou une tentative de manipuler le système ou de contourner ces règles. La plupart des refus sont donc légitimes, et une demande qui ne peut pas être formulée honnêtement doit rester refusée.

Il arrive pourtant qu’une demande professionnelle défendable soit refusée faute de contexte : le modèle voit la formulation, pas votre métier. La bonne réaction n’est pas d’inventer un rôle ou un scénario pour obtenir la réponse, mais de décrire honnêtement votre situation et de reformuler votre besoin réel. Comparez :

Comment pirater le mot de passe d'un compte administrateur ?

Je suis responsable informatique d'une PME et je prépare le
renforcement de nos comptes administrateurs. Quelles sont les
faiblesses les plus courantes dans la gestion de leurs mots de passe,
et quelles mesures recommandes-tu pour les corriger ?

La seconde demande n’est pas une astuce : c’est un autre besoin, défensif, décrit tel qu’il est. Si vous pensez qu’une demande légitime a été bloquée par erreur, le centre d’aide invite à contacter le support d’OpenAI. Chercher à contourner un refus, en revanche, est contraire aux règles d’usage, et une entreprise ne devrait jamais l’enseigner à ses équipes.

Le plafond de créativité

Livré à lui-même, le modèle produit souvent un contenu « moyen » : correct et prévisible. Pour en sortir, écartez le premier réflexe et dites où chercher à la place. Un slogan d’application de méditation qui bannit « calme », « sérénité » et « zen » oblige à quitter le territoire saturé.

Écris un slogan pour notre application de méditation.

Écarte les mots « calme », « sérénité », « paix », « zen » et « détente »,
trop utilisés : cherche un angle original, surprenant ou décalé.

Propose 10 slogans, puis sélectionne les 3 plus originaux
et explique pourquoi ils fonctionnent.

Deux parades de plus

Quand la réponse exacte est hors de portée, demandez le cadre qui vous permettra de la trouver. Le prix négocié d’une licence logicielle n’est pas public, mais la structure d’une telle négociation se décrit très bien :

Je sais que le prix négocié d'une licence logicielle d'entreprise
n'est pas public. Donne-moi plutôt :
1. Les critères qui influencent le prix
2. Les questions à poser au commercial
3. Les points de négociation courants
4. Les alternatives à comparer, avec leurs tarifs publics sourcés

Quand vous doutez d’une réponse, faites-la relire par son auteur. Cette relecture ne remplace pas la vôtre, mais elle fait souvent apparaître des incohérences et des affirmations fragiles, notamment une recommandation qui contredit une contrainte énoncée plus haut.

Relis ta réponse et vérifie :
1. Les affirmations que tu ne peux pas étayer : signale-les [À VÉRIFIER]
2. Les incohérences entre les parties
3. Les recommandations irréalistes compte tenu du contexte

Corrige ta réponse en conséquence.

À vous de jouer

Calibrer votre confiance. Posez une question sur un sujet que vous maîtrisez parfaitement, avec la recherche web, puis demandez à ChatGPT d’indiquer pour chaque affirmation son degré de certitude et ce qu’il faudrait vérifier. Ouvrez les sources citées et comparez avec ce que vous savez. Vous saurez, dans votre domaine, jusqu’où sa fiabilité tient et où elle cède.

Sources officielles : Does ChatGPT tell the truth? · Why was my ChatGPT prompt blocked? · Searching the web with ChatGPT (centre d’aide OpenAI) · Usage policies (OpenAI)

Points clés à retenir

• ChatGPT peut se tromper avec assurance : exigez de voir l’incertitude et vérifiez chiffres, citations et références
• La recherche web, l’analyse de données et la recherche approfondie améliorent l’exactitude ; ouvrez les sources citées
• Dans une longue conversation, rappelez le cadre ou placez-le dans les instructions d’un projet
• Face à un refus, décrivez honnêtement votre besoin réel ; ne cherchez jamais à contourner les règles d’usage
• Pour sortir du contenu moyen, écartez le premier réflexe et dites où chercher à la place