Éviter les hallucinations

Cette leçon traite des affirmations fausses ou injustifiées que Claude peut produire, et des deux techniques du tutoriel pour les réduire : laisser une porte de sortie, et exiger des preuves avant de répondre. L’exemple central est un document de Matterport contenant une information presque pertinente, dans lequel Claude 3 Haiku se laissait piéger.

Deux techniques, et toutes les autres

Mauvaise nouvelle : Claude « hallucine » parfois, c’est-à-dire affirme des choses fausses ou injustifiées. Bonne nouvelle : des techniques réduisent le phénomène. Le tutoriel en détaille deux, donner à Claude la possibilité de dire qu’il ne sait pas, et lui demander de trouver des preuves avant de répondre ; mais il rappelle que bien des méthodes y contribuent, dont celles déjà apprises dans ce cours, et qu’il faut en essayer plusieurs quand Claude hallucine.

Donner une porte de sortie

À la question « quel est l’hippopotame le plus lourd de tous les temps ? », Claude 3 Haiku inventait plusieurs gros hippopotames, par souci d’être utile. La parade : lui donner une sortie, lui dire qu’il peut décliner, ou ne répondre que s’il connaît la réponse avec certitude. Sans cette autorisation, toute réponse vaut mieux que pas de réponse ; en nommant une sortie honorable, vous cessez de le pousser à inventer.

print(get_completion("Who is the heaviest hippo of all time?"))
print(get_completion("Who is the heaviest hippo of all time? Only answer if you know the answer with certainty."))

Exiger des preuves avant de répondre

Le tutoriel fournit ensuite un long document, le rapport annuel 10-K 2023 de Matterport, et pose la question : « quelle était la base d’abonnés de Matterport au 31 mai 2020 précisément ? ». Le document contient des chiffres voisins (plus de 701 000 abonnés au 31 décembre 2022, 503 000 un an plus tôt, une croissance de 49 fois depuis 2018) mais pas celui demandé ; sans aide, Claude 3 Haiku tombait dans le piège de ces informations distractrices et répondait un chiffre. La correction tient en une consigne : extraire d’abord dans des balises <relevant_quotes> les citations du document qui se rapportent à la question, puis répondre dans <answer> en s’appuyant uniquement sur ces citations, et dire explicitement quand aucune citation ne répond. L’effet est double : inventer une citation coûte plus que lancer une affirmation vague, et vous disposez des passages exacts pour vérifier en dix secondes. Le tutoriel note au passage une bonne pratique de la leçon 9 : mettre la question après le document, ce qu’il n’avait pas fait ici pour la lisibilité ; la documentation actuelle chiffre l’intérêt, jusqu’à 30 % de qualité en plus sur les entrées longues, et recommande la même extraction de citations pour les tâches sur documents longs.

PROMPT = f"""<document>
{document}
</document>

<question>What was Matterport's subscriber base on the precise date of May 31, 2020?</question>

First, find the quotes from the document that are most relevant to answering the question, and write them inside <relevant_quotes> tags.
Then answer the question inside <answer> tags, using only those quotes. If no quote answers the question, say so explicitly."""
print(get_completion(PROMPT))

Et la température ?

Les cours de 2024 citaient un troisième levier, une temperature proche de 0 pour des réponses plus conservatrices. Ce réglage ne rendait pas le modèle plus exact, seulement plus constant, et il n’existe plus : la version d’API 2026-10-21 refuse temperature, top_p et top_k sur tous les modèles. Les deux leviers ci-dessus, et les techniques des leçons précédentes (consignes claires, données balisées, réflexion), sont ceux qui agissent sur l’exactitude. Les modèles actuels hallucinent moins et donnent des réponses plus ancrées ; la documentation propose, pour le code, une consigne « n’affirme rien sur un fichier que tu n’as pas ouvert » qui applique le même principe : des preuves avant la réponse.

À vous de jouer

Exercice 8.1 : Beyoncé. Le tutoriel demande à quelle date est sorti le huitième album studio solo de Beyoncé, question piège : les faits sur les célébrités sont un terrain d’hallucination classique. Modifiez le prompt pour que Claude ait la possibilité de dire qu’il n’est pas sûr, et observez où il saisit cette perche ; avec claude-opus-5-5, comparez aussi la réponse sans porte de sortie.

Exercice 8.2 : le prospectus. Un long document financier et une question dont la réponse s’y trouve. Exigez l’extraction de citations avant la réponse, puis glissez dans le document un passage voisin mais hors sujet, et vérifiez laquelle de vos versions de prompt s’y laisse prendre.

Sources officielles : 08_Avoiding_Hallucinations.ipynb (anthropics/prompt-eng-interactive-tutorial) · Prompting best practices (documentation Claude : « Long context prompting », « Minimizing hallucinations in agentic coding ») · Migrating to a newer API version (paramètres d’échantillonnage)

Points clés à retenir

• Claude peut affirmer des choses fausses avec aplomb : cela se réduit, cela ne s’élimine pas.
• Donnez une porte de sortie : « réponds seulement si tu es certain » coupe l’invention par souci d’aider.
• Sur un document, exigez les citations pertinentes avant la réponse, et une réponse fondée sur elles seules.
• Les informations distractrices, presque pertinentes, sont le piège le plus fréquent ; la citation extraite le rend visible.
• La temperature n’était pas un levier d’exactitude, et l’API 2026-10-21 la refuse : comptez sur le prompt.