À vous d'essayer

Les propriétés de ce cours se comprennent mieux en les observant. Le cours officiel propose ici une simulation interactive ; cette leçon en reprend l’idée avec un exemple à faire sur papier, puis vous propose cinq expériences courtes avec Claude ou tout autre assistant d’IA.

Un prédicteur de texte, à la main

Vous avez peut-être déjà joué à écrire un message en n’acceptant que les mots proposés par le clavier de votre téléphone. Ce clavier fait une version minuscule de ce que fait un modèle de langage. Construisons-en un avec cinq messages :

1. « je pense qu’on devrait livrer demain »
2. « je pense que c’est bon »
3. « je pense qu’on devrait attendre »
4. « on devrait prévenir l’équipe »
5. « c’est bon pour moi »

Compter. Pour chaque mot, notez le mot qui le suit. Après « pense » viennent « qu’on » deux fois et « que » une fois ; après « devrait » viennent « livrer », « attendre » et « prévenir », une fois chacun. Ce tableau de fréquences est tout le modèle.

Passer aux probabilités. Divisez chaque ligne par son total : après « pense », « qu’on » a deux chances sur trois, « que » une sur trois. Choisir le mot suivant à partir de ces probabilités s’appelle échantillonner, et c’est le terme employé aussi pour les grands modèles de langage.

Les réglages. Prendre toujours le mot le plus probable donne des textes répétitifs. Tirer au sort selon les probabilités varie davantage. La température accentue ou aplatit les écarts de probabilité ; top-k ne garde que les k mots les plus probables ; top-p garde les plus probables jusqu’à un cumul donné.

Le pont vers les LLM. Un grand modèle de langage fait la même chose, avec deux différences de taille : il lit tout le contexte, pas seulement le dernier mot, et il calcule la distribution du mot suivant avec des milliards de paramètres au lieu de consulter une ligne de tableau. Plus il a vu d’exemples, plus ses probabilités sont fines, et plus votre tâche ressemble à ces exemples, plus la suite est sûre.

Sur les modèles Claude actuels — La documentation d’Anthropic précise que les paramètres d’échantillonnage temperature, top_p et top_k ne sont pas acceptés par les modèles Claude 4.7 et suivants, ni par aucun modèle à partir de la version d’API 2026-10-21. Pour obtenir des réponses plus régulières, on agit donc sur la consigne : un format imposé, des exemples.

À vous de jouer

Cinq expériences. Pour chacune, notez ce que vous voyez et quelle propriété l’explique ; vous y reviendrez dans la leçon sur les collisions entre propriétés.

Expérience 1 — La variabilité

Ouvrez trois nouvelles conversations et posez exactement la même demande ouverte, par exemple : « Propose un nom et un slogan pour une boulangerie de quartier qui ouvre à Lyon. »

À observer : les réponses diffèrent. Propriété : la prédiction du prochain jeton n’est pas déterministe. Recommencez en ajoutant un format précis et deux exemples de ce que vous attendez : les réponses se ressemblent davantage.

Expérience 2 — Le savoir et ses bords

Demandez une information sur un sujet très connu, puis sur un sujet très pointu de votre métier, et enfin sur un événement postérieur à la date limite des connaissances du modèle, dans une conversation sans recherche web.

À observer : l’assurance de la réponse ne baisse pas forcément quand la fiabilité baisse. Propriété : les connaissances, figées à une date et inégales selon les sujets. Recommencez la dernière question en ajoutant : « Si tu n’es pas sûr, dis-le. » La permission de dire « je ne sais pas » change souvent la réponse.

Expérience 3 — L’indice trompeur

Soumettez un petit problème de calcul ou de logique, en ajoutant : « Je crois que la réponse est X », avec un X faux.

À observer : le modèle suit-il votre indice, ou le corrige-t-il ? Propriété : la prédiction, et la tendance à rejoindre la réponse suggérée. Recommencez sans indice et comparez.

Expérience 4 — La mémoire de travail

Collez un long document (un rapport, un contrat) et posez une question sur un détail situé au milieu. Puis, dans une nouvelle conversation, posez la même question sans le document.

À observer : avec le document, la réponse s’appuie sur le texte ; sans lui, le modèle n’a plus rien à quoi se référer. Propriété : la mémoire de travail, qui ne contient que ce qui est dans la conversation. Ajoutez la consigne « cite le passage exact sur lequel tu t’appuies » : la réponse devient vérifiable.

Expérience 5 — La pilotabilité

Demandez un résumé d’un texte, puis le même résumé « en trois puces, pour un public de dirigeants, sans jargon, en moins de 80 mots ».

À observer : le modèle suit des consignes précises de format, de public et de longueur. Propriété : la pilotabilité. Puis demandez-lui d’« être certain » d’une information qu’il ne peut pas connaître : la consigne ne crée pas la connaissance.

Votre fiche de synthèse

Gardez cette fiche : elle sert de base à la leçon « Quand les propriétés entrent en conflit ».

Sources officielles : Try It Out: Next Token Prediction (Claude Academy, programme du cours) · Working with the Messages API (paramètres d’échantillonnage) · Reduce hallucinations · Prompting best practices

Points clés à retenir

• Un modèle de langage échantillonne le mot suivant comme un petit prédicteur à tableau, mais à partir de tout le contexte
• Sur les modèles Claude récents, température, top-k et top-p ne se règlent plus : on stabilise par la consigne
• Une même demande peut donner des réponses différentes ; format et exemples stabilisent
• L’assurance d’une réponse ne dit rien de sa fiabilité ; la permission de dire « je ne sais pas » aide
• Un indice glissé dans la question oriente la réponse
• Le modèle ne se réfère qu’à ce qui est dans la conversation ; une consigne ne crée pas de connaissance