Introduction : capacités et limites de l'IA

Une IA générative peut rédiger un rapport impeccable, puis inventer une référence avec le même aplomb. Elle peut suivre à la lettre une consigne de format, puis oublier un détail donné vingt pages plus tôt. Ces comportements ne sont pas des caprices : ils découlent de quelques propriétés de la machine. Les connaître, c’est pouvoir prévoir quand l’IA sera excellente, quand elle risque de se tromper, et quoi faire dans chaque cas.

Ce que ce cours vous apporte

Ce cours suit le programme du cours AI Capabilities and Limitations de Claude Academy, conçu comme le compagnon du cadre AI Fluency : là où le cadre 4D enseigne les compétences humaines (Délégation, Description, Discernement, Diligence), ce cours décrit les propriétés de la machine auxquelles ces compétences répondent. Les leçons officielles, en anglais, se lisent librement sur le site de l’Academy ; cette version française ne les traduit pas. Elle suit leur progression et explique chaque notion à partir de la documentation et des publications publiques d’Anthropic, citées à chaque leçon.

À la fin, vous saurez :

• regarder une réponse inattendue et reconnaître de quel type d’inattendu il s’agit ;
• situer à peu près votre tâche sur un continuum qui va de la capacité à la limite ;
• répondre par une correction ciblée, plutôt que de reformuler au hasard.

Le plan

Le cours avance propriété par propriété :

1. Ce que nous appelons IA, et d’où vient son caractère : ce qu’est un grand modèle de langage, et comment il devient un assistant.
2. La prédiction du prochain jeton : le mécanisme de base, et ce qu’il explique — l’aisance comme les erreurs plausibles.
3. Les connaissances : ce que le modèle sait, jusqu’à quelle date, et pourquoi il lui arrive d’inventer.
4. La mémoire de travail : la fenêtre de contexte, ce qu’elle contient et ses limites.
5. La pilotabilité : à quel point on peut orienter le modèle, et où cela s’arrête.
6. Quand les propriétés entrent en conflit : les cas où deux propriétés tirent dans des directions opposées, et comment diagnostiquer.

Une leçon pratique vous fait observer ces propriétés vous-même, avec n’importe quel assistant d’IA ; les exemples utilisent Claude.

Chacune des quatre propriétés — prédiction, connaissances, mémoire de travail, pilotabilité — va d’une zone de capacité à une zone de limite. Le même mécanisme produit les deux : ce qui varie, c’est l’endroit où tombe votre tâche. Et les modèles changent vite, mais ces propriétés restent : une date limite des connaissances recule, elle ne disparaît pas ; une fenêtre de contexte s’agrandit, elle garde un bord.

Une idée à garder tout du long

Une IA n’est ni un moteur de recherche, ni une base de données, ni une personne. Anthropic le formule ainsi dans sa présentation du caractère de Claude : les gens doivent savoir qu’ils parlent à un modèle de langage et non à une personne, à une entité imparfaite qui a ses propres biais, et pas à une source de vérité objective et infaillible. Toute la suite du cours précise ce que cela veut dire en pratique.

À vous de jouer

Votre liste de tâches. Notez quatre à six tâches pour lesquelles vous avez utilisé l’IA ces deux dernières semaines, ou pour lesquelles vous aimeriez l’utiliser. Soyez précis : « annoncer à un client le report d’une livraison » dit quelque chose, « écrire » ne dit rien. Ajoutez une ligne par tâche : le résultat était-il utilisable du premier coup, ou a-t-il fallu le reprendre ? Gardez cette liste : chaque leçon vous demandera de l’annoter, et c’est sur vos propres tâches que les propriétés du cours deviennent visibles.

Questions de réflexion

• Parmi vos tâches, lesquelles vous semblent sûres à confier à l’IA, et lesquelles risquées ? Savez-vous déjà dire pourquoi ?
• Quel comportement de l’IA, réussi ou raté, vous a surpris sans que vous sachiez l’expliquer ?

Cours officiel — Ce cours suit le programme du cours AI Capabilities and Limitations de Claude Academy ; le badge de fin de cours s’obtient sur le site de l’Academy.

Sources officielles : Intro to AI Capabilities and Limitations (Claude Academy, programme du cours) · Claude’s character · Glossary

Points clés à retenir

• Les comportements surprenants d’une IA découlent de son entraînement, qui lui donne son caractère, et de quatre propriétés : prédiction du prochain jeton, connaissances, mémoire de travail, pilotabilité
• Chaque propriété est un continuum : le même mécanisme produit la capacité et la limite
• Objectif : reconnaître le type d’inattendu, situer la tâche entre capacité et limite, corriger de façon ciblée
• Ce cours décrit la machine ; le cadre AI Fluency décrit les compétences humaines qui y répondent
• Une IA n’est pas une source de vérité infaillible