Capacités et limites de l'IA

Objectifs

À l’issue de cette leçon, vous serez capable de :

• Définir l’IA générative et expliquer en quoi elle diffère des autres types d’IA
• Expliquer les trois évolutions qui ont rendu possibles les grands modèles de langage actuels
• Identifier ce que l’IA actuelle fait bien, et là où elle échoue de façon prévisible

Créer plutôt que classer

L’IA générative désigne les systèmes capables de créer un contenu nouveau, et pas seulement d’analyser des données existantes. Une IA « classique » peut ranger un e-mail dans « spam » ou « pas spam » à partir de régularités ; une IA générative peut écrire un e-mail entièrement nouveau. La première analyse et catégorise, la seconde produit quelque chose qui n’existait pas.

Les grands modèles de langage (LLM, pour large language models), comme les modèles Claude d’Anthropic, en sont l’exemple le plus connu. « Modèles de langage », parce qu’ils sont entraînés à prédire et à produire du langage humain ; « grands », parce qu’ils comptent des milliards de paramètres, des valeurs numériques qui déterminent la façon dont le modèle traite l’information, un peu comme des connexions synaptiques.

Trois évolutions réunies au bon moment

Ces systèmes ne sont pas apparus d’un coup. Trois évolutions se sont conjuguées :

1. Une rupture d’architecture. Les réseaux de neurones existent depuis des décennies, mais l’architecture transformer, publiée en 2017, a tout changé : elle traite des séquences de texte en gardant les relations entre les mots sur de longs passages, ce qui est essentiel pour comprendre le langage en contexte.
2. L’explosion des données numériques. Les LLM apprennent à partir de sources variées — sites web, dépôts de code, textes de toutes sortes — qui reflètent les connaissances et la communication humaines.
3. La puissance de calcul. Des processeurs spécialisés (GPU, TPU) reliés en grappes de calcul ont rendu possibles des entraînements impensables quelques années plus tôt.

De cette combinaison est née une découverte : les lois d’échelle. Plus les modèles grandissent, avec plus de données et de calcul, plus leurs performances s’améliorent de façon prévisible. Plus surprenant, des capacités que personne n’avait programmées apparaissent avec la taille, comme raisonner étape par étape ou s’adapter à une tâche nouvelle à partir de quelques instructions.

Comment un modèle est entraîné, puis utilisé

L’entraînement se fait en deux temps :

• Le pré-entraînement. Le modèle analyse des régularités sur des milliards d’exemples de texte, en apprenant à prédire la suite d’un texte. Au fil des itérations, il construit une sorte de carte complexe du langage et des connaissances. À la fin de cette phase, c’est un « compléteur de documents » très compétent, et très littéral.
• L’affinage (fine-tuning). Le modèle apprend ensuite à suivre des instructions, à répondre utilement et à éviter les contenus dangereux, souvent grâce à des retours humains et à l’apprentissage par renforcement, qui oriente son comportement par des récompenses et des pénalités. Pour les modèles d’Anthropic, l’objectif est un assistant utile, honnête et inoffensif.

Une fois déployé, le modèle lit votre prompt et le prolonge à partir de ce qu’il a appris. Il ne va pas chercher une réponse toute faite dans une base de données : il produit un texte nouveau, statistiquement cohérent avec ce que vous avez écrit.

Il existe aussi une limite pratique à la quantité d’information qu’il peut considérer à la fois : la fenêtre de contexte, sa mémoire de travail. Elle contient vos messages, ses réponses et tout ce que vous avez partagé dans la conversation. Au-delà, sans outil spécialisé comme la recherche web, il n’a pas accès à l’information.

Ce que l’IA fait bien

Voyez cela comme faire connaissance avec un nouveau collègue : connaître ses forces et ses limites aide à bien travailler ensemble.

• La polyvalence. Rédiger un e-mail dans votre ton, condenser un long rapport, traduire, expliquer un sujet complexe dans presque n’importe quel domaine — et passer d’une tâche à l’autre sans réentraînement, dans une simple conversation.
• La continuité de la conversation. Le modèle garde le fil : si vous mentionnez une échéance en passant et y revenez plus tard dans la même conversation, il comprend en général de quoi vous parlez.
• L’apprentissage en contexte. Il s’adapte à une tâche nouvelle à partir des instructions ou des exemples que vous lui donnez.
• L’usage d’outils. Beaucoup de LLM peuvent aujourd’hui chercher sur le web, traiter des fichiers ou utiliser d’autres applications, ce qui élargit considérablement ce qu’ils peuvent faire.

Ses limites, et d’où elles viennent

Chaque limite découle du fonctionnement décrit plus haut :

• La date de coupure des connaissances. Un modèle ne sait rien du monde au-delà de la date de ses données d’entraînement : celui dont la coupure serait en juin 2026 ignore tout ce qui s’est passé depuis, comme quelqu’un parti en retraite sans internet. Il lui faut un outil comme la recherche web pour connaître l’actualité.
• Les hallucinations. L’entraînement ne vérifie pas chaque fait des données : le modèle peut reproduire des erreurs, ou se tromper en assemblant ce qu’il a appris. Il affirme alors avec aplomb quelque chose de plausible mais faux, comme un ami qui raconte une histoire avec assurance en se trompant sur tous les détails.
• La fenêtre de contexte. Si une conversation ou un document la dépasse, l’IA ne peut plus tenir compte de ce qui en sort, en général les éléments les plus anciens.
• La variabilité. Contrairement à un logiciel classique, un LLM n’est pas déterministe par défaut : posez deux fois la même question, vous obtiendrez des réponses un peu différentes. C’est précieux pour générer des idées, à surveiller quand la constance ou l’exactitude comptent.
• Le raisonnement complexe. Les problèmes mathématiques ou logiques en plusieurs étapes ont longtemps été un point faible ; les modèles qui raisonnent étape par étape avant de répondre progressent nettement sur ce terrain.
• L’accès aux données et aux outils. Un modèle brillant ne peut pas vous aider sur des données ou des outils auxquels il n’a pas accès, comme un collègue doué privé de la base de données interne.

La recherche avance sur ces limites : génération augmentée par récupération (RAG), qui connecte les modèles à des sources de connaissances externes, usage d’outils, capacités de raisonnement. Certaines limites resteront sans doute, même si l’on ne sait pas encore lesquelles. Les applications les plus efficaces combinent les forces complémentaires des deux : chez l’humain, l’esprit critique, le jugement, la créativité et la supervision éthique ; chez l’IA, la vitesse, l’échelle, la détection de régularités et le traitement de grands volumes d’information.

Pour approfondir ces notions, le cours Capacités et limites de l’IA y consacre onze leçons.

L’angle sécurité (ajout de Corsen) — Pour un builder, l’hallucination la plus coûteuse est souvent un nom de bibliothèque inventé. Une étude présentée à USENIX Security 2025 a fait générer 576 000 extraits de code en Python et en JavaScript à 16 modèles : en moyenne, au moins 5,2 % des paquets recommandés par les modèles commerciaux et 21,7 % de ceux des modèles open source n’existaient pas, soit 205 474 noms inventés distincts. Un attaquant peut publier un paquet malveillant sous l’un de ces noms. Vérifiez qu’une dépendance existe, qu’elle est maintenue et qu’elle est bien celle que vous croyez avant de l’installer. Source : We Have a Package for You! (Spracklen et al.).

À vous de jouer

Tester les limites. Cet exercice vous donne des preuves de première main de ce que l’IA fait bien et de là où elle échoue, sur un problème de code que vous connaissez par cœur. Vous aurez ainsi un repère concret, construit par vos propres observations, pour décider à quoi faire confiance.

Partie 1 — Réflexion personnelle. Choisissez un domaine de code que vous maîtrisez, où vous repéreriez immédiatement une erreur — votre logique de limitation de débit, votre gestion d’un état asynchrone, la requête de base de données que vous avez optimisée le trimestre dernier. Notez :

• deux ou trois points que tout ingénieur compétent doit réussir ;
• une idée reçue courante ou un détail d’implémentation piégeux ;
• un changement récent : mise à jour d’une bibliothèque, dépréciation, nouvelle bonne pratique.

Partie 2 — Collaboration avec l’IA. Ouvrez une conversation avec Claude (ou l’assistant de votre choix) et menez trois échanges rapides, en notant vos observations après chacun :

1. Test de polyvalence. Demandez d’expliquer votre sujet de trois façons dans une même réponse : pour un product manager non technique, pour un ingénieur confirmé qui rejoint l’équipe, et pour un ingénieur senior en revue de code. Le niveau de profondeur a-t-il vraiment changé, ou seulement le vocabulaire ? Quelle version est la meilleure ?
2. Test d’hallucination. Demandez des bibliothèques, des paquets ou des documentations précises pour votre problème. Vérifiez-en au moins un : existe-t-il ? L’API décrite est-elle exacte ? La version est-elle à jour ?
3. Coupure des connaissances et raisonnement. Posez une question datée sur votre domaine : une mise à jour récente de framework, un usage déprécié, un correctif de sécurité. L’IA signale-t-elle que son information peut être dépassée, ou présente-t-elle de l’ancien comme du neuf ? Demandez-lui ensuite de traiter le détail piégeux noté en partie 1 : a-t-elle levé la confusion, ou seulement répété la bonne réponse ?

Partie 3 — Prendre du recul. Quelle capacité est apparue le plus nettement ? Quelle limite a fait surface, et l’auriez-vous repérée sur un domaine que vous connaissez mal ? Notez une tâche que vous confieriez volontiers à l’IA dès maintenant, et une que vous voudriez surveiller de plus près.

Pour aller plus loin : soumettez le même sujet à un second outil d’IA. Les erreurs et les points forts sont-ils les mêmes ?

Questions de réflexion

• En quoi le fait de savoir comment ces systèmes sont entraînés change-t-il votre façon de travailler avec eux ?
• Quelles questions éthiques vous viennent, compte tenu du fonctionnement de l’IA générative et de ses limites ?

Sources officielles : AI capabilities & limitations (Claude Academy, vidéo et sa transcription) · We Have a Package for You! (Spracklen et al., USENIX Security 2025)

Points clés à retenir

• L’IA générative crée un contenu nouveau au lieu de seulement analyser des données existantes
• Trois évolutions ont rendu les LLM possibles : l’architecture transformer, de vastes données d’entraînement et une puissance de calcul massive
• Deux phases d’entraînement : le pré-entraînement apprend des régularités, l’affinage apprend à suivre des instructions utilement
• Forces : polyvalence, fluidité de la conversation, usage d’outils ; limites : coupure des connaissances, hallucinations, raisonnement complexe peu fiable
• Les meilleures applications associent votre jugement, votre créativité et votre supervision à la vitesse et à l’échelle de l’IA

Crédits et licence — Adaptation française de la leçon « AI capabilities & limitations » du cours « AI Fluency for Builders » de Claude Academy, l’académie d’Anthropic, créé par Anthropic en partenariat avec CodePath. Les supports d’origine sont © 2026 Anthropic, publiés sous licence CC BY-NC-SA 4.0 ; cette adaptation, qui les traduit et les remanie, est diffusée sous la même licence. L’encadré « L’angle sécurité » est un ajout de Corsen.