Éthique et usage responsable de l'IA

Objectifs

À l’issue de cette leçon, vous serez capable de :

• Protéger les données des élèves avant toute analyse avec l’IA
• Valider ce que l’IA sait faire sur des données dont vous connaissez déjà les résultats
• Formuler vos engagements éthiques sur les zones grises que les règles ne tranchent pas

La boucle Délégation-Diligence et les données des élèves

La Délégation se joue en amont : la bonne tâche, le bon outil, les bonnes données à confier à l’IA. La Diligence se joue en aval : l’IA a-t-elle vu juste, et suis-je prêt à assumer le résultat ? Avec des données d’élèves, une condition passe avant tout : les protéger.

Le cas de Mme Okafor, suite

Chaque trimestre, Mme Okafor analyse les résultats de ses évaluations, de ses interrogations et de ses tickets de sortie : progression par classe, notions maîtrisées ou fragiles, lien entre travail personnel et résultats. Cela lui prend des heures, souvent le week-end. Elle veut tester l’aide de l’IA, mais ce sont des données d’élèves : un envoi imprudent pourrait exposer des informations personnelles, ce qui pose problème pour elle, pour ses élèves et pour son établissement.

Avant de toucher à l’IA, elle se pose deux questions :

1. Le bon outil ? Les outils et les offres n’ont pas les mêmes garanties de confidentialité ni les mêmes durées de conservation. Elle part de la liste des outils validés par son établissement ou son académie.
2. Les bonnes données ? Elle cherche des tendances par classe, pas des fiches individuelles : les noms ne servent à rien. Elle les remplace par « Élève 1, Élève 2 », retire tout champ personnel et la colonne qui signale les plans d’accompagnement. Elle ne garde que la classe et les résultats par notion, ce dont l’analyse a réellement besoin.

Valider sur ce que l’on connaît déjà

Principe clé de la Délégation : tester l’IA sur des données dont on connaît déjà les résultats. Mme Okafor reprend les résultats du trimestre précédent, qu’elle avait analysés à la main. Elle demande à Claude d’analyser les écarts entre ses classes et le lien entre tickets de sortie et évaluations. L’IA voit juste sur deux classes qui réussissent mieux et sur le lien entre tickets de sortie et progression, mais elle manque un point : une classe a eu un remplaçant pendant trois semaines, ce qui a fait chuter ses tickets de sortie pour des raisons sans rapport avec le travail des élèves. Mme Okafor précise ce contexte ; l’IA corrige son interprétation. Elle note, pour les trimestres suivants, qu’il faudra signaler les perturbations d’emploi du temps.

Valider sur des données connues apprend trois choses : ce que l’IA fait bien sans aide, ce pour quoi il lui faut du contexte, et ce qu’elle ne sait pas faire de façon fiable — à ne pas déléguer. Cela produit aussi une méthode réutilisable : les colonnes à garder, le contexte à ajouter. La même approche vaut pour la progression en lecture, l’assiduité, l’analyse d’items d’une évaluation commune.

La validation ne supprime pas la responsabilité. Une erreur d’analyse peut toucher la vie réelle des élèves : notes, groupes de besoin, échanges avec les familles. Mme Okafor vérifie que les chiffres sont cohérents avec ce qu’elle sait de ses élèves, assume tout ce qu’elle présente en conseil pédagogique, et explique à sa direction et à son équipe comment l’IA a contribué à l’analyse.

Le cadre en France (adaptation de Corsen) — Le cadre d’usage du ministère demande de veiller à la protection des données saisies dans les outils grand public, et le RGPD s’applique à toute donnée personnelle d’élève, d’autant plus pour des mineurs. Pseudonymiser (remplacer les noms par des codes) réduit le risque, mais une donnée pseudonymisée reste une donnée personnelle tant qu’on peut faire le lien : préférez des données agrégées quand l’analyse le permet. Ressources : CNIL — Éducation.

Un point de départ

Avant toute analyse, le cours d’origine propose ces réflexes :

• partir de la liste des outils validés par votre établissement ou votre académie ;
• retirer noms, identifiants et champs personnels avant tout envoi, même avec un outil bien protégé ;
• ne jamais saisir d’information sur un handicap, un plan d’accompagnement ou une sanction dans un outil d’IA généraliste ;
• découper la tâche, pour distinguer ce dont l’IA a réellement besoin de ce que vous joignez par habitude ;
• lire les conditions d’utilisation de l’outil : vous pouvez les soumettre à l’IA pour poser vos questions ;
• suivre les règles de votre institution sur les données, comme pour tout autre service en ligne ;
• garder en tête la dépendance, la désocialisation et les biais.

Si une donnée vous échappe, agissez vite : supprimez la conversation, demandez au besoin l’effacement au fournisseur, et suivez la procédure de votre institution. En France, le guide de la CNIL sur les violations de données dans l’éducation (mai 2025) demande d’analyser quelles informations et quelles personnes sont concernées, puis d’avertir au plus vite le délégué à la protection des données de votre académie, qui aide à évaluer le risque et à décider des suites.

Les zones grises : vos engagements

La protection des données n’est qu’une partie du sujet. Dans une classe, d’autres tensions apparaissent, que les règles ne tranchent pas toujours :

• la dépendance : quand l’IA remplace-t-elle une réflexion que les élèves doivent faire eux-mêmes ?
• la désocialisation : quand pourrait-elle remplacer l’interaction, la collaboration, la relation ?
• les biais : quand pourrait-elle renforcer des stéréotypes ou des inégalités existantes ?
• l’autonomie des élèves : qui décide de l’usage de l’IA — l’élève, l’enseignant, le système ?
• l’équité d’accès : qui en profite, et qui en est exclu, faute d’accès ou de moyens ?
• l’impact environnemental : quelle place donner à la consommation d’énergie et de calcul dans vos choix ?

À vous de jouer

Formuler votre ligne éthique. Utiliser l’IA de façon responsable, ce n’est pas seulement suivre des règles : c’est exercer son jugement dans les zones grises où elles ne tranchent pas.

Partie 1. Choisissez une ou deux tensions de la liste — ou une autre — qui vous semblent les plus importantes ou les moins résolues, et notez pourquoi dans votre contexte.

Partie 2. Complétez, dans vos mots, et ajoutez-le à votre document de contexte :

• « Pour me prémunir contre cette tension, je ne déléguerai pas les décisions liées à… » (le jugement final, les retours relationnels, l’évaluation à fort enjeu) ;
• « L’IA est utile dans ma pratique quand elle m’aide, ou aide mes élèves, à… » (s’entraîner, explorer des idées, se débloquer), sans aggraver cette tension ;
• « Quand je ne sais pas si un usage est éthique, je… » (fais une pause, consulte un collègue, relis les consignes de l’institution, teste prudemment).

Questions de réflexion

• Quel changement concret allez-vous apporter à votre façon de traiter des données avec l’IA, et quels outils sont réellement validés pour cela ?
• Dans votre travail le plus régulier sur des données, où l’IA pourrait-elle vraiment aider, et où le jugement humain est-il trop important pour être délégué ?

Sources officielles : Ethics & responsible AI use (Claude Academy, vidéo et sa transcription) · Les violations de données dans l’éducation (CNIL, guide pratique, mai 2025) · CNIL — Éducation · Publication du cadre d’usage de l’intelligence artificielle en éducation (ministère de l’Éducation nationale, 14 juin 2025)

Points clés à retenir

• Les règles de protection des données s’appliquent aux outils d’IA : n’utilisez que des outils validés pour tout ce qui touche aux élèves
• Retirez ce qui n’est pas nécessaire, et préférez des données agrégées
• Validez l’IA sur des données dont vous connaissez déjà les résultats avant de lui confier de nouvelles analyses
• L’usage responsable demande un jugement pédagogique sur des zones grises : formulez vos engagements, et revoyez-les avec le temps

Crédits et licence — Adaptation française de la leçon « Ethics & responsible AI use » du cours « AI Fluency for pK–12 educators » de Claude Academy, l’académie d’Anthropic, créé par Anthropic en partenariat avec Teach For America et fondé sur le cadre AI Fluency de Rick Dakan et Joseph Feller. Les supports d’origine sont © 2026 Anthropic, publiés sous licence CC BY-NC-SA 4.0 ; cette adaptation, qui les traduit, les remanie et remplace le cadre américain (FERPA) par le cadre français, est diffusée sous la même licence. L’encadré sur le cadre français est un ajout de Corsen.