J'ai récemment eu la chance de participer au programme « Skype a Scientist » , qui met en relation des scientifiques de diverses disciplines (biologistes, botanistes, ingénieurs, informaticiens, etc.) avec des classes d'enfants pour parler de leurs travaux et répondre à leurs questions. J'ai l'habitude d'aborder l'intelligence artificielle et l'apprentissage automatique avec un public adulte, mais c'était la première fois que je réfléchissais sérieusement à la manière d'en parler aux enfants, et ce fut un défi intéressant. Aujourd'hui, je partage quelques idées que j'ai développées dans le cadre de cette expérience, qui pourront être utiles à ceux d'entre vous qui ont des enfants dans leur entourage. Ces idées offrent des pistes précieuses pour simplifier les concepts complexes de l'IA et les rendre plus accessibles et captivants pour les enfants.
Préparez-vous à expliquer un concept
Lorsque je me prépare à un discours, devant un public, je suis quelques règles de base. Je dois être très clair sur les informations que j’ai l’intention de présenter et sur les nouveaux concepts que le public doit connaître après la conférence, car cela détermine tout ce qui concerne les informations que je vais partager. Je souhaite également présenter mon matériel à un niveau de complexité adapté aux connaissances préexistantes du public, sans trop simplifier les choses, mais sans non plus les pousser au-delà de leur niveau de compréhension.
Dans ma vie quotidienne, je ne suis pas forcément pleinement conscient de ce que les enfants savent déjà (ou pensent savoir) sur l’intelligence artificielle (IA). Je souhaite adapter mes explications au niveau du public, mais dans ce cas, j'ai une vision quelque peu limitée de leurs connaissances de base. Dans certains cas, j’ai été surpris de constater que les enfants étaient très conscients de choses comme la concurrence en matière d’IA entre les entreprises et au-delà des frontières internationales. Un exercice utile pour décider de la manière de structurer le contenu consiste à proposer des métaphores qui utilisent des concepts ou des techniques que le public connaît déjà bien. En réfléchissant à cela, vous aurez également un accès aux antécédents du public. De plus, soyez prêt à changer et à ajuster votre style de présentation si vous décidez que vous n’êtes pas à la hauteur. J'aime demander aux enfants ce qu'ils pensent de l'IA et ce qu'ils savent au début, afin de pouvoir commencer à y voir plus clair avant d'aller trop loin.
Comprendre la technologie : les bases des modèles d'IA
Surtout avec les enfants, je concentre mes présentations sur plusieurs points principaux. Les lecteurs savent que je suis un fervent défenseur de l’enseignement aux non-experts sur la manière de former de grands modèles de langage (LLM) et d’autres modèles d’IA, et sur quelles données ils sont formés. Cela est essentiel pour former des attentes réalistes quant aux résultats de ces modèles. Je pense qu’il est facile pour n’importe qui, y compris les enfants, de se laisser entraîner par la nature incarnée du ton, de la voix et même de la « personnalité » des modèles LLM, et de perdre de vue les limites réalistes de ces outils.
Le défi est de maintenir les choses adaptées à l’âge, mais une fois que vous leur expliquez comment fonctionne la formation, comment les modèles LLM apprennent à partir d’exemples de matériel écrit ou comment un modèle de diffusion apprend à partir de paires texte-image, ils peuvent tirer leurs propres conclusions sur les résultats possibles. À mesure que les agents d’IA deviennent plus complexes et que les mécanismes sous-jacents deviennent plus difficiles à isoler, il est important que les utilisateurs comprennent les éléments constitutifs qui conduisent à cette capacité.
Pour ma part, je commence par expliquer la formation comme un concept général, en évitant autant que possible le jargon technique. Lorsque l’on parle aux enfants, un langage incarné peut aider à rendre les choses moins ambiguës. Par exemple, « Nous donnons aux ordinateurs beaucoup d’informations et leur demandons d’apprendre les modèles qu’elles contiennent. » Ensuite, je décrirai des exemples de motifs tels que ceux que l’on trouve dans le langage ou dans les pixels d’une image, car le mot « motifs » seul est trop général et trop large. Ensuite, « ces modèles que vous apprenez sont écrits à l'aide de mathématiques, et ces mathématiques constituent ce qui se trouve à l'intérieur d'un « modèle ». Désormais, lorsque nous donnons de nouvelles informations au modèle, il nous envoie une réponse basée sur les modèles qu’il a appris. À partir de là, je donne un autre exemple complet et j'explique un processus de formation simplifié (généralement un modèle de série chronologique car il est très facile à visualiser). Ensuite, j'entrerai plus en détail dans les différents types de modèles et j'expliquerai la différence entre les réseaux neuronaux et les modèles linguistiques, dans la mesure appropriée au public.
Éthique de l'IA et influences externes
J'aimerais également aborder les questions éthiques liées à l'intelligence artificielle. Je suis convaincu que les enfants, du primaire au lycée, sont parfaitement capables de comprendre les impacts environnementaux et sociaux que peuvent avoir les technologies d'IA, notamment les grands modèles de langage (GML). Il me semble que beaucoup d'enfants aujourd'hui ont une compréhension assez avancée du changement climatique et de la crise environnementale ; il est donc tout à fait pertinent d'aborder la quantité d'énergie, d'eau et de terres rares nécessaires au fonctionnement des GML. L'important est simplement d'adapter ses explications à l'âge des élèves. Comme je l'ai mentionné précédemment, il est essentiel d'utiliser des exemples concrets qui font écho à leur vécu. Nous devons nous concentrer sur l'éthique de l'IA et son impact sur la société et l'environnement.
Voici un exemple de la transition entre l’expérience d’un enfant et l’impact environnemental de l’IA.
Vous n'avez pas tous des Chromebooks pour vos devoirs ? Avez-vous déjà remarqué que lorsque vous travaillez longtemps assis avec votre ordinateur portable sur vos genoux, son dos chauffe ? Peut-être parce que vous ouvrez beaucoup de fichiers en même temps ou regardez beaucoup de vidéos ? Ce réchauffement est identique à celui des gros ordinateurs appelés serveurs qui fonctionnent lorsque vous vous entraînez ou utilisez un modèle de langage étendu (LLM), comme lorsque vous consultez le site web chatGPT.
Les centres de données qui assurent le fonctionnement de ChatGPT sont remplis de serveurs fonctionnant simultanément, et ils chauffent tous énormément, ce qui nuit au matériel. C'est pourquoi ces centres utilisent parfois de l'eau froide et des produits chimiques, pompés dans des canalisations qui traversent directement tous les serveurs. Cela permet de refroidir les machines et de les maintenir en fonctionnement. Cependant, cela implique une grande quantité d'eau utilisée, mélangée aux produits chimiques, et chauffée lors de son passage dans ces systèmes. Cette eau peut donc ne pas être disponible pour d'autres usages, comme l'agriculture ou l'eau potable.
Parfois, ces centres de données utilisent de gros climatiseurs, dont le fonctionnement consomme beaucoup d'électricité, ce qui peut entraîner une pénurie d'électricité pour nos foyers ou nos entreprises. L'électricité est également parfois produite par la combustion de charbon dans des centrales électriques, ce qui rejette des gaz d'échappement dans l'air et augmente la pollution.
Cela intègre l’expérience de l’enfant dans la conversation et lui donne un moyen concret de se rapporter au concept. Vous pouvez avoir des discussions similaires sur l’éthique du droit d’auteur et le vol de contenu, en utilisant des artistes et des créateurs familiers aux enfants, sans avoir à vous plonger dans les détails du droit de la propriété intellectuelle. Les deepfakes, sexuels ou autres, sont certainement un sujet que de nombreux enfants connaissent également, et il est important que les enfants soient conscients des risques qu’ils représentent pour les individus et la société lorsqu’ils utilisent l’IA.
Cela peut être effrayant, en particulier pour les jeunes enfants, lorsqu’ils commencent à comprendre certaines des applications contraires à l’éthique de l’IA ou les défis mondiaux qu’elle crée, et réalisent à quel point certaines de ces choses peuvent être puissantes. Les enfants m’ont demandé : « Comment pouvons-nous résoudre le problème si quelqu’un apprend à l’IA à faire de mauvaises choses ? » Par exemple. J’aurais aimé avoir de meilleures réponses à cette question, car je devais essentiellement dire : « L’IA possède parfois les informations nécessaires pour faire de mauvaises choses, mais il y a aussi beaucoup de gens qui travaillent dur pour rendre l’IA plus sûre et l’empêcher de partager de mauvaises informations ou des instructions sur la façon de faire de mauvaises choses. »
Déconstruire le concept de « vérité »
Humaniser l'intelligence artificielle représente un véritable défi, tant pour les adultes que pour les enfants : nous avons tendance à faire confiance à une voix amicale et assurée lorsqu'elle nous informe. Une part importante du problème réside dans le fait que la voix des grands modèles de langage (GML) qui nous parlent est souvent amicale, assurée, mais inexacte. Le concept d'éducation aux médias est un sujet important en pédagogie depuis des années, et son extension aux grands modèles de langage (GML) constitue une suite logique . De même que les élèves (et les adultes) doivent apprendre à analyser de manière critique l'information créée par d'autres personnes ou entreprises, nous devons apprendre à analyser de manière critique et réfléchie le contenu généré par ordinateur. Cela implique de comprendre les limites de ces technologies.
Je pense que cela va de pair avec la compréhension de la technologie. Lorsque j’explique que la tâche d’un grand modèle de langage (LLM) est d’apprendre et de copier le langage humain, au niveau le plus simple en déterminant le prochain mot possible dans une chaîne en fonction de ce qui le précède, cela a du sens lorsque je dis qu’un LLM ne peut pas comprendre l’idée de « vérité ». La vérité ne fait pas partie du processus de formation et, en même temps, la vérité est un concept vraiment difficile à saisir, même pour les gens. Un grand modèle linguistique (LLM) peut donner les faits corrects la plupart du temps, mais des angles morts et des erreurs potentielles apparaîtront de temps à autre, en raison de la probabilité. Par conséquent, les enfants qui l’utilisent doivent être pleinement conscients de la faillibilité de l’outil.
Cependant, cette leçon a une valeur qui dépasse la simple utilisation de l'IA, car nous enseignons comment gérer l'incertitude, l'ambiguïté et les erreurs. Comme l'ont souligné Berman et Agawi (2023) , « l'éducation dans un monde médiatisé par l'IA implique d'apprendre à composer avec des situations vagues, partielles et ambiguës, qui reflètent la complexité des relations entre les personnes et les technologies ». J'apprécie particulièrement cette perspective car elle rejoint une réflexion que je mène souvent : les grands modèles de langage (GML) sont créés par des humains et reflètent des interprétations de contenus également créés par des humains. Lorsque les enfants apprennent comment les modèles se forment, qu'ils sont faillibles et que leurs résultats découlent d'entrées créées par des humains, ils acquièrent une compréhension plus globale de la nature nébuleuse du fonctionnement de la technologie dans notre société actuelle. (D'ailleurs, je recommande vivement cet article à quiconque s'intéresse à l'enseignement de l'IA aux enfants.)
Note complémentaire sur les photos et les vidéos
Comme je l’ai mentionné plus tôt, la prolifération de contenus vidéo et d’images « IA slop » soulève de nombreuses questions difficiles. Je crois qu’il est essentiel de fournir aux enfants des informations dans ce domaine, car il est facile d’absorber de la désinformation ou des mensonges purs et simples à travers un contenu visuel convaincant. Ce contenu est également à une étape du processus de création réel pour la plupart des enfants, car une grande partie de ce matériel est largement partagé sur les réseaux sociaux et il est peu probable qu'il soit correctement catégorisé. Il peut être utile de parler aux enfants des signes qui aident à repérer le contenu généré par l’IA, ainsi que des compétences générales en matière d’éducation aux médias critiques telles que « Si cela semble trop beau pour être vrai, c’est probablement faux » et « Vérifiez bien ce que vous entendez dans ce type de publication ». Il est essentiel d’apprendre aux enfants à vérifier les faits et les sources d’information pour améliorer leur capacité à distinguer le contenu réel du faux.
tricherie utilisant l'intelligence artificielle
Malgré tous les problèmes éthiques et les risques liés aux erreurs de LLM, ces outils d'IA sont incroyablement utiles et attrayants, il est donc compréhensible que certains étudiants puissent recourir à leur utilisation pour tricher sur leurs devoirs et à l'école. Je dirais que nous devons simplement leur parler, en leur expliquant que l'objectif est d'acquérir les compétences nécessaires pour terminer leurs devoirs, et que s'ils ne les apprennent pas, ils perdront les compétences dont ils auront besoin dans les classes supérieures et plus tard dans la vie... mais nous savons tous que les enfants sont rarement aussi logiques. Leur cerveau est encore en développement et ce genre de choses est parfois difficile à envisager, même pour les adultes. Comprendre l’impact de l’IA sur l’éducation nécessite une compréhension approfondie des capacités de ces outils et de leur impact potentiel sur le développement des compétences essentielles.
Deux approches principales s'offrent à vous : rendre les devoirs plus difficiles, voire impossibles à tricher, ou intégrer l'IA en classe, en supposant que les élèves y auront accès à terme. Actuellement, le travail supervisé en classe permet aux élèves d'acquérir certaines compétences sans intervention numérique. Cependant, comme je l'ai mentionné précédemment, l'éducation aux médias doit désormais inclure les modèles reconnus, et je suis convaincu que leur utilisation supervisée par un enseignant compétent peut s'avérer très enrichissante sur le plan pédagogique. Par ailleurs, il est impossible de rendre les devoirs « à l'épreuve de l'IA » sans la supervision directe d'un enseignant, et nous devons en prendre conscience. Attention, je ne veux pas minimiser la difficulté : la section « Pour aller plus loin » propose plusieurs articles universitaires sur les enjeux liés à l'enseignement de l'IA en classe. Les enseignants sont confrontés à la tâche ardue de se tenir au courant des évolutions technologiques et d'adapter leurs méthodes pédagogiques, tout en fournissant à leurs élèves les connaissances nécessaires à une utilisation responsable de l'IA. Les enseignants devraient également s'attacher à enseigner aux élèves comment évaluer de manière critique les informations produites par l'intelligence artificielle et développer leurs compétences en matière de pensée critique.
Apprendre de l'exemple de l'éducation sexuelle : leçons sur l'intelligence artificielle
En fin de compte, la question est de savoir ce que nous devrions exactement recommander aux enfants et ce qu’ils devraient éviter dans un monde avec l’IA, à l’intérieur comme à l’extérieur de la salle de classe. Je suis rarement partisan d’interdire ou de prohiber des idées, et je pense que l’exemple d’une éducation sexuelle complète, fondée sur la science et adaptée à l’âge est une bonne leçon. Si les enfants ne reçoivent pas d’informations précises sur leur corps et leur sexualité, ils n’auront pas les connaissances nécessaires pour prendre des décisions éclairées et responsables dans ce domaine. Les adultes ne seront pas là pour faire respecter les mandats lorsque les enfants prendront des décisions difficiles sur ce qu’ils doivent faire dans des circonstances difficiles. Nous devons donc nous assurer que les enfants disposent des informations nécessaires pour prendre eux-mêmes ces décisions de manière responsable. Cela comprend des conseils moraux mais aussi des informations factuelles. De même, nous devons veiller à ce que les étudiants acquièrent une compréhension globale du potentiel et des risques de l’IA, afin qu’ils puissent l’utiliser de manière efficace et responsable à l’ère numérique.
Modélisation de la responsabilité dans l'utilisation de l'intelligence artificielle
Une autre chose qu’il me semble important de mentionner est que les adultes devraient également faire preuve d’un comportement responsable lorsqu’ils ont affaire à l’IA. Si les enseignants, les parents et les autres adultes présents dans la vie des enfants ne sont pas conscients de l’IA, ils ne pourront pas apprendre aux enfants à être des consommateurs critiques et réfléchis de cette technologie.
Un article récent du New York Times sur l'utilisation de l'intelligence artificielle (IA) par les enseignants m'a quelque peu agacé. L'article ne témoigne pas d'une compréhension approfondie de l'IA, la confondant avec de simples statistiques (un enseignant analysant les données de ses élèves pour adapter son enseignement à leur niveau n'a rien à voir avec l'IA, et cette pratique n'est ni nouvelle ni problématique). Cependant, il ouvre le débat sur l'utilisation des outils d'IA par les adultes qui entourent les enfants, et souligne la nécessité pour ces adultes de donner l'exemple d'une utilisation transparente et critique. (L'article aborde également brièvement la question de l'influence des entreprises privées sur l'IA dans les salles de classe, un problème qui mériterait d'être davantage approfondi – j'y reviendrai peut-être plus tard.)
Pour contrer l'une des affirmations de l'article, je ne m'opposerais pas à ce que les enseignants utilisent des modèles de langage complexes ( MLC ) pour une première évaluation des productions écrites, à condition qu'ils contrôlent et valident les résultats. Si les critères d'évaluation portent sur la grammaire, l'orthographe et les règles de l'écriture, un MLC est probablement approprié compte tenu de sa méthode d'entraînement. Je ne souhaite pas faire aveuglément confiance à un MLC dans ce domaine sans un minimum d'analyse, mais il est, de fait, conçu pour comprendre le langage humain. L'idée que « l'élève a dû écrire, donc l'enseignant devrait devoir évaluer » est absurde, car le but de l'exercice est l'apprentissage. Les enseignants maîtrisent déjà les règles de l'écriture, et ce projet n'a pas pour but de les contraindre à apprendre quelque chose qui ne peut s'acquérir que par une évaluation manuelle. Je soupçonne que le New York Times le sait et que le titre était surtout un appât à clics, mais il est important de le rappeler.
Ce point revient à la section précédente sur la compréhension de la technologie. Si vous comprenez avec certitude à quoi ressemble le processus de formation, vous pouvez déterminer si ce processus produira ou non un outil capable de gérer une tâche. Mais l’automatisation des évaluations fait partie de l’éducation depuis au moins des décennies – quiconque a rempli une feuille de notes le sait.
Le développement de cette technologie oblige notre système éducatif à s'adapter, mais il est encore trop tôt pour revenir en arrière. L'IA peut certes avoir des effets positifs sur l'éducation (on cite souvent la personnalisation de l'enseignement et le gain de temps pour les enseignants, qui peuvent alors se consacrer directement aux élèves), mais comme souvent, je reste réaliste. Comme la plupart des enseignants le savent, l'éducation ne peut plus se dérouler comme avant l'arrivée des grands modèles de langage ( GML ).
CONCLUSION
Les enfants sont plus intelligents que nous le pensons parfois, et je pense qu’ils peuvent comprendre beaucoup de choses sur ce que signifie l’IA dans notre monde. Mon conseil est d’être transparent et honnête sur les réalités de cette technologie, y compris les avantages et les inconvénients qu’elle représente pour nous en tant qu’individus et pour notre société dans son ensemble. La façon dont nous utilisons l’IA façonnera les choix des enfants, qu’ils soient positifs ou négatifs, et c’est quelque chose à laquelle ils prêteront attention. Il est donc essentiel de réfléchir à nos actions ainsi qu’à ce que nous disons. Nous devons leur expliquer le potentiel et les défis de l’IA, en mettant l’accent sur l’utilisation éthique et responsable de cette technologie.
Les commentaires sont fermés.