Étude : le bruit de l'IA entrave la recherche réelle sur l'IA

Une nouvelle étude publiée ce mois-ci par l’Association pour l’avancement de l’intelligence artificielle (AAAI), impliquant des centaines de chercheurs en IA, présente une conclusion clé : notre approche actuelle de l’IA ne nous conduira probablement pas à une intelligence artificielle générale.

L’intelligence artificielle est un sujet de conversation populaire depuis quelques années, mais le domaine de l’IA en tant que domaine de recherche scientifique existe depuis des décennies. Par exemple, le célèbre article d’Alan Turing « Computing Machinery and Intelligence » et le test de Turing dont nous parlons encore aujourd’hui ont été publiés en 1950.

L’IA dont tout le monde parle aujourd’hui est née de ces décennies de recherche, mais elle s’en éloigne aussi. Au lieu d’être une recherche scientifique, nous avons désormais également une branche distincte de l’IA que nous pouvons appeler « IA commerciale ».

Graphiques montrant les produits d'IA.

De grands monopoles tels que Microsoft, Google, Meta, Apple et Amazon mènent des efforts commerciaux en matière d’IA, avec pour objectif principal de créer des produits d’IA. Cela ne devrait pas être un problème, mais pour l’instant, il semble que cela puisse l’être.

Premièrement, comme la plupart des gens ne suivent la recherche en IA que depuis deux ans, leurs connaissances en la matière proviennent principalement des entreprises et non de la communauté scientifique. L'étude aborde ce problème dans le chapitre « Perception de l'IA vs. Réalité », où 79 % des scientifiques participants estiment que la perception actuelle des capacités de l'IA ne correspond pas à la réalité de la recherche et du développement dans ce domaine.

En d’autres termes, ce que le grand public pense que l’IA peut faire ne correspond pas à ce que les scientifiques pensent que l’IA peut faire. La raison en est aussi simple que regrettable : lorsqu’un cadre supérieur du secteur technologique fait une déclaration sur l’IA, il ne s’agit pas d’une opinion scientifique, mais de marketing produit. Ils veulent promouvoir la technologie qui alimente leurs nouveaux produits et s’assurer que tout le monde ressent le besoin de suivre le mouvement.

Quand Sam Altman ou Mark Zuckerberg affirment que les emplois d'ingénieurs logiciels seront remplacés par l'intelligence artificielle, c'est pour inciter les ingénieurs à se former à l'IA et persuader les entreprises technologiques d'investir dans des solutions d'entreprise onéreuses. Cependant, tant qu'ils ne commenceront pas à remplacer leurs ingénieurs (et à en tirer profit), je ne croirai pas un mot de ce qu'ils disent à ce sujet.

Cependant, l’IA commerciale n’influence pas seulement la perception du public. Les participants à l’étude estiment que le « battage médiatique autour de l’IA » créé par les grandes entreprises technologiques nuit aux efforts de recherche. Par exemple, 74 % conviennent que l’orientation de la recherche en IA est déterminée par le battage médiatique – probablement parce que la recherche qui s’aligne sur les objectifs commerciaux de l’IA est plus facile à financer. 12 % pensent également que la recherche théorique en IA en souffre.

Alors, à quel point ce problème est-il grave ? Même si les grandes entreprises technologiques influencent le type de recherche que nous menons, les sommes probablement énormes qu’elles investissent dans ce domaine devraient avoir un impact globalement positif. Cependant, la variété est essentielle en matière de recherche : nous devons explorer toutes sortes de voies différentes pour avoir une chance de trouver la meilleure.

Mais les grandes entreprises technologiques se concentrent actuellement sur une seule chose : les grands modèles de langage. Ce type de modèle d'IA très spécifique est à la base de la quasi-totalité des produits d'IA les plus récents, et des experts comme Sam Altman pensent qu'en rendant ces modèles de plus en plus évolutifs (c'est-à-dire en leur fournissant davantage de données, de temps d'entraînement et de puissance de calcul), nous parviendrons à terme à une IA généralisée.

Cette idée, connue sous le nom d’hypothèse d’échelle, affirme que plus nous donnons de puissance à l’IA, plus ses capacités cognitives sont grandes et plus ses taux d’erreur sont faibles. Certaines interprétations affirment également que de nouvelles capacités cognitives apparaîtront de manière inattendue. Ainsi, même si les grands modèles linguistiques ne sont pas très efficaces pour planifier et raisonner sur les problèmes à l’heure actuelle, ces capacités doivent émerger à un moment donné.

Cependant, ces derniers mois, l'hypothèse de la mise à l'échelle a fait l'objet de nombreuses critiques. Certains scientifiques estiment que la mise à l'échelle de grands modèles de langage ne mènera jamais à une intelligence artificielle générale, arguant que la puissance supplémentaire allouée aux nouveaux modèles ne produit plus de résultats. Nous aurions plutôt atteint un « mur de la mise à l'échelle » ou une « limite de mise à l'échelle » où l'augmentation considérable de la puissance de calcul et des données n'entraîne que des améliorations mineures des nouveaux modèles. La plupart des scientifiques ayant participé à l'étude de l'AAAI partagent ce point de vue.

La majorité des répondants (76 %) ont déclaré que « l’intensification des approches d’IA actuelles » pour atteindre l’AGI est « peu probable » ou « très peu probable » de réussir, ce qui indique des doutes quant à la capacité des modèles d’apprentissage automatique actuels à atteindre l’intelligence générale.

Les grands systèmes de traitement du langage actuels peuvent produire des réponses très pertinentes et utiles lorsque tout fonctionne correctement, mais ils reposent sur des principes mathématiques . De nombreux scientifiques estiment que, pour progresser vers l'objectif d'une intelligence artificielle générale, nous aurons besoin de nouveaux algorithmes utilisant la logique, le raisonnement et les connaissances factuelles pour parvenir à une solution. Voici une citation cinglante à propos des grands systèmes de traitement du langage et de l'intelligence artificielle générale, extraite d' un article de 2022 de Jacob Browning et Jan LeCun.

Un système formé uniquement au langage ne pourra jamais se rapprocher de l’intelligence humaine, même s’il était formé dès maintenant et jusqu’à ce que la chaleur de l’univers s’éteigne.

Cependant, il n’existe aucun moyen réel de savoir qui a raison ici – pas encore. D’une part, la définition de l’intelligence artificielle générale n’est pas fixe et tout le monde ne vise pas le même objectif. Certains pensent que l’intelligence artificielle générale devrait produire des réponses semblables à celles des humains grâce à des méthodes semblables aux nôtres – elle devrait donc observer le monde qui l’entoure et résoudre les problèmes d’une manière similaire à la nôtre. D’autres pensent que l’IA générale devrait se concentrer davantage sur les réponses correctes plutôt que sur les réponses humaines, et que les méthodes qu’elle utilise ne devraient pas avoir d’importance.

Cependant, à bien des égards, peu importe la version d'IA générale qui vous intéresse ou votre opinion sur l'hypothèse de la mise à l'échelle : la diversification de nos recherches reste indispensable. Si nous nous concentrons uniquement sur la mise à l'échelle de grands modèles de langage, nous devrons tout reprendre à zéro en cas d'échec, et nous risquons de ne pas découvrir de méthodes nouvelles, plus efficaces. Nombre de scientifiques impliqués dans cette étude craignent que l'IA commerciale et le battage médiatique qui l'entoure ne ralentissent les progrès réels. Espérons que leurs inquiétudes seront prises en compte et que les deux branches de la recherche en IA pourront coexister et progresser de concert. Bien sûr, on peut aussi espérer que la bulle de l'IA éclate et que tous les produits technologiques basés sur l'IA tombent dans l'oubli, si on le préfère.

Les commentaires sont fermés.