Les jeux vidéo dotés d'intelligence artificielle suscitent des inquiétudes : une petite boîte rouge offre une solution prometteuse.

Cet article fait partie de Trending Forward, notre série vidéo et audio qui explore comment les technologies révolutionnaires changent notre façon de vivre.

Si vous faites partie de ceux qui disent : « L’intelligence artificielle semble omniprésente », eh bien, vous vous trompez. Certes, elle s’immisce dans le monde du travail, les écoles et d’autres lieux, mais elle investit aussi rapidement de nouveaux domaines.

L'univers du jeu vidéo en est un bon exemple, et il comporte des risques terrifiants. En tant que parent, l'idée que son enfant puisse avoir un accès quasi illimité au meilleur (et au pire) du web est totalement inacceptable. Pourtant, nous assistons à une prolifération de jeux capables de transformer les histoires du soir en de véritables cauchemars.

C’est pourquoi nous avons rencontré Arun Gupta, un entrepreneur qui a bâti des entreprises florissantes dans les secteurs des vêtements connectés et de la mode. En passant du temps en famille, il a commencé à réfléchir à la manière dont la technologie pourrait divertir, éduquer et stimuler la créativité des enfants simultanément. Comme nous l’avons vu dans d’autres exemples, l’intelligence artificielle peut ouvrir de nouvelles perspectives créatives, notamment grâce au développement de jeux avec l’application gratuite Meta, basée sur l’IA.

Gupta a repris contact avec son partenaire technique, Robert Whitney, et ils ont commencé à travailler sur la création de Stickerbox , un appareil autonome qui utilise l'intelligence artificielle pour permettre aux enfants de décrire les images qu'ils imaginent – ​​presque n'importe quoi – et de les voir affichées sur l'écran monochrome de l'interface avant d'être imprimées à la demande.

Son design rappelle celui du vieux Etch a Sketch, et les autocollants sont imprimés sur une imprimante thermique intégrée, ce qui réduit les dégâts, et les enfants peuvent ensuite les colorier à leur guise.

Le concept est simple, et j'ai constaté qu'il a déjà dépassé le stade de ses premiers adeptes et gagne en popularité. Lorsque j'ai récemment parlé de Stickerbox à une amie britannique qui a de jeunes enfants, elle s'est exclamée : « Ah, ce truc autocollant à intelligence artificielle qui ressemble à un Etch-a-Sketch ? J'en veux un ! »

Même si je suppose qu'elle voulait dire cela pour ses enfants, cela montre que l'intelligence artificielle est secondaire ici ; c'est la capacité à créer des choses tangibles à partir du son qui est passionnante, et non la simple présence d'apprentissage automatique au cœur du système.

Une nouvelle génération de jeux

Stickerbox semble avoir été conçu, fabriqué et utilisé pour être à l'opposé de certains autres jouets à intelligence artificielle disponibles sur le marché. Ces derniers, plus problématiques, se présentent comme des amis et des confidents pour l'enfant.

Il écoute constamment tout ce qui se dit autour de lui et peut même manipuler les enfants. On a rapporté des exemples de jeux d'IA qui indiquent aux enfants comment trouver des armes et des allumettes.

C’est là que réside le paradoxe : les outils d’IA peuvent stimuler la curiosité et la créativité des enfants, leur permettant d’accomplir des choses auparavant impossibles. Mais cette opportunité s’accompagne aussi de risques considérables – c’est pourquoi notre conversation avec Gupta est simple : comment créer un jeu qui offre les avantages de l’IA sans les risques liés à son utilisation ?

Une étude récente publiée par PIRG a mis en lumière d'importantes préoccupations concernant les jeux qui s'appuient sur l'accès à de grands modèles de langage (LLM) tels que ChatGPT d'OpenAI, et la façon dont – même s'il existe des protections – celles-ci peuvent être contournées.

Alors, en quoi Stickerbox est-il différent ?

Gupta explique : « Nous sommes partis d'une question très simple : et si l'intelligence artificielle était conçue spécifiquement pour les enfants ? »

Il ajoute : « Je pense que Bob et moi, lorsque nous avons créé cette entreprise, étions très inspirés par les réseaux sociaux et leur impact sur la jeune génération. Les réseaux sociaux, comme chacun sait, fonctionnent selon des mécanismes similaires à ceux des jeux de casino, conçus pour procurer une décharge de dopamine et pour maximiser l’interaction afin de vous être le plus utile possible. »

Il poursuit : « Mais si l’on applique ce modèle aux enfants… il ne leur convient pas vraiment. Il n’existe pas de plateformes de médias sociaux spécifiquement conçues pour eux. Et je pense que l’on observe le même phénomène avec l’intelligence artificielle. »

Stickerbox a donc été conçu pour exploiter la créativité de l'intelligence artificielle tout en garantissant la sécurité des enfants. Ses trois principales caractéristiques de sécurité sont : l'appareil n'« écoute » que lorsque le bouton du microphone est enfoncé ; des règles strictes encadrent la sécurité du contenu produit ; et les parents peuvent superviser l'activité de leurs enfants via l'application dédiée.

Le fonds interdit aux enfants de filmer ou de diffuser des scènes de nudité, de sang, de violence ou tout contenu choquant. Comme l'a indiqué Gupta, l'entreprise souhaitait « privilégier une sécurité maximale plutôt qu'une sécurité moindre dès le début de ses activités ».

Stickerbox se connecte à Internet pour accéder à l'intelligence artificielle, mais utilise son propre système propriétaire plutôt qu'OpenAI, contrairement à de nombreuses autres entreprises. La création de son propre modèle de langage à grande échelle a permis à Hapiko d'intégrer ce que Gupta appelle des « points de contrôle ».

« Nous avons actuellement de nombreuses commandes intégrées au boîtier, et il repose sur de nombreux logiciels spécialisés, mais en gros, on peut le voir de cette manière simple : il y a un système où l'enfant prononce une phrase, qui est traduite en texte, puis le texte est traduit en image, et l'image est renvoyée. »

« Par conséquent, ce processus comporte plusieurs points de contrôle. Il y a d'abord le point de contrôle où le texte est créé, et vous pouvez examiner son contenu. Ensuite, vous pouvez lui appliquer un filtre de sécurité. (Ensuite), il y a l'étape de conversion du texte en image, et vous pouvez l'examiner et voir ce qui sera converti en image. »

Stickerbox enseigne aux enfants une leçon importante : comment formuler leurs instructions à un moteur d'intelligence artificielle. Si l'autocollant obtenu ne correspond pas exactement à ce qu'ils avaient imaginé, ils doivent réfléchir à la manière de modifier leur requête pour obtenir le résultat souhaité.

Bien que vous puissiez faire la même chose avec n'importe quel chatbot, la fonction d'impression nécessite la connexion d'appareils et requiert la supervision et l'accompagnement d'un parent pour contrôler le processus et éventuellement aborder certains sujets sensibles.

Nous avons exploré en profondeur l'avenir de cette boîte : comment les parents et les enseignants l'ont accueillie, comment ils ont surmonté les premiers défis et questions, ce que l'avenir réserve à ce domaine en pleine expansion des jeux d'IA… et comment Hapiko a dû renoncer à certaines fonctionnalités pour commercialiser ce produit en toute sécurité.