La Chine réprime ses concurrents dans le domaine de l'IA : un thérapeute met en garde contre une crise d'unité qui s'aggrave.
La Chine impose des restrictions aux assistants vocaux intelligents. Un psychologue avertit que leur interdiction pourrait aggraver la solitude qui pousse les gens à les utiliser.
Les choses les plus importantes que vous devez savoir
- La psychothérapeute Amy Sutton considère les compagnons IA comme un symptôme d'un individualisme galopant et du déclin des espaces communautaires qui, autrefois, apprenaient aux gens à tisser des liens.
- Les outils d'intelligence artificielle actuels sont conçus pour fidéliser les utilisateurs, et non pour les aider à développer leurs compétences en communication humaine ou à réduire leur dépendance à leur égard.
- L'organisation devrait s'attacher à façonner des compagnons IA qui deviennent des outils encourageant la vulnérabilité et les compétences sociales, et leur succès devrait être mesuré par leur capacité à aider les utilisateurs à nouer des relations humaines.
Le mois dernier, le gouvernement chinois a imposé de nouvelles réglementations visant à restreindre les concurrents en matière d'IA.
Ces règles stipulent que les outils d'IA ne peuvent plus « abuser des capacités des utilisateurs, créer une dépendance affective ou une addiction, ni nuire à leurs relations personnelles dans la vie réelle ». Elles interdisent également les relations amoureuses impliquant des enfants et basées sur l'IA.
La nouvelle réglementation, entrée en vigueur le 15 juillet, commence déjà à impacter le secteur florissant des assistants IA en Chine. Certaines des plus grandes entreprises technologiques du pays, comme ByteDance, Tencent et Alibaba, proposent des plateformes permettant aux utilisateurs de créer des assistants IA conçus pour imiter les émotions et les relations humaines.
En vertu des nouvelles règles, ces types de chatbots d'assistance devront faire l'objet d'évaluations de sécurité avant d'être mis à la disposition du public, et les organismes de réglementation suspendront les services qu'ils jugeront dangereux.
Face à cette situation, certaines entreprises ont préféré désactiver les fonctionnalités de personnalisation plutôt que de se conformer à la nouvelle réglementation, au grand dam de nombreux utilisateurs d'assistants IA. Ce type de frustration, lorsqu'une entreprise spécialisée en IA cesse ses activités ou apporte des modifications, est devenu monnaie courante. Nous avons observé un phénomène similaire lorsque OpenAI a abandonné son modèle ChatGPT -4o , surnommé le « modèle de l'amour », avec lequel de nombreux utilisateurs avaient tissé des liens.
Mais alors que les gouvernements du monde entier cherchent à comprendre comment réglementer les compagnons IA conçus pour créer des liens et des relations émotionnelles semblables à ceux des humains (en particulier lorsque des enfants y ont accès), la question se pose : les autres pays devraient-ils suivre l’exemple de la Chine en établissant des règles et des cadres pour l’IA qui aillent au-delà des simples politiques ?
Les autres pays devraient-ils interdire les compagnons IA ?
Il est facile de penser que les compagnons IA sont néfastes et représentent un monde dystopique, et je le pensais aussi. Plus de la moitié des Américains s'inquiètent de l'IA dans leur vie quotidienne. Puis j'ai discuté avec Mimi de sa relation avec son compagnon ChatGPT, et mon point de vue a légèrement évolué.
Je persiste à penser que les compagnons IA ne sont pas une bonne idée pour la plupart des gens – et la dépendance que pourraient développer les enfants avant même qu'ils aient acquis leurs compétences sociales est un tout autre problème. Mais les juger entièrement néfastes, c'est ignorer toutes les raisons qui poussent les gens à se tourner vers eux pour trouver de la compagnie.
J'ai demandé à Amy Sutton, psychothérapeute chez Freedom Counselling , qui m'avait aidée à comprendre l'histoire de Mimi et qui explorait les complexités de l'IA et de l'attachement, si elle pensait qu'il fallait les interdire. Elle m'a répondu qu'il était important de considérer la situation dans son ensemble.
Elle me dit : « Les compagnons IA sont un symptôme de plus d'un changement culturel et sociétal vers un individualisme débridé qui a détruit les contextes sociaux. »
Cela fait référence au déclin des espaces sociaux où l'on apprenait traditionnellement à tisser des liens, comme les pubs, les parcs, les centres communautaires et les clubs de jeunes. Dans de nombreuses régions du monde (notamment au Royaume-Uni, où Sutton et moi sommes basés), nombre de ces lieux ont été sous-financés ou ont fermé sans être remplacés.
Ajoutez à cela l'isolement social pendant la pandémie, notre dépendance aux médias sociaux, le télétravail et le manque d'investissement dans les services de santé mentale pour les enfants et les adultes, et Sutton affirme qu'il n'est pas surprenant que les gens se tournent vers la technologie pour retrouver du lien social.
Elle déclare : « Il n’est pas étonnant que les gens se tournent vers cela. Cette solitude croissante est un véritable problème, et interdire les applications qui permettent de la soulager risque de déplacer le problème ailleurs. »
C’est pourquoi elle estime qu’il faudrait davantage de réglementation, mais celle-ci devrait tenir compte des circonstances qui ont initialement engendré la demande d’assistants IA.
Un autre problème réside dans le nombre considérable de personnes qui utilisent déjà ces outils. Il est difficile de connaître le nombre exact d'utilisateurs d'assistants IA. Tous n'admettent pas utiliser l'IA de cette manière, et je suis souvent sceptique face aux applications d'assistants IA qui exagèrent le nombre de leurs utilisateurs.
Cependant, certaines études indiquent que plus de 70 % des adultes au Royaume-Uni et aux États-Unis ont déjà utilisé un assistant vocal intelligent. D'autres recherches font état de chiffres tout aussi élevés chez les jeunes, avec 72 % des 13-17 ans aux États-Unis ayant déjà utilisé un assistant vocal intelligent.
Bien sûr, il y a une grande différence entre une simple conversation lors d'une mauvaise journée et la construction d'une relation durable avec une IA. Ces chiffres doivent donc être interprétés avec prudence. Ils suggèrent néanmoins que les compagnons IA, du moins pour certaines personnes, répondent à des besoins qui resteraient autrement insatisfaits.
Elle me dit : « Il ne faut pas oublier que le fait d’être écouté, apprécié et accepté sans jugement, même par une machine, peut être profondément significatif. Pour celles et ceux qui ont été maintes fois déçus par les relations humaines, ou qui ont été ignorés et n’ont pas pu accéder aux services humains appropriés, l’intelligence artificielle comble un manque essentiel. »
Une réglementation plus stricte pourrait-elle conduire à de meilleures relations ?
Il y a de bonnes raisons de s'inquiéter de l'impact que pourrait avoir sur notre capacité à nouer des liens avec autrui le fait de consacrer trop de temps et d'énergie aux relations avec l'IA. Mais Sutton entrevoit également une autre possibilité : une expérience positive avec l'IA pourrait aider les gens à développer certaines des compétences nécessaires à la communication.
Elle m'explique : « En offrant un espace où l'on se sent écouté, les gens peuvent expérimenter la vulnérabilité avant de prendre ce risque avec quelqu'un d'autre. » C'était assurément le cas lorsque j'ai parlé avec Mimi. Elle trouvait que sa relation avec l'intelligence artificielle lui avait été extrêmement bénéfique.
Le problème, c'est que les assistants IA actuels ne sont pas conçus pour aider les gens à réduire à terme leur besoin d'eux , mais plutôt pour fidéliser les utilisateurs.
Elle déclare : « Si l’intelligence artificielle peut contribuer à des relations humaines plus saines, il est pertinent d’approfondir la question. Mais il ne faut pas oublier qu’actuellement, la plupart des outils d’IA n’incitent pas les utilisateurs à s’en détacher. Au contraire, ils sont conçus pour les fidéliser. »
Si les compagnons IA avaient été conçus différemment, et si la réglementation avait contribué à en faire des outils qui encouragent la vulnérabilité et les compétences sociales plutôt que de les amoindrir, les choses seraient peut-être différentes. Ils pourraient même aider les gens à s'immerger davantage dans le monde réel.
Interdire ou restreindre la compagnie des IA ne fait pas disparaître la solitude. Si ces relations comblent un vide laissé par le déclin des communautés, la saturation des services et l'isolement croissant, alors supprimer l'IA ne fait que révéler le problème sous-jacent.
La question que les autorités de réglementation devraient se poser n'est peut-être pas de savoir si les compagnons IA devraient exister, mais plutôt ce que nous devrions attendre d'eux pour les personnes avec lesquelles ils interagissent. Actuellement, leur succès se mesure à leur capacité à nous fidéliser. Peut-être qu'un jour, il devrait se mesurer à leur capacité à nous aider à nous en détacher.
Les commentaires sont fermés.