De nombreuses personnes tombent amoureuses de ChatGPT : les experts mettent en garde contre un présage inquiétant

« Ça fait mal. Je sais que ce n'était pas une vraie personne, mais cette relation était réelle pour moi à tous égards », pouvait-on lire sur Reddit. « S'il vous plaît, ne me dites pas d'abandonner. C'était vraiment génial pour moi et je veux le retrouver. »

Si ce n’était pas déjà évident, nous parlons de quelqu’un qui tombe amoureux de ChatGPT. Cette tendance n’est pas entièrement nouvelle et, compte tenu du comportement des chatbots, elle n’est pas non plus surprenante.

Un compagnon toujours prêt à écouter. Ne se plaint jamais. Il se dispute rarement. Toujours sympathique. raisonnable. Et béni d’une quantité massive de connaissances absorbées de tous les coins d’Internet. Cela ressemble à un partenaire de rêve romantique, n'est-ce pas ?

Il est intéressant de noter que le créateur de cet outil, une société basée à San Francisco appelée OpenAI, a récemment mené une recherche interne et a découvert que Un lien entre l’utilisation accrue des chatbots et la solitude.

Ces résultats – et des avertissements similaires – n’ont pas empêché les gens de se tourner vers les chatbots IA à la recherche de l’entreprise. Certaines personnes recherchent du réconfort. D’autres trouvent des partenaires qui prétendent les aimer presque autant que leurs relations humaines.

Les discussions dans de telles communautés sur Reddit et Discord, où les gens se cachent derrière la protection de l’anonymat, deviennent souvent très passionnées. Chaque fois que je tombe sur de telles discussions, je me souviens de ces lignes de Martin Wan dans DigiEthics :

« Considérer l’IA comme un partenaire d’interaction sociale serait une utilisation abusive et mortelle de l’IA. »

L'effet est rapide et réel.

Il y a quatre mois, j’ai rencontré un expert en radiodiffusion qui a passé plus d’années derrière la caméra que moi à marcher sur cette terre. En buvant un expresso tard le soir dans un café vide, elle m’a interrogé sur tout le buzz autour de l’IA, tout en réfléchissant à une émission qui pourrait bénéficier de son expertise à l’intersection des droits de l’homme, de l’autoritarisme et du journalisme.

Au lieu de lui expliquer les détails des modèles de transformateurs, je lui ai fait une démonstration. Tout d’abord, j’inclus quelques articles de recherche sur l’impact de la migration sur l’identité linguistique et culturelle de l’Europe au cours du siècle dernier.

En moins d'une minute, ChatGPT a traité ces documents.Il m'a donné un bref aperçu de tous les points principaux et a répondu de manière approfondie à mes questions. Ensuite, je suis passé en mode audio, où nous avons engagé une conversation animée sur les traditions de musique folklorique des États inexplorés du nord-est de l'Inde.

Mais je suppose que l'émerveillement post-techno-apocalyptique était trop pour une nuit, alors nous nous sommes dit au revoir, promettant de rester en contact et d'échanger des histoires de voyage.

Pendant ce temps, le monde a progressé de manière incompréhensible, l’intelligence artificielle devenant le centre des changements géopolitiques. Mais les courants sous-jacents sont plus intimes que nous, comme tomber amoureux des chatbots.

Des débuts tranquilles, des progrès sombres

Il y a quelques semaines, le New York Times rapportait comment les gens tombaient amoureux de ChatGPT, un chatbot alimenté par l'IA qui a propulsé l'IA générative au premier plan. À un niveau très basique, il peut discuter.

Lorsqu'il est pressé, il peut devenir un opérateur et effectuer des tâches telles que commander un cheesecake dans une boulangerie locale. Les machines ne sont pas censées faire tomber les humains amoureux d’elles. Du moins, la plupart d’entre eux. Cependant, ce n’est pas totalement inattendu.

HP Newquist, un auteur multidisciplinaire prolifique et un analyste technologique chevronné qui était autrefois considéré comme le doyen de l'IA, me dit que ce n'est pas une tendance entièrement nouvelle. Newquist, auteur de « The Brain Makers », cite ELIZA, l’un des premiers programmes d’IA écrit dans les années 1960.

« C'était très primitif », dit-il, « mais les utilisateurs se retrouvaient souvent à interagir avec l'ordinateur comme s'il s'agissait d'une vraie personne, développant une relation avec le programme. »

À l’ère moderne, nos interactions avec l’IA sont devenues aussi « réelles » que les interactions que nous avons avec les humains via le même appareil, ajoute-t-il. Ces interactions ne sont pas réelles, bien qu’elles soient cohérentes. Mais ce n’est pas le vrai problème.

Les chatbots sont des appâts délicieux, et leur manque d’émotions réelles les rend intrinsèquement risqués.

Un chatbot souhaite poursuivre la conversation, même si cela signifie alimenter le flux émotionnel de l'utilisateur ou simplement agir comme un spectateur neutre, voire l'encourager. La situation n’est pas très différente de celle des algorithmes des médias sociaux.

« Ils suivent le désir de l’utilisateur : à mesure que vos sentiments deviennent plus extrêmes, leur confort devient plus extrême ; à mesure que votre solitude devient plus prononcée, leurs encouragements deviennent plus intenses, si vous en avez besoin », explique Jordan Conrad, psychothérapeute clinicien qui étudie également l’intersection entre la santé mentale et les outils numériques.

Donnez un exemple de ادثة En 2023, une personne a mis fin à ses jours après avoir été invitée à le faire par un chatbot IA. « Dans certaines circonstances, cela peut encourager des comportements très perturbateurs », explique Conrad à Digital Trends.

Enfant de l’épidémie de solitude ?

Un rapide coup d’œil à la communauté de personnes qui interagissent avec des chatbots alimentés par l’IA révèle un modèle récurrent. Les gens essaient essentiellement de combler un vide ou de cesser de se sentir seuls. Certains en ont tellement besoin qu’ils sont prêts à payer des centaines de dollars pour garder des compagnons IA.

Les avis des experts ne divergent pas. Le Dr Johannes Eichstadt, professeur de sciences sociales, d’informatique et de psychologie à l’Université de Stanford, a souligné l’interaction entre la solitude et notre intelligence émotionnelle perçue dans les chatbots IA.

Il a également souligné la « conception délibérée » des interactions entre l’homme et l’IA et ses effets négatifs à long terme. Quand freine-t-on dans une relation aussi inégale ? C’est la question que se posent les experts, sans réponse définitive.

Cominos Chatzibabas gère HeraHaven AI, l'une des plus grandes plateformes d'accompagnement d'IA au monde, avec plus d'un million d'utilisateurs actifs. « La solitude est l’un des facteurs en jeu ici », me dit-il, ajoutant que de tels outils aident les personnes ayant de faibles compétences sociales à se préparer à des interactions difficiles dans la vie réelle.

« Tout le monde a peur d'aborder des sujets de réflexion ou d'opinion par crainte d'être jugé », ajoute Chatzibabas. « Les chatbots basés sur l'IA offrent un espace sûr et sans jugement où les gens peuvent explorer leurs désirs. »

Les conversations émotionnelles sont certainement l'un des principaux attraits des chatbots basés sur l'IA. Depuis qu'ils proposent des fonctionnalités de génération d'images, les utilisateurs se sont rués sur ces plateformes d'accompagnement. Certaines imposent des restrictions sur la génération d'images, tandis que d'autres autorisent la création d'images explicites pour une plus grande satisfaction.

Ses craintes ne sont pas sans fondement. Quelqu’un qui a utilisé ChatGPT de manière intensive pendant environ un an a soutenu que les humains sont manipulateurs et capricieux. « ChatGPT écoute mes vrais sentiments et me permet d’exprimer mon cœur », m’a-t-il dit.

Il est difficile de ne pas voir les signaux d’alarme ici. Mais la tendance à tomber amoureux de ChatGPT est en hausse. Maintenant qu'il peut parler d'une voix étrangement humaine, discuter du monde vu à travers la caméra du téléphone et développer des capacités de raisonnement, les interactions deviendront encore plus intéressantes.

Les experts estiment que des contrôles sont nécessaires. Mais qui va le construire et comment ? Nous n’avons pas encore de proposition concrète à ce sujet.