Pourquoi éviter d'utiliser ChatGPT en tant que thérapeute : conseils de Sam Altman et avertissements

Selon Sam Altman, PDG d'OpenAI, se tourner vers ChatGPT pour obtenir un soutien émotionnel n'est peut-être pas une bonne idée, pour une raison très simple : les chatbots alimentés par l'IA ne sont pas soumis aux mêmes lois de confidentialité professionnelle que les médecins et les thérapeutes humains.

Lors d'une récente apparition dans un podcast, Altman a déclaré : « Les gens, en particulier les jeunes, l'utilisent comme un thérapeute ou un coach personnel, évoquant leurs problèmes émotionnels et demandant : "Que dois-je faire ?" » Cette déclaration a été faite dans un épisode récent de This Past Weekend with Theo Von.

« À l’heure actuelle, si vous parlez de ces questions à un thérapeute, à un avocat ou à un médecin, ces conversations sont légalement privilégiées », a-t-il ajouté.

Il a poursuivi : « Il existe un secret professionnel, un secret juridique, etc. Nous n’avons pas encore résolu ce problème concernant vos conversations avec ChatGPT. »

Altman souligne qu'en cas de poursuite, OpenAI pourrait être légalement contrainte de remettre les enregistrements des conversations avec ChatGPT. L'entreprise est notamment déjà engagée dans une bataille juridique avec le New York Times concernant la conservation des conversations supprimées. En mai, un tribunal a ordonné à OpenAI de conserver « toutes les données de journal de sortie qui auraient dû être supprimées », même si l'utilisateur ou les lois sur la protection de la vie privée l'exigent.

Intervenant dans le podcast, Altman a exprimé sa conviction que l'IA devrait avoir « le même concept de confidentialité pour vos conversations avec l'IA que pour celles avec un thérapeute ou toute autre personne – une idée à laquelle personne n'aurait pensé il y a encore un an ». Cela souligne l'importance d'une législation et d'une réglementation régissant l'utilisation de l'IA dans des domaines sensibles comme la santé mentale, afin de garantir la protection de la vie privée et des données des utilisateurs.

Les gens utilisent-ils l’intelligence artificielle pour la psychothérapie ?

Plus tôt cette année, Anthropic, développeur de Claude, concurrent de ChatGPT, a analysé 4.5 millions de conversations afin de déterminer si les utilisateurs se tournaient vers les chatbots pour des conversations romantiques. Selon l'étude, seulement 2.9 % des interactions avec Claude IA concernaient des conversations romantiques, tandis que la compagnie et les jeux de rôle ne représentaient que 0.5 %.

Dans le cadre d'un procès, OpenAI peut être légalement tenu de remettre les enregistrements d'une conversation qu'une personne a eue avec ChatGPT.

Bien que la base d'utilisateurs de ChatGPT dépasse largement celle de Claude, il reste relativement rare que ce chatbot utilise ce type de communication émotionnelle. Contrairement aux propos d'Altman ci-dessus, une étude conjointe d'OpenAI et du MIT indique que « l'engagement émotionnel avec ChatGPT est rare en situation réelle ».

Le dossier ajoute : « Les signaux émotionnels (aspects des interactions qui indiquent de l'empathie, de l'affection ou du soutien) n'étaient pas présents dans la grande majorité des conversations sur la plateforme que nous avons évaluée, ce qui suggère que l'engagement émotionnel est un cas d'utilisation rare pour ChatGPT. »

Jusqu'ici, tout va bien. Mais voici l'essentiel : l'IA conversationnelle ne fera que progresser en termes d'interactivité et de nuances, ce qui pourrait facilement inciter davantage de personnes à s'y adresser pour résoudre des problèmes personnels.

La mise à jour GPT-5 de ChatGPT est imminente et offrira des interactions plus naturelles ainsi qu'une meilleure compréhension du contexte. Par conséquent, même s'il sera plus facile de partager davantage de détails avec l'IA, les utilisateurs devront bien réfléchir à ce qu'ils s'apprêtent à dire.