Pourquoi éviter d'utiliser ChatGPT en tant que thérapeute : conseils de Sam Altman et avertissements

Selon Sam Altman, PDG d'OpenAI, le recours à ChatGPT pour le soutien émotionnel Une bonne idée, pour une raison très simple : les chatbots alimentés par l’IA ne sont pas soumis aux mêmes lois de confidentialité professionnelle que les médecins et thérapeutes humains.

Lors d'une récente apparition dans un podcast, Altman a déclaré : « Les gens, en particulier les jeunes, l'utilisent comme thérapeute ou coach personnel, lorsqu'ils évoquent leurs problèmes émotionnels et demandent : "Que dois-je faire ?" » Ce week-end dernier avec Theo Von.

« À l’heure actuelle, si vous parlez de ces questions à un thérapeute, à un avocat ou à un médecin, ces conversations sont légalement privilégiées », a-t-il ajouté.

Il a poursuivi : « Il existe un secret professionnel, un secret juridique, etc. Nous n’avons pas encore résolu ce problème concernant vos conversations avec ChatGPT. »

Altman souligne qu'en cas de poursuite, OpenAI pourrait être légalement contrainte de remettre les enregistrements des conversations avec ChatGPT. L'entreprise est notamment déjà engagée dans une bataille juridique avec le New York Times concernant la conservation des conversations supprimées. En mai, un tribunal a ordonné à OpenAI de conserver « toutes les données de journal de sortie qui auraient dû être supprimées », même si l'utilisateur ou les lois sur la protection de la vie privée l'exigent.

Intervenant dans le podcast, Altman a exprimé sa conviction que l'IA devrait avoir « le même concept de confidentialité pour vos conversations avec l'IA que pour celles avec un thérapeute ou toute autre personne – une idée à laquelle personne n'aurait pensé il y a encore un an ». Cela souligne l'importance d'une législation et d'une réglementation régissant l'utilisation de l'IA dans des domaines sensibles comme la santé mentale, afin de garantir la protection de la vie privée et des données des utilisateurs.

Les gens utilisent-ils l’intelligence artificielle pour la psychothérapie ?

Plus tôt cette année, Anthropic, développeur de Claude, concurrent de ChatGPT, a analysé 4.5 millions de conversations afin de déterminer si les utilisateurs se tournaient vers les chatbots pour des conversations romantiques. Selon l'étude, seulement 2.9 % des interactions avec Claude IA concernaient des conversations romantiques, tandis que la compagnie et les jeux de rôle ne représentaient que 0.5 %.

Dans le cadre d'un procès, OpenAI peut être légalement tenu de remettre les enregistrements d'une conversation qu'une personne a eue avec ChatGPT.

Bien que la base d'utilisateurs de ChatGPT dépasse largement celle de Claude, il reste relativement rare que ce chatbot utilise ce type de communication émotionnelle. Contrairement aux propos d'Altman ci-dessus, une étude conjointe d'OpenAI et du MIT indique que « l'engagement émotionnel avec ChatGPT est rare en situation réelle ».

Le dossier ajoute : « Les signaux émotionnels (aspects des interactions qui indiquent de l'empathie, de l'affection ou du soutien) n'étaient pas présents dans la grande majorité des conversations sur la plateforme que nous avons évaluée, ce qui suggère que l'engagement émotionnel est un cas d'utilisation rare pour ChatGPT. »

Jusqu'ici, tout va bien. Mais voici l'essentiel : l'IA conversationnelle ne fera que progresser en termes d'interactivité et de nuances, ce qui pourrait facilement inciter davantage de personnes à s'y adresser pour résoudre des problèmes personnels.

Mise à jour GPT-5 ChatGPT est sur le point d'arriver, avec une multitude d'interactions plus naturelles et un contexte plus riche. Ainsi, même s'il sera plus facile de partager davantage de détails avec l'IA, les utilisateurs devront réfléchir attentivement à ce qu'ils s'apprêtent à dire.