Mon amie a un cancer : elle a consulté ChatGPT à des fins médicales, et cela m'a bouleversée.

J'ai écrit cet article vers 3 heures du matin, assise dans le hall d'une clinique, tandis que mon amie parlait avec l'oncologue dans la pièce derrière moi. L'air était saturé d'odeurs de médicaments, bien sûr, et une atmosphère pesante planait, me donnant envie de partir au plus vite. Mais le sentiment dominant qui m'envahissait était une colère intense.

Il y a une heure à peine, j'ai reçu un appel de mon amie de 24 ans, qui se plaignait de violents maux de tête et de douleurs abdominales. Elle suit actuellement un traitement contre le cancer du sein et, l'ayant soutenue dans cette épreuve ces deux dernières années, je me suis précipitée chez elle, espérant que ce n'était rien de grave. Sans trop poser de questions, j'ai trouvé l'hôpital le plus proche et je l'ai emmenée faire un bilan de santé.

Sur le chemin de l'hôpital, je lui ai demandé quand la douleur avait commencé et si elle avait ressenti d'autres symptômes inquiétants. Sa réponse m'a tellement choquée que j'ai eu envie de lui arracher son téléphone des mains et de le briser. « Après être rentrée du travail, j'ai eu des vertiges et j'avais aussi l'impression que quelque chose n'allait pas à l'estomac. Alors, j'ai demandé à ChatGPT si je pouvais prendre des antidouleurs, et quelques heures après, ma douleur à l'estomac s'est aggravée, accompagnée d'une sensation de brûlure. J'ai aussi vomi plusieurs fois. »

Qui est responsable d'agir de manière responsable ?

Ses aveux m'ont choquée, et le ton désinvolte avec lequel elle décrivait ses échanges avec ChatGPT était encore plus troublant. Mais cet incident malheureux est tellement complexe que j'ai décidé d'interdire toute interaction avec l'IA auprès de mes proches, surtout lorsqu'il s'agit de parler de santé et de bien-être. Étant donné ma grande sensibilité aux médicaments et mon traitement contre le cancer, être interrogée par une IA sur ma prise de médicaments était la dernière chose à laquelle on pourrait s'attendre.

Je ne sais pas exactement qui est responsable de cette aventure risquée, voire mortelle. Elle a simplement pris une photo d'un analgésique, l'a téléchargée sur ChatGPT et a demandé si elle pouvait en prendre deux en même temps. Son médecin lui avait recommandé de n'en prendre qu'un à la fois, même en cas de douleur insupportable. ChatGPT lui a indiqué qu'elle ne devait prendre qu'un seul analgésique et que la prise de deux ne devait se faire que sur avis médical.

Quand je lui ai demandé pourquoi elle avait eu recours à un chatbot, elle m'a avoué plus tard que ChatGPT était « plus facile pour obtenir des réponses. Je ne sais même plus ce qui est vrai sur internet. » Pour quelqu'un qui avait dû quitter l'école après le lycée et subvenir aux besoins de sa famille avec des petits boulots, je comprenais sa situation. Je ne pouvais pas lui faire la leçon sur la culture numérique et la vérification des faits. Il y a eu beaucoup d'erreurs dans cette conversation, et nous en sommes toutes les deux responsables.

Et c'est là que les problèmes commencent. Mon amie ne parle pas hindi couramment, et lorsque j'ai traduit sa question en hindi, cela s'est transformé en un véritable désastre grammatical à cause d'un seul mot. Elle voulait savoir si elle pouvait prendre deux comprimés du médicament illustré. Mais ma traduction maladroite donnait l'impression qu'elle demandait à ChatGPT si elle pouvait prendre « les deux comprimés ».

Là, ChatGPT a de nouveau buté sur un obstacle. L'image montrait un comprimé dont seule la composition chimique était visible : diclofénac et serrapiopeptidase. Le nom du médicament n'était que partiellement lisible. Malgré cela, le chatbot a correctement identifié l'analgésique comme étant « un produit similaire au Cipzen-D ». Or, auparavant, il avait également mentionné un autre médicament, le Fenak Plus, dont la composition chimique est le diclofénac et le paracétamol, et dont il avait déjà parlé lors d'une autre conversation.

Il s'agit d'une formulation complètement différente, bien que les deux soient facilement disponibles comme analgésiques sans ordonnance et puissent (de manière inquiétante) être achetés sans prescription en pharmacie. Au final, nous avons donc une erreur humaine (dans la traduction) et deux erreurs de ChatGPT, car il s'est également basé sur sa mémoire. Le conseil, en revanche, était exact.

Le robot conversationnel d'OpenAI a clairement averti que la prise simultanée de ces deux médicaments était déconseillée, précisant qu'elle pouvait entraîner un surdosage de diclofénac. Il a également décrit les effets secondaires potentiels, notamment des brûlures d'estomac, des problèmes liés aux ulcères, des saignements et des effets néfastes à long terme sur les reins.

Il est important de noter que l'image fournie à ChatGPT ne montrait qu'un seul analgésique. Le modèle recommandait de n'en prendre qu'un à la fois, et non les deux simultanément. Cependant, mon amie, se souvenant que les deux médicaments lui avaient été prescrits par des médecins (mais jamais ensemble), les a pris tous les deux pour soulager rapidement la douleur, et en a rapidement subi les graves conséquences.

Le médecin était furieux, et à juste titre, lorsque mon amie lui a expliqué pourquoi elle avait pris deux comprimés en même temps, la réprimandant pour ne pas avoir consulté un professionnel de santé. Il lui a ensuite fait une injection pour soulager sa douleur et lui a prescrit de nouveaux analgésiques adaptés à son organisme fragile.

En tant que journaliste spécialisée dans les technologies, ayant écrit sur les dangers des interactions avec l'IA dans des domaines sensibles, notamment la santé et le bien-être, j'avais le sentiment d'avoir échoué. J'avais l'impression de n'avoir jamais parlé à mon amie des risques liés aux robots dotés d'IA. Je ne l'avais mise en garde contre ces dangers qu'après cet incident effrayant.

Lorsqu'elle a admis avoir utilisé ChatGPT à plusieurs reprises pour obtenir des conseils médicaux, elle a supprimé l'application de son téléphone. Plus important encore, elle lui a formellement interdit d'utiliser d'autres chatbots basés sur l'IA, tels que Gemini ou Claude, pour obtenir des conseils médicaux, ni même Internet en général. La seule solution appropriée est de consulter un médecin ou de se rendre dans une clinique.

Le problème de la perception

Je ne la blâme pas entièrement pour ce qui s'est passé . Vu à quel point ChatGPT est devenu un outil incontournable des habitudes numériques quotidiennes, perçu comme un « génie omniscient », il est difficile de lui en vouloir. Les gens le considèrent comme un moteur de recherche plus pratique (et plus fiable) que la fastidieuse recherche sur Google, les clics sur les liens bleus et le défilement interminable de pages web.

Et il faut bien l'avouer, ils n'ont pas tort. Obtenir des réponses directes d'un chatbot comme ChatGPT, en langage naturel et en quelques secondes, est bien plus pratique que de se perdre dans le labyrinthe des liens de Google Search. Google est également conscient de l'évolution des comportements des utilisateurs, ce qui explique son intérêt pour l'IA conversationnelle dans la recherche. Mon expérience de remplacement de Google Search par ChatGPT pourrait vous intéresser.

Aujourd'hui encore, les réponses conversationnelles de Gemini figurent régulièrement en bonne place dans les résultats de recherche classiques. Le principe est simple : fournir aux utilisateurs des réponses concises issues des liens bleus de Google Search avant qu'ils n'approfondissent le sujet en explorant diverses sources dans différents onglets. Pour plus d'informations, consultez notre comparatif complet de ChatGPT et Gemini.

À son crédit, ChatGPT (comme la plupart des modèles d'IA de pointe, d'ailleurs) se montre extrêmement prudent lorsqu'une personne sollicite des conseils en matière de santé et de bien-être. Dans la grande majorité des réponses, les chatbots orientent l'utilisateur vers un professionnel de santé agréé ou vers le service d'assistance approprié. Mais paradoxalement, c'est précisément la manière dont ces chatbots se sont imposés dans le débat public comme une source d'information rapide et fiable qui les rend si inquiétants.

Il y a quelques jours, j'assistais à un débat animé sur une grande chaîne d'information. Au cours de cet échange intense, un participant a mis son adversaire au défi de vérifier les faits en interrogeant ChatGPT. J'ai alors réalisé que ChatGPT était présenté comme l'équivalent moderne des recherches encyclopédiques, sur une plateforme qui influence des millions de personnes sur le deuxième marché mondial des chatbots IA.

Perte dans la traduction

Les États-Unis sont en tête du classement mondial en matière d'adoption de l'IA, mais ils sont aussi ceux qui sont le plus sensibilisés aux risques liés à l'utilisation des chatbots basés sur l'IA. À l'inverse, en Inde, le niveau de culture numérique (et la sensibilisation à l'IA) est bien plus faible, ce qui accroît considérablement les risques potentiels. Ce risque est d'autant plus important que des centaines de milliers de personnes utilisent ChatGPT et d'autres agents d'IA en hindi, leur langue maternelle. C'est l'une des principales raisons du problème linguistique rencontré récemment par mon ami avec ChatGPT.

Dans une étude publiée en début d'année, le Centre pour la communication constructive du MIT a constaté que la précision des réponses des chatbots basés sur l'IA est moindre lorsque les utilisateurs interagissent dans une langue autre que l'anglais. Le benchmark SAHARA , publié en décembre dernier, a également mis en évidence une variation similaire dans le comportement des chatbots lorsque les utilisateurs s'expriment dans une autre langue. The Economist a par ailleurs relayé plusieurs articles de recherche révélant ce problème de langue dans les grands modèles de langage (LLM).

La barrière de la langue accroît le niveau de risque.

Mais la traduction n'est pas le seul problème. Healthwatch England, une association indépendante de défense des droits des consommateurs et des patients au sein du système de santé publique britannique, a mis en garde contre les dangers liés à l'utilisation d'outils de transcription basés sur l'IA par les médecins et les professionnels de santé. Voici un extrait inquiétant de leur rapport :

« Dans un cas alarmant, un outil d'IA a analysé le résumé d'une IRM et a conclu que le patient souffrait de démyélinisation, une affection neurologique grave associée à la sclérose en plaques. Or, l'IRM ne montrait aucune démyélinisation, ce qui signifie que le problème était absent. »

Il s'agit là d'une lacune évidente que les principaux modèles de langage doivent corriger, mais le problème est bien plus vaste. Les chatbots basés sur l'IA doivent être plus performants lorsqu'il s'agit de sujets sensibles. Des plateformes comme ChatGPT ont mis en place des contrôles parentaux et incitent souvent les utilisateurs à demander de l'aide, tout en fournissant des numéros d'assistance et des ressources fiables. Un avertissement précisant que ChatGPT n'est pas un médecin, ou une mention similaire, s'affiche également.

Ces avertissements devraient apparaître tout en haut de ces conversations, et non pas être relégués au second plan, là où la plupart des utilisateurs trouvent leur réponse sans prendre la peine de lire la suite. Il est préférable d'afficher une bannière bien visible en haut de page, et ce protocole devrait être intégré au fonctionnement de base du modèle d'IA.

Ensuite, il nous faut sensibiliser le public. Beaucoup de personnes. Les entreprises spécialisées en IA s'empressent de démontrer comment leurs grands modèles de langage (LLM) résolvent des problèmes mathématiques complexes, surpassent les humains aux Jeux olympiques et contribuent aux avancées médicales. Mais tout cela se déroule sous la supervision d'experts. Pour le commun des mortels, qui voit en ChatGPT une source d'informations et de conversations rapides, les avertissements et les mentions légales devraient être une priorité.

OpenAI a beau faire preuve de prudence, la perception du public à l'égard de ChatGPT évolue à un rythme dangereusement rapide.

De nombreux utilisateurs la considèrent comme un nouveau type de moteur de connaissances, interagissant presque comme un être humain. On constate de nombreux cas où des robots dotés d'IA prodiguent des conseils de santé dangereux, voire nuisibles, et même en 2026, les recherches continuent de mettre en lumière leurs comportements à risque sur des sujets sensibles. J'espère seulement qu'OpenAI, ainsi que tous les autres développeurs d'IA, prendront cette question au sérieux et agiront en conséquence.