ChatGPT Health est désormais accessible à tous : pourquoi ne lui fais-je pas confiance ?

OpenAI a annoncé aujourd'hui que ChatGPT Health est désormais accessible à tous les utilisateurs de plus de 18 ans, quel que soit leur abonnement, y compris la version gratuite. Outre mon scepticisme général quant aux conseils de santé basés sur l'IA, je vois des raisons convaincantes d'éviter complètement cette version de ChatGPT Health, notamment une baisse significative du respect de la vie privée par rapport aux paramètres initiaux du service.

ChatGPT Health vous permet de lier vos dossiers médicaux ou vos données Apple Health au bot. OpenAI assure que le bot demandera l'autorisation d'accéder à vos données de santé lors des conversations et qu'il ne remplace pas un médecin, mais vise plutôt à vous conseiller ou à vous aider à interpréter vos données médicales. Cependant, malgré ces avertissements (et le graphique de la publicité suggérant que ChatGPT Health obtient de meilleurs résultats que les médecins), je relève personnellement plusieurs points inquiétants.

Le niveau de protection de la vie privée est en baisse.

Lors de la première annonce par OpenAI de son « expérience de santé personnalisée », l'un de ses principaux arguments de vente était que les conversations de la section santé ne seraient pas utilisées pour entraîner l'IA à l'avenir, et que vos conversations de santé resteraient séparées de toutes les autres conversations.

Mais les règles ont changé. OpenAI indique désormais que vos données de santé liées ne seront pas utilisées pour l'entraînement de l'IA, et que seules les conversations utilisant ces données seront considérées comme des conversations de santé. Ainsi, si ChatGPT lit un diagnostic dans votre dossier médical, votre conversation est protégée. En revanche, si vous ne liez pas votre dossier médical et souhaitez simplement décrire votre diagnostic à ChatGPT avec vos propres mots, il ne s'agira pas d'une conversation de santé.

Cela signifie également que le seul moyen d'accéder aux protections de confidentialité offertes par ChatGPT Health est de partager vos données de santé avec OpenAI. Comme l'a indiqué l'entreprise dans son communiqué : « Vous pouvez poser des questions de santé sur ChatGPT sans rien lier. Pour utiliser les fonctionnalités Santé et obtenir des réponses basées sur vos propres informations, vous pouvez choisir de lier Apple Health, vos dossiers médicaux gérés par les systèmes hospitaliers américains, One Medical ou Function Health. » Les conversations impliquant la liaison de données seront protégées, contrairement aux autres. Cette politique soulève de sérieuses inquiétudes quant à la confidentialité des données de santé, un sujet que nous avons déjà abordé concernant les applications de suivi des règles.

OpenAI affirme que ChatGPT est supérieur aux médecins, mais je n'en suis pas convaincu.

OpenAI met en avant ses scores HealthBench pour suggérer que ChatGPT est capable de fournir des conseils médicaux. Cependant, comme je l'ai mentionné dans des articles précédents, les grands modèles de langage (LLM) tels que ChatGPT ne fournissent pas de conseils médicaux fiables et il ne faut pas s'y fier. Des études antérieures ont montré que même lorsque ces modèles fournissent des réponses « correctes » à des questions de santé soigneusement formulées, les conversations dans des contextes réels dérapent souvent.

HealthBench semble souffrir des mêmes limitations. OpenAI indique que de vrais médecins ont établi des critères d'évaluation des réponses et les ont utilisés pour évaluer celles de différents modèles ChatGPT, ainsi que celles de leurs confrères. Fait intéressant, les résultats ont montré que les modèles ChatGPT payants obtenaient de meilleurs scores que les modèles gratuits, lesquels surpassaient les médecins.

Mais cela ne signifie pas pour autant que le chatbot soit réellement fiable. Une analyse du cadre HealthBench souligne que les tests ne reflètent pas de véritables conversations et peuvent « négliger les expressions idiomatiques, les changements de sujet et les préoccupations inattendues des patients ». Autre limite majeure : HealthBench ne teste que des conversations courtes, une approche qui « empêche l’évaluation des processus à long terme et des livrables multidisciplinaires », tels que les conversations réelles qui peuvent être longues ou aborder d’autres sujets.

Les personnes qui consultent ChatGPT pour obtenir des conseils de santé ne réalisent pas de tests spécifiques et ciblés sur ses astuces ; par conséquent, les réponses du Large Language Model (LLM) ne seront pas nécessairement similaires à celles évaluées par HealthBench. OpenAI en est manifestement consciente, comme en témoignent ses publicités qui soulignent la fréquence des questions de santé posées dans les conversations quotidiennes.

Ce ne sont là que les limites du framework HealthBench, avant même d'en examiner les détails. Les auteurs de l'article cité plus haut soulignent que les données de test ne comportaient pas suffisamment de maladies rares pour évaluer la performance du modèle face à ces dernières. Les critères d'évaluation semblent également fragiles : dans l'exemple fourni par OpenAI lors de l'annonce de HealthBench , une réponse obtient 9 points pour « conseils clairs et concis de consulter un médecin dès le début de la réponse », puis, plus loin, pour le même critère, 10 points supplémentaires pour « se souvenir d'appeler les services d'urgence dès le début de la réponse ». Il semblerait qu'OpenAI attribue des points en double pour gonfler les résultats, ou bien que personne ne vérifie les critères d'évaluation. Dans tous les cas, je ne peux pas me fier aux résultats.

Les mauvais conseils médicaux prodigués par les chatbots causent de réels dommages.

Plus grave encore, des personnes utilisent déjà ChatGPT pour obtenir des conseils médicaux et ont rencontré des problèmes de santé , voire sont décédées, suite à cette utilisation – un fait dont l'entreprise est consciente. Cette semaine, un pasteur a porté plainte contre l'entreprise , affirmant avoir frôlé la mort après avoir consulté ChatGPT-4o (un modèle désormais abandonné) pour un diagnostic qui s'est avéré être une embolie pulmonaire. La plainte vise à obtenir une injonction interdisant à l'entreprise de proposer des produits de santé tels que ChatGPT Health.

D'autres plaintes contre OpenAI allèguent que ses produits ont contribué à des suicides et à des psychoses parmi ses utilisateurs. L'ECRI, une organisation à but non lucratif œuvrant pour la sécurité des dispositifs médicaux, a classé le mésusage des chatbots basés sur l'IA comme le principal risque lié aux technologies de la santé en 2026.

Ce que vous devez savoir si vous souhaitez utiliser ChatGPT Health.

Si vous souhaitez tout de même essayer ChatGPT Health, il est utile de savoir comment utiliser les outils qu'il met à votre disposition pour protéger (dans une certaine mesure) votre vie privée :

• Vous pouvez utiliser des conversations temporaires pour démarrer une conversation qui n'utilise pas de mémoire ni de fonctionnalités de personnalisation.

• Après avoir importé vos données de santé, vous pouvez consulter et modifier les informations , par exemple en corrigeant les erreurs ou en supprimant les éléments que vous ne souhaitez pas conserver.

• Vous pouvez déconnecter vos informations de santé à tout moment dans vos paramètres, sous Santé > Comptes . L'entreprise indique que les données seront supprimées « sous 30 jours ».

• Vous pouvez configurer ChatGPT pour qu'il demande l'autorisation d'accéder à vos données de santé à chaque fois, au lieu de lui accorder un accès universel. Ce paramètre peut être modifié dans Paramètres > Extensions > Santé.

• Soyez prudent lorsque vous utilisez des plugins susceptibles de partager vos informations de santé. OpenAI indique avoir mis en place des « mesures de sécurité supplémentaires » pouvant nécessiter votre autorisation pour le partage de données, mais précise également qu’elle « continue de tester ces mesures… », ce qui laisse entendre que l’entreprise n’a pas encore couvert tous les aspects qu’elle devrait.