Les conversations dans le cloud peuvent apparaître publiquement sur Google.

💡 Les choses les plus importantes que vous devez savoir

• Des liens vers des conversations partagées sur Cloud sont apparus dans les résultats de recherche Google, révélant des données sensibles d'utilisateurs telles que des stratégies juridiques et des problèmes personnels.
• Vos conversations avec les robots conversationnels ne sont pas privées ; les entreprises les partagent pour entraîner leurs modèles et peuvent les conserver pendant 30 jours après leur suppression.
• Ne partagez jamais d'informations personnelles ou sensibles, notamment des données de santé, avec des chatbots intelligents car ils ne tiennent pas compte de votre vie privée.

Les chatbots sont conçus pour donner l'impression d'une conversation personnelle. Ils sont incroyablement amicaux, imitant l'expérience d'une discussion avec un ami en ligne – à condition que cet ami puisse générer une quantité impressionnante de texte en quelques secondes. Mais en réalité, ils sont tout sauf personnels, surtout si votre définition de « personnel » inclut « vous seul ».

Les conversations de Claude étaient visibles sur Google le week-end dernier.

Certains utilisateurs d'Anthropic Cloud ont pu le confirmer après le week-end dernier. Comme l'a rapporté Cyber ​​Security News , des liens permettant de partager les conversations d'Anthropic Cloud sont apparus dans les résultats de recherche Google, indiquant que les moteurs de recherche comme Google avaient indexé les discussions des utilisateurs. Durant le week-end, une publication Reddit expliquait comment trouver de véritables conversations Cloud directement sur Google en ajoutant simplement « site:claude.ai/share » à ses requêtes.

Si un utilisateur du Cloud a abordé le sujet de votre recherche et que Google a indexé cette conversation, vous pouvez consulter et lire l'intégralité de la transcription. Selon Cyber ​​Security News, cela inclut des discussions entre avocats sur des stratégies juridiques, des échanges entre ingénieurs sur des problèmes techniques et des témoignages d'utilisateurs partageant leurs soucis personnels. Selon la nature de la conversation, cela peut aller d'un simple embarras à un véritable scandale.

Quelques précisions : Anthropic a rapidement résolu le problème après la viralité du sujet sur Reddit. Désormais, toute recherche effectuée via « site:claude.ai/share » échouera. Vos conversations sur Cloud sont donc protégées. Point important : ces conversations indexées ne semblent pas avoir affecté tous les utilisateurs de Cloud ; il s’agissait de « liens de partage », créés par Cloud lorsque vous partagez une conversation. Le bug semble provenir de cette fonctionnalité : si vous avez partagé une conversation depuis Cloud, elle a pu se retrouver dans cette base de données consultable.

Cependant, toutes les conversations divulguées ne répondaient pas forcément à ce critère. Une situation similaire s'est produite en septembre dernier et, comme l'a rapporté Futurism , au moins un utilisateur concerné a nié avoir partagé ses conversations. Si l'on en croit ce démenti, il est possible que certaines des conversations Claude exposées proviennent également d'utilisateurs n'ayant jamais utilisé la fonction de partage de discussions.

Les conversations avec l'IA ne sont pas privées

Même si vous êtes certain que vos conversations Cloud n'ont pas été partagées ou que la vulnérabilité a été corrigée, cela ne signifie pas que vos échanges avec les chatbots IA doivent être considérés comme privés. Même si vous n'avez jamais partagé de conversation Cloud et que vous n'êtes donc probablement pas concerné par ce problème, vos conversations peuvent ne pas être limitées à votre compte. Vous pourriez penser que ce que vous dites à votre IA reste confidentiel, mais en réalité, tout ce que vous lui dites est partagé avec Anthropic et utilisé pour entraîner les futurs modèles, sauf si vous vous y opposez explicitement.

Ce n'est pas propre à Anthropic : la plupart des entreprises d'IA, voire toutes, fonctionnent ainsi, chacune avec ses propres règles. Certaines, par exemple, peuvent faire surveiller vos conversations en direct par des modérateurs humains – un aspect auquel vous ne pensez peut-être pas lorsque vous demandez de l'aide à votre chatbot pour un problème personnel.

Même si vous choisissez de ne pas participer à l'entraînement des données, l'entreprise concernée peut conserver vos conversations pendant une période déterminée. Par exemple, Anthropic conserve vos données de conversation pendant 30 jours après la suppression de la conversation. Cela signifie que les données sont non seulement stockées sur les serveurs d'Anthropic, mais y restent même après que vous n'y ayez plus accès. De plus, Anthropic n'est pas la seule entreprise confrontée à des problèmes d'exposition liés à l'indexation : si c'est la deuxième fois que cela arrive aux utilisateurs de Cloud, les utilisateurs de ChatGPT ont rencontré un problème similaire en août dernier.

Si vous choisissez d'utiliser des chatbots, ne partagez jamais d'informations personnelles ou privées avec eux, et surtout pas de données hautement sensibles comme des informations de santé. L'intelligence artificielle est indéniablement là pour durer et beaucoup la trouvent utile, mais si vous tenez à votre vie privée, ces outils ne sont tout simplement pas conçus dans votre intérêt.