Character.AI rassure les parents avec une nouvelle fonctionnalité pour protéger les enfants

Character.AI, un service populaire de chatbot basé sur l'intelligence artificielle, a ajouté une fonctionnalité appelée « Parental Insights », une nouvelle fonctionnalité de sécurité qui permet aux parents de consulter des rapports sur l'activité de leurs enfants sur la plateforme.

Cette nouvelle fonctionnalité de sécurité, annoncée par la société dans un article de blog mardi, offre aux parents un aperçu hebdomadaire de la façon dont leurs adolescents passent leur temps sur Character.AI. Plus précisément, la fonctionnalité Parental Insights informera les parents du temps quotidien moyen que leurs enfants passent sur l'application, des personnages avec lesquels ils parlent le plus souvent et du temps qu'ils passent avec chaque personnage. Cependant, l'aperçu ne révélera pas le contenu des conversations du chatbot, car elles sont privées.

Les utilisateurs adolescents de moins de 18 ans ont la possibilité de partager leurs statistiques Character.AI avec leurs parents ou tuteurs dans les paramètres de l'application, simplement en ajoutant leurs adresses e-mail et en leur envoyant une invitation à les consulter. Les parents ne sont pas tenus de posséder un compte Character.AI pour consulter les statistiques d'utilisation hebdomadaires de leurs adolescents.

La fonctionnalité Parental Insights arrive au milieu d'une série de fonctionnalités ajoutées pour répondre aux préoccupations des parents concernant le temps excessif que les enfants passent sur Character.AI et aux nombreuses poursuites alléguant le contenu préjudiciable auquel ils ont été exposés sur le service, allant du contenu sexuel inapproprié aux messages encourageant l'automutilation. En réponse à ces plaintes, Character.AI a mis à jour la plateforme pour transférer les utilisateurs mineurs vers un modèle d'intelligence artificielle conçu pour ne pas fournir de contenu sensible ou suggestif, détecter toute violation des directives de service et intervenir, et leur envoyer des notifications s'ils passent une heure sur Character.AI. Ils ont même mis en œuvre une clause de non-responsabilité dans le chat et dans les listes des magasins d'applications pour rappeler aux utilisateurs que les personnages d'intelligence artificielle avec lesquels ils interagissent ne sont pas réels et que tout ce qu'ils disent est inventé.

Parents, si vous voyez un e-mail de Character.AI concernant une invitation de votre adolescent à consulter ses statistiques d'activité hebdomadaires dans les prochains jours, considérez cela comme un signe de confiance. Leurs rapports pourraient vous apporter une certaine tranquillité d'esprit en sachant qu'ils veulent vous guider sur la façon d'utiliser judicieusement leur temps sur l'application.