Character.AI rassure les parents avec une nouvelle fonctionnalité pour protéger les enfants

Character.AI, le service de chatbot IA populaire, a ajouté Parental Insights, une nouvelle fonctionnalité de sécurité qui permet aux parents de consulter des rapports sur l'activité de leurs enfants sur la plateforme.

Cette nouvelle fonctionnalité de sécurité, annoncée par l'entreprise dans un article de blog publié mardi, offre aux parents un aperçu hebdomadaire de l'utilisation de Character.AI par leurs adolescents. Plus précisément, Parental Insights informe les parents du temps moyen quotidien passé par leurs enfants sur l'application, des personnages avec lesquels ils interagissent le plus souvent et du temps passé avec chacun d'eux. Toutefois, le contenu des conversations avec le chatbot reste confidentiel.

Les utilisateurs adolescents de moins de 18 ans ont la possibilité de partager leurs statistiques Character.AI avec leurs parents ou tuteurs dans les paramètres de l'application, simplement en ajoutant leurs adresses e-mail et en leur envoyant une invitation pour les consulter. Les parents ne sont pas obligés d'avoir un compte Character.AI pour consulter les statistiques d'utilisation hebdomadaires de leur adolescent.

La fonctionnalité « Contrôle parental » fait partie d'une série de mesures mises en place pour répondre aux inquiétudes des parents concernant le temps passé par leurs enfants sur Character.AI et les nombreuses plaintes déposées pour diffusion de contenus préjudiciables, allant de contenus à caractère sexuel explicite à des messages incitant à l'automutilation . En réponse à ces plaintes, Character.AI a mis à jour sa plateforme afin de rediriger les utilisateurs mineurs vers un modèle d'IA conçu pour éviter la diffusion de contenus sensibles ou suggestifs , détecter et intervenir en cas de violation des règles du service, et envoyer des notifications après une heure d'utilisation. Un avertissement a même été intégré au chat et aux fiches de l'application pour rappeler aux utilisateurs que les personnages IA avec lesquels ils interagissent ne sont pas réels et que leurs propos sont fictifs.

Parents, si vous voyez un e-mail de Character.AI invitant votre adolescent à consulter ses statistiques d’activité hebdomadaires pour les jours à venir, prenez cela comme un signe de confiance. Leurs rapports peuvent vous apporter une certaine tranquillité d’esprit, sachant qu’ils souhaitent vous guider sur la manière d’utiliser judicieusement leur temps sur l’application.