L'intelligence artificielle transforme des photos ordinaires et innocentes d'enfants en matériel d'exploitation sexuelle horrible : une vérité choquante
Protégez vos enfants : l’intelligence artificielle transforme leurs photos ordinaires en contenu à caractère sexuel. Comprenez ce phénomène dangereux et apprenez à le combattre immédiatement.
Les choses les plus importantes que vous devez savoir
- Une enquête a révélé la présence de 332 publicités d'exploitation sexuelle d'enfants générées par l'IA sur Facebook et Instagram, où des photos d'enfants ordinaires et réels ont été manipulées pour en faire du contenu abusif.
- Les systèmes d'IA de Meta n'ont pas réussi à détecter des centaines de publicités abusives payantes, même après des améliorations supposées, tandis que d'autres publicités font la promotion de près de 50 applications de création d'images abusives disponibles sur les plateformes de téléchargement d'applications.
- Les parents ne doivent pas republier les images abusives de leurs enfants générées par l'IA, mais les signaler directement à la plateforme concernée et recueillir les informations relatives au compte. Ils peuvent utiliser le service « Take It Down » du NCMEC pour laisser une trace numérique.
Une photo de mes enfants à la plage, de mon fils jouant au football, ou même de toute ma famille souriant devant notre maison : voilà quelques exemples de photos que j’ai partagées sur les réseaux sociaux. Je sais que je ne suis pas la seule, vu la fréquence à laquelle je vois des images similaires qui capturent les détails de notre vie moderne.
Mais l'intelligence artificielle a créé un danger nouveau et inquiétant, permettant de transformer des images ordinaires et réelles d'enfants, comme celles que je viens de mentionner, en images d'exploitation sexuelle à l'insu de l'enfant ou de ses parents.
Soyons clairs, il ne s'agit pas d'une menace théorique.
332 publicités contenant des images d'exploitation sexuelle d'enfants générées par l'IA ont été diffusées.
Une nouvelle enquête du Tech Transparency Project (TTP) a mis au jour des centaines de publicités à caractère pédopornographique générées par intelligence artificielle et diffusées sur Facebook et Instagram. Selon WIRED , les chercheurs ont identifié quatre enfants dont les photos ordinaires avaient été manipulées. Parmi eux figuraient deux influenceurs adolescents, un préadolescent dont l'image est apparue sur un site de photos libres de droits, et un jeune membre d'une famille royale européenne.
Au total, TTP a recensé 332 publicités contenant du contenu pédopornographique généré par intelligence artificielle. La plupart de ces publicités montraient un enfant dont l'image avait été manipulée par IA pour donner l'impression qu'il se livrait à un acte sexuel.
Ces découvertes nous rappellent de façon inquiétante à quel point l'intelligence artificielle générative a modifié les risques liés au partage d'images d'enfants en ligne. La création de fausses images convaincantes ne nécessite plus de véritable photographie ; une image ordinaire peut servir de matière première.
Comment transformer des images ordinaires en contenu offensant généré par l'IA
Les outils d'IA génératifs d'images peuvent prendre une image existante et en modifier certaines parties tout en préservant les traits originaux et reconnaissables de la personne.
Voici ce que les chercheurs affirment être arrivé à un certain nombre d'enfants identifiés dans des publicités Meta.
D'après WIRED, des chercheurs ont pu remonter à la source des images de quatre mineurs. Deux d'entre eux étaient des influenceurs adolescents possédant des comptes publics sur les réseaux sociaux. Un autre était un préadolescent dont l'image était disponible sur un site de photos libres de droits. Le quatrième était un jeune membre d'une famille royale européenne.
Aucune de ces images originales n'avait besoin de contenir du contenu sexuel pour être utilisée à mauvais escient.
Emma Hardy, directrice de la communication de l'Internet Watch Foundation, a déclaré à WIRED : « Les applications d'IA facilitent grandement la création d'images réalistes et criminelles d'abus sexuels sur enfants, créant ainsi un nouveau risque de voir des photos d'enfants prises au quotidien et transformées en contenu sexuel. »
Une fois qu'une image classique est rendue publique, n'importe qui peut la télécharger et l'utiliser avec un outil d'IA conçu pour retoucher des images.
L'IA de Meta n'a pas réussi à détecter des centaines de publicités
L'ampleur de l'enquête récente montre également combien il est difficile d'empêcher la diffusion des contenus qui en résultent.
En août, les chercheurs de TTP ont initialement découvert 53 publicités contenant du contenu pédopornographique sur les plateformes Meta. Meta a par la suite indiqué que nombre de ces publicités étaient apparues avant la mise en place par l'entreprise d'une nouvelle technologie d'IA conçue pour améliorer sa capacité à détecter les publicités inappropriées dès leur mise en ligne.
Cependant, les chercheurs ont continué à en découvrir. En effet, TTP affirme avoir finalement identifié 332 publicités contenant du contenu pédopornographique généré par l'IA, dont des centaines sont apparues après l'annonce par Meta de sa technologie de détection améliorée, ce qui soulève des questions quant à l'efficacité de la surveillance par IA.
C'est d'autant plus important qu'il ne s'agissait pas simplement de publications Facebook ou Instagram passées inaperçues. C'étaient des publicités payantes.
Meta indique que les publicités sont examinées avant d'être autorisées à être affichées et que les systèmes automatisés jouent un rôle clé dans ce processus.
La porte-parole de Meta, Tracy Clayton, a déclaré à WIRED que l'entreprise applique une tolérance zéro envers les applications de nudité et l'exploitation des enfants, que les images représentent de vrais enfants ou soient générées par intelligence artificielle. Meta a précisé que des personnes mal intentionnées tentent délibérément de contourner ses systèmes de détection et que certaines vidéos sont plus difficiles à repérer car les images d'enfants n'y apparaissent que brièvement ou sont floues.
L'entreprise a déclaré que nombre des publicités identifiées par les chercheurs avaient déjà été retirées, que la plupart avaient généré moins de 200 impressions et qu'elle avait perçu moins de 5 000 $ de revenus publicitaires. Cependant, les chercheurs ont constaté des cas où la portée des publicités avait augmenté après leur signalement.
TTP a indiqué qu'une publicité ciblant un véritable adolescent avait atteint quatre comptes européens lorsqu'elle a été signalée à Meta. Quelques jours plus tard, après sa suppression par Meta, la publicité avait atteint plus de 330 comptes.
L'enquête révèle l'utilisation généralisée de ces outils.
Des chercheurs ont découvert des publicités redirigeant les utilisateurs vers près de 50 applications disponibles sur l'App Store d'Apple et Google Play. Selon WIRED, environ 300 des 350 publicités examinées dans le cadre de cette enquête plus large faisaient la promotion de générateurs d'images ou de vidéos basés sur l'intelligence artificielle.
Apple a indiqué à WIRED que certains développeurs avaient initialement proposé des versions conformes de leurs applications avant d'y ajouter ultérieurement des fonctionnalités de suppression de données interdites. Apple a précisé avoir supprimé 17 des 20 applications identifiées par les chercheurs et pris des mesures à l'encontre des trois autres, ainsi que de sept autres applications découvertes par WIRED.
De son côté, Google a déclaré avoir supprimé toutes les applications mentionnées dans le rapport et suspendu des centaines d'autres applications pour violation de ses règles.
Ces résultats révèlent toutefois un problème qui dépasse le cadre d'une seule plateforme, car l'intelligence artificielle peut servir à créer ces images choquantes. La plupart des outils d'IA ne sont pas réglementés, ce qui expose les entreprises à des risques. Une boutique d'applications pourrait diffuser l'outil utilisé pour les créer, puis une plateforme publicitaire pourrait diffuser des publicités les promouvant.
Chaque couche de ce système peut avoir ses propres systèmes de sécurité, mais les contenus malveillants n'ont besoin de traverser ces systèmes qu'une seule fois pour atteindre les utilisateurs.
Que feriez-vous si vous découvriez une image de votre enfant générée par une intelligence artificielle ?
Si vous découvrez des images à caractère sexuel de votre enfant générées par une IA, ne les republiez pas et ne les diffusez pas largement dans le but d'avertir les autres.
En revanche, conservez les informations permettant d'identifier où ce contenu apparaît, telles que le nom du compte, le titre de la page et d'autres détails connexes, et signalez-le directement à la plateforme.
Aux États-Unis, les cas présumés d'exploitation sexuelle d'enfants peuvent également être signalés à la CyberTipline du Centre national pour les enfants disparus et exploités.
Les parents peuvent également utiliser le service Take It Down du NCMEC , conçu pour empêcher le partage en ligne de photos ou de vidéos de personnes de moins de 18 ans montrant des nus, des semi-nus ou à caractère sexuel explicite. Le système crée une empreinte numérique, ou hachage, de l'image sans nécessiter le téléchargement de l'image elle-même.
Étant donné que les images générées par l'IA créent des scénarios nouveaux et plus complexes, les parents qui ne sont pas sûrs qu'une image traitée réponde aux critères de signalement devraient signaler ce qu'ils constatent plutôt que d'essayer de le déterminer eux-mêmes.
CONCLUSION
Depuis des années, les parents sont mis en garde contre les dangers du « partage » et de l'empreinte numérique laissée par leurs enfants. Le terme « partage », contraction de « partager » et « parentalité », désigne la pratique consistant pour les parents à partager des photos, des vidéos et des informations personnelles concernant leurs enfants sur les réseaux sociaux.
Bien que les parents ne puissent pas éliminer complètement le risque d' utilisation abusive par l'IA des photos ou vidéos qu'ils publient, réduire le nombre d'images de leurs enfants accessibles au public et être plus sélectifs quant à ce qu'ils partagent peut réduire la quantité de contenu disponible pour les personnes susceptibles d'en faire un mauvais usage.
Les commentaires sont fermés.