Instagram est accusé de rediriger une grande partie de son trafic publicitaire vers une application d'IA, Crushmate ou Crush AI, qui se spécialise dans la création d'images de nudité non consensuelle. Cette application exploite des publicités explicites sur des plateformes telles que Facebook et Instagram pour produire des images dégradantes de célébrités et d'influenceurs. Malgré des violations répétées des règles de Meta, la plateforme semble se contenter de mesures superficielles, comme la suppression de certaines publicités, sans résoudre le problème fondamental de leur propagation.Les analystes soulignent plusieurs préoccupations : d'une part, une critique constante de Meta pour son manque de régulation effective, malgré ses tentatives limitées de supprimer les publicités problématiques ; d'autre part, un scepticisme concernant l'efficacité réelle de ces mesures. En effet, bien que des signalements aient été faits, de nombreuses publicités continuent à circuler, avec un trafic considérable provenant directement des publicités payantes sur Instagram et Facebook. L'incapacité apparente de Meta à modérer efficacement ces contenus, notamment les images non consensuelles, semble créer un environnement propice à l'exploitation des utilisateurs à des fins lucratives.
Cette situation soulève des questions cruciales sur la responsabilité des plateformes numériques dans la modération des contenus générés par les utilisateurs, ainsi que sur l'impact de la monétisation de ces espaces, particulièrement lorsqu'il s'agit de pratiques nuisibles comme la diffusion d'images de nudité non consensuelle.
Meta face à l'invasion de la nudité générée par IA : l'inaction face à une menace croissante
L'application Crushmate, également connue sous le nom de Crush AI, achète des publicités sur Facebook, Instagram et d'autres plateformes de Meta depuis au moins début septembre. Selon l'analyse de Similarweb rapportée par Alexios Mantzarlis dans sa newsletter Faked Up, trois des domaines utilisés par Crushmate ont généré environ 240 000 visiteurs, dont 90 % provenaient de Facebook et Instagram. Bien que Meta ait retiré certaines de ces publicités depuis septembre, à la rédaction de cet article, les trois mêmes domaines continuaient d'afficher environ 350 publicités actives et plus de 5 000 au total.
Les publicités récentes suivent généralement le même format : elles utilisent des vidéos publiées par des femmes sur Instagram ou TikTok, montrant comment un utilisateur peut mettre en pause une vidéo à une image précise et la transformer en une image de nudité. De nombreuses publicités, encore actives, se basent sur des vidéos de Sophie Rain, créatrice populaire d'OnlyFans, qui a récemment fait la une des journaux pour avoir gagné 43 millions de dollars en un an. L'une de ces publicités a transformé l'image de Mikayla Demaiter, mannequin avec 3,2 millions de followers sur Instagram.
D'autres publicités montrent des femmes réelles non identifiées ou des images générées par l'IA dont les vêtements sont « effacés » par l'application. Un internaute a également signalé que Crushmate faisait la promotion de ses services sur Facebook Marketplace. Toutes ces publicités redirigent vers les services de Crushmate, qui propose des abonnements pour créer des images de nudité non consensuelle. « J'ai signalé à plusieurs reprises que Meta diffusait des publicités explicites, y compris des images de nudité flagrante. Bien que Meta ait supprimé certaines publicités après signalement, Crushmate a trouvé une solution de contournement en créant plusieurs pages Facebook avec des images de profil générées par l'IA, ressemblant à des personnes normales, et en achetant des publicités pour de nouvelles URL redirigeant vers son service », écrit-il.
Des tests réalisés par l'organisation AI Forensics ont montré que les images de nudité téléchargées par des utilisateurs ordinaires étaient rapidement supprimées, alors que les mêmes images téléchargées sous forme de publicités restaient en ligne. Cela suggère une application différente des normes de Meta lorsque de l'argent est impliqué.
Bien que Meta affirme qu'elle interdit les publicités promouvant l'exploitation sexuelle, ces publicités continuent d’être diffusées en grand nombre sur ses plateformes. Les outils de modération de Meta semblent insuffisants pour lutter contre l’utilisation des applications de nudité générée par IA, des outils dangereux qui, comme l'ont montré des études récentes, sont parfois utilisés par des mineurs pour créer des images non consensuelles d'autres enfants. Ces outils sont ainsi largement disponibles grâce aux publicités payées par Meta.
Instagram et Facebook accusés de partager vos données à grande échelle
En 2021, une étude menée par pCloud a classé Instagram comme l'application la plus intrusive au monde. L'étude a révélé qu'Instagram collecte 79 % des données personnelles de ses utilisateurs, les partageant avec des tiers, y compris l'historique de recherche, la localisation, les contacts et les informations financières. Cette découverte a...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.