Instagram est accusé de rediriger une grande partie de son trafic publicitaire vers une application d'IA, Crushmate ou Crush AI, qui se spécialise dans la création d'images de nudité non consensuelle. Cette application exploite des publicités explicites sur des plateformes telles que Facebook et Instagram pour produire des images dégradantes de célébrités et d'influenceurs. Malgré des violations répétées des règles de Meta, la plateforme semble se contenter de mesures superficielles, comme la suppression de certaines publicités, sans résoudre le problème fondamental de leur propagation.Les analystes soulignent plusieurs préoccupations : d'une part, une critique constante de Meta pour son manque de régulation effective, malgré ses tentatives limitées de supprimer les publicités problématiques ; d'autre part, un scepticisme concernant l'efficacité réelle de ces mesures. En effet, bien que des signalements aient été faits, de nombreuses publicités continuent à circuler, avec un trafic considérable provenant directement des publicités payantes sur Instagram et Facebook. L'incapacité apparente de Meta à modérer efficacement ces contenus, notamment les images non consensuelles, semble créer un environnement propice à l'exploitation des utilisateurs à des fins lucratives.
Cette situation soulève des questions cruciales sur la responsabilité des plateformes numériques dans la modération des contenus générés par les utilisateurs, ainsi que sur l'impact de la monétisation de ces espaces, particulièrement lorsqu'il s'agit de pratiques nuisibles comme la diffusion d'images de nudité non consensuelle.
Meta face à l'invasion de la nudité générée par IA : l'inaction face à une menace croissante
L'application Crushmate, également connue sous le nom de Crush AI, achète des publicités sur Facebook, Instagram et d'autres plateformes de Meta depuis au moins début septembre. Selon l'analyse de Similarweb rapportée par Alexios Mantzarlis dans sa newsletter Faked Up, trois des domaines utilisés par Crushmate ont généré environ 240 000 visiteurs, dont 90 % provenaient de Facebook et Instagram. Bien que Meta ait retiré certaines de ces publicités depuis septembre, à la rédaction de cet article, les trois mêmes domaines continuaient d'afficher environ 350 publicités actives et plus de 5 000 au total.
Les publicités récentes suivent généralement le même format : elles utilisent des vidéos publiées par des femmes sur Instagram ou TikTok, montrant comment un utilisateur peut mettre en pause une vidéo à une image précise et la transformer en une image de nudité. De nombreuses publicités, encore actives, se basent sur des vidéos de Sophie Rain, créatrice populaire d'OnlyFans, qui a récemment fait la une des journaux pour avoir gagné 43 millions de dollars en un an. L'une de ces publicités a transformé l'image de Mikayla Demaiter, mannequin avec 3,2 millions de followers sur Instagram.
D'autres publicités montrent des femmes réelles non identifiées ou des images générées par l'IA dont les vêtements sont « effacés » par l'application. Un internaute a également signalé que Crushmate faisait la promotion de ses services sur Facebook Marketplace. Toutes ces publicités redirigent vers les services de Crushmate, qui propose des abonnements pour créer des images de nudité non consensuelle. « J'ai signalé à plusieurs reprises que Meta diffusait des publicités explicites, y compris des images de nudité flagrante. Bien que Meta ait supprimé certaines publicités après signalement, Crushmate a trouvé une solution de contournement en créant plusieurs pages Facebook avec des images de profil générées par l'IA, ressemblant à des personnes normales, et en achetant des publicités pour de nouvelles URL redirigeant vers son service », écrit-il.
Des tests réalisés par l'organisation AI Forensics ont montré que les images de nudité téléchargées par des utilisateurs ordinaires étaient rapidement supprimées, alors que les mêmes images téléchargées sous forme de publicités restaient en ligne. Cela suggère une application différente des normes de Meta lorsque de l'argent est impliqué.
Bien que Meta affirme qu'elle interdit les publicités promouvant l'exploitation sexuelle, ces publicités continuent d’être diffusées en grand nombre sur ses plateformes. Les outils de modération de Meta semblent insuffisants pour lutter contre l’utilisation des applications de nudité générée par IA, des outils dangereux qui, comme l'ont montré des études récentes, sont parfois utilisés par des mineurs pour créer des images non consensuelles d'autres enfants. Ces outils sont ainsi largement disponibles grâce aux publicités payées par Meta.
Instagram et Facebook accusés de partager vos données à grande échelle
En 2021, une étude menée par pCloud a classé Instagram comme l'application la plus intrusive au monde. L'étude a révélé qu'Instagram collecte 79 % des données personnelles de ses utilisateurs, les partageant avec des tiers, y compris l'historique de recherche, la localisation, les contacts et les informations financières. Cette découverte a été faite par pCloud après avoir examiné les étiquettes de confidentialité des applications récemment ajoutées à l'App Store d'Apple, que les entreprises doivent désormais inclure. Le service de stockage Cloud suisse a établi ce classement en vérifiant les déclarations de confidentialité, une exigence d'Apple entrée en vigueur en décembre 2020.
Ivan Dimitrov, responsable numérique chez pCloud, a souligné dans un billet de blog détaillant l'étude que « toute information recueillie par une application lors de votre inscription peut être utilisée à son profit et même partagée. Que ce soit votre historique de navigation, votre localisation, vos coordonnées bancaires ou vos informations sur la santé, tout cela peut être précieux pour les applications qui le stockent, l'exploitent ou le revendent ». Il a ajouté que, avec plus d'un milliard d'utilisateurs actifs mensuels, il est préoccupant qu'Instagram soit un point central pour le partage de telles données sans que les utilisateurs en aient pleinement conscience.
pCloud a mesuré combien de fois chaque application utilise les données personnelles pour des publicités internes ou externes, en se basant sur les 14 catégories de données répertoriées par Apple : historique de navigation, coordonnées, contacts, diagnostics, informations financières, santé et forme physique, identifiants, localisation, achats, historique de recherche, informations sensibles, données d'utilisation, contenu utilisateur et autres données. Instagram, le plus grand contrevenant, partage 11 de ces 14 catégories (soit 79 %) avec des tiers à des fins publicitaires. De plus, il utilise 12 de ces catégories (86 %) pour ses propres campagnes de publicité et marketing.
Le deuxième plus grand contrevenant en matière de partage de données personnelles est Facebook, la société mère d'Instagram. Le réseau social obtient également un score de 86 % pour la publicité et le marketing internes, et arrive en deuxième position pour le partage avec des tiers, avec un score de 57 % (8 sur 14). Par ailleurs, Meta a récemment supprimé plusieurs comptes automatisés alimentés par l'IA sur Instagram et Facebook, après que des utilisateurs aient rapporté que ces bots, en interagissant avec eux, se présentaient parfois de manière trompeuse comme de véritables personnes, avec des identités raciales et sexuelles fictives. Des captures d'écran de ces interactions ont circulé, provoquant un tollé et incitant Meta à retirer ces profils.
En 2023, Meta a créé 28 profils de chatbots sur ses plateformes, avec des avertissements précisant que « les messages sont générés par Meta AI ». L'entreprise affirme que ces chatbots sont conçus pour aider les utilisateurs à résoudre des problèmes complexes et à stimuler la créativité. Cependant, bien que Meta et ses concurrents encouragent l'utilisation de l'IA, ils semblent réticents à prendre en charge les dérives potentielles associées à cette technologie.
Instagram, une plateforme de profit au détriment de la sécurité et de la vie privée des utilisateurs
L’affaire de la redirection du trafic publicitaire vers une application d'IA comme Crushmate, qui génère des images de nudité non consensuelle, met en lumière plusieurs préoccupations sérieuses concernant la gestion de la publicité sur les plateformes de Meta, notamment Instagram et Facebook. Il est frappant de constater que malgré des violations répétées des politiques de la plateforme, Meta semble adopter une attitude passive, en supprimant seulement certaines publicités sans véritablement résoudre la question de leur prolifération. Cette réaction superficielle soulève des questions sur l'efficacité réelle des efforts de modération de Meta et sur ses priorités en matière de régulation des contenus, d'autant plus que de nombreuses publicités continuent d’être diffusées et génèrent un trafic conséquent sur les plateformes, ce qui semble indiquer un manque de volonté réelle de lutter contre ce phénomène.
Certains analystes ont mis en évidence un manque de régulation adéquate, soulignant que Meta, tout en prenant des mesures ponctuelles, ne semble pas vraiment s’attaquer aux racines du problème, ce qui permet à de telles applications d'exploiter l'énorme audience des plateformes sociales. Cette situation met en lumière un paradoxe où, d’une part, Meta lutte contre des pratiques nuisibles, mais d’autre part, elle génère des profits significatifs grâce aux publicités qu’elle diffuse. L'incapacité à supprimer les contenus inappropriés de manière efficace et rapide, combinée à un modèle économique qui repose sur la publicité payante, crée un environnement favorable à l'exploitation et à l’abus des utilisateurs, et cela à des fins purement lucratives.
L’aspect invasif d'Instagram, révélé par une étude de 2021 de pCloud, montre également l’étendue du contrôle que l’application exerce sur ses utilisateurs. En collectant 79 % des données personnelles de ses utilisateurs, y compris des informations sensibles comme l’historique de recherche, la localisation, et les données financières, Instagram semble particulièrement intrusive. Ce phénomène aligne les préoccupations relatives à la collecte de données sur les enjeux de modération de contenus. Non seulement Instagram est accusée d'exploiter ses utilisateurs pour son propre profit, mais il semble aussi manquer de vigilance quant à la protection de leurs droits et de leur vie privée, ce qui aggrave davantage la situation d’un point de vue éthique et juridique.
En fin de compte, le problème ne réside pas uniquement dans les publicités abusives de certaines applications, mais aussi dans la manière dont Meta gère et profite des données personnelles tout en restant passif face aux abus générés par sa propre plateforme. Les utilisateurs sont constamment pris au piège dans un système où leur attention est monétisée sans que des mesures substantielles soient prises pour garantir leur sécurité et leur respect.
Source : 404 Media
Et vous ?
Quel et votre avis sur le sujet ? Jusqu'à quel point les plateformes comme Meta sont-elles responsables de la diffusion de contenus nuisibles générés par des applications tierces, telles que Crushmate ? Pourquoi Meta semble-t-elle adopter une approche passive face à la prolifération de publicités problématiques, même après plusieurs signalements ?Voir aussi :
Meta supprime ses profils Facebook et Instagram pilotés par l'IA après que leurs réponses controversées sont devenues virales, ces chatbots sont biaisés et suscitent des craintes en matière de santé mentale Instagram est « l'application la plus invasive », selon une nouvelle étude de pCloud, la société mère Facebook vient en deuxième position Meta supprime ses profils Facebook et Instagram pilotés par l'IA après que leurs réponses controversées sont devenues virales, ces chatbots sont biaisés et suscitent des craintes en matière de santé mentale