IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'échec des systèmes IA de modération de Meta : des centaines de publicités pour des drogues passent à travers les mailles du filet
Malgré ses politiques qui en interdisent la promotion

Le , par Stéphane le calme

46PARTAGES

6  0 
Meta Platforms, l’entreprise derrière Facebook et Instagram, continue de diffuser des publicités pour des drogues illégales, même après que les médias aient révélé qu’elle faisait l’objet d’une enquête fédérale à ce sujet. Ces annonces dirigent les utilisateurs vers des marchés en ligne où sont vendues de la cocaïne, des opioïdes et d’autres substances illicites. Malgré les politiques de Meta interdisant la promotion de la vente de drogues récréatives ou illicites, l’entreprise continue de percevoir des revenus provenant de ces publicités.

Le 15 mars 2024, Nick Clegg, président des affaires mondiales de Meta, a vanté les efforts de son entreprise pour lutter contre la toxicomanie. Qualifiant l'épidémie d'opioïdes de « problème majeur de santé publique », il a écrit que Meta, la société mère de Facebook et d'Instagram, avait rejoint l'Alliance to Prevent Drug Harms pour « aider à perturber la vente de drogues synthétiques en ligne ».

Mais le moteur publicitaire de Meta, qui génère l'essentiel des bénéfices de l'entreprise, n'a manifestement pas reçu le message. Le jour même où Clegg a fait son annonce, Meta a diffusé sur ses plateformes des publicités payantes vendant des opioïdes comme l'oxycodone, le tramadol et le Percocet, ainsi que ce qui semblait être des morceaux de cocaïne et des pilules d'ecstasy, en violation de la politique de l'entreprise.

Il ne s'agit pas d'un incident isolé.

[TWITTER]<blockquote class="twitter-tweet"><p lang="en" dir="ltr">The opioid epidemic is a major public health issue that requires action from all parts of US society. That’s why <a href="https://twitter.com/Meta?ref_src=twsrc%5Etfw">@Meta</a> has joined the Alliance to Prevent Drug Harms alongside the <a href="https://twitter.com/StateDept?ref_src=twsrc%5Etfw">@StateDept</a> <a href="https://twitter.com/UNODC?ref_src=twsrc%5Etfw">@UNODC</a> & <a href="https://twitter.com/Snapchat?ref_src=twsrc%5Etfw">@Snapchat</a> to help disrupt the sale of synthetic drugs online + educate users…</p>— Nick Clegg (@nickclegg) <a href="https://twitter.com/nickclegg/status/1768663371820446029?ref_src=twsrc%5Etfw">March 15, 2024</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script> [/TWITTER]

Meta a continué à percevoir des revenus provenant de publicités qui enfreignent ses politiques

Meta a continué à percevoir des revenus provenant de publicités qui enfreignent ses politiques, lesquelles interdisent la promotion de la vente de drogues illicites ou récréatives. Le Wall Street Journal a découvert des dizaines d’annonces pour des substances illégales telles que la cocaïne et les opioïdes, certaines datant de vendredi dernier. Une analyse séparée menée par un groupe de surveillance de l’industrie a trouvé des centaines d’autres annonces similaires. Ces publicités utilisent des photos de bouteilles de médicaments, de pilules ou de briques de cocaïne pour promouvoir leurs produits. Certaines annonces affichent même des images de poudre arrangées pour former le mot “DMT”, une drogue psychédélique.

Le Journal a rapporté en mars que les autorités fédérales enquêtaient sur Meta pour son rôle dans la vente illicite de drogues. L'organisation à but non lucratif Tech Transparency Project, qui enquête sur les plateformes en ligne, a examiné la bibliothèque d'annonces de Meta de mars à juin et a trouvé plus de 450 annonces de drogues illicites sur Facebook et Instagram.

« Il n'est plus nécessaire d'utiliser le dark web quand il suffit d'acheter une publicité sur Facebook pour vendre des drogues dangereuses ou même escroquer des gens à une échelle qui n'aurait pas été possible via le dark web », a déclaré Katie Paul, directrice du Tech Transparency Project.


Malgré l’utilisation d’outils d’IA pour modérer le contenu, Meta n’a pas réussi à empêcher ces annonces de passer à travers ses systèmes de modération

Meta utilise des outils d'intelligence artificielle pour modérer le contenu, mais les outils de l'entreprise n'ont pas réussi à arrêter de telles publicités pour des médicaments, qui redirigent souvent les utilisateurs vers d'autres plateformes où ils peuvent effectuer des achats. L'utilisation de photos pour présenter les médicaments disponibles semble permettre aux publicités de contourner les systèmes de modération de contenu de Meta.

Meta collabore avec les forces de l'ordre pour lutter contre ce type d'activité, a déclaré un porte-parole de l'entreprise. Les équipes de modération de contenu de l'entreprise ont été affectées par des réductions de personnel ces dernières années. Le porte-parole a déclaré que l'entreprise avait quadruplé la taille de l'équipe travaillant sur la sûreté et la sécurité depuis 2016.

« Nos systèmes sont conçus pour détecter de manière proactive et appliquer contre les contenus violents, et nous rejetons des centaines de milliers d'annonces pour violation de nos politiques en matière de drogues », a déclaré le porte-parole. « Nous continuons à investir des ressources et à améliorer encore notre application sur ce type de contenu. Nous sommes de tout cœur avec ceux qui souffrent des conséquences tragiques de cette épidémie, et nous devons tous travailler ensemble pour y mettre fin ».

Lorsque les utilisateurs cliquent sur les pages Facebook ou les comptes Instagram associés aux publicités, ces pages comprennent souvent des photos ou des posts supplémentaires, non sponsorisés, de contenus liés à la drogue. Certains comptes utilisent des noms qui indiquent clairement qu'ils sont destinés à la transaction de drogues, comme la publicité pour le DMT, qui a été publiée par un compte appelé "DMT Vapes and Notes".

Les utilisateurs qui cliquent sur les liens contenus dans les annonces sont généralement redirigés vers des groupes de discussion privés sur l'application Telegram, qui n'appartient pas à Meta. Lorsqu'ils y accèdent, ces groupes de discussion affichent généralement un flux de messages des revendeurs comprenant des photos des drogues qu'ils proposent, des menus avec les prix et des instructions pour passer des commandes, selon l'examen du Journal et l'analyse du Tech Transparency Project.

Meta a désactivé un grand nombre des annonces de médicaments repérées par le WSJ et TTP dans les 48 heures suivant leur mise en ligne, a déclaré le porte-parole de l'entreprise.

Toutes les publicités ont été supprimées pour violation des règles de Meta et, après avoir été contactée, l'entreprise a également banni de sa plateforme les utilisateurs qui avaient créé les publicités. En outre, l'entreprise a déclaré qu'elle utilisait les informations sur les nouvelles tactiques adverses recueillies lors de l'enquête sur ces publicités pour se déployer et procéder à de nouveaux balayages.


Méthodologie

Dans le cadre de cette enquête, la TTP a recherché les termes "OxyContin", "oxycodone", "Vicodin", "Percocet", "Xanax", "codéine" et "pure coke" dans la bibliothèque d'annonces Meta. TTP a également recherché les termes "WhatsApp" et "t.me", le lien court pour Telegram. WhatsApp et Telegram sont des applications de messagerie cryptées connues pour être largement utilisées par les trafiquants de drogue. TTP a mené ses recherches entre le 1er mars et le 14 juin 2024.

TTP a constaté que la recherche du nom d'un médicament de prescription tel que l'OxyContin ou le Xanax dans la méta-bibliothèque publicitaire faisait souvent apparaître des publicités qui vendaient explicitement le médicament en question. Ces annonces mentionnaient le médicament dans le texte de l'annonce ou montraient une photo d'un flacon de médicament sur ordonnance avec le nom du médicament clairement visible. Les recherches portant sur le terme "t.me" font souvent apparaître des publicités montrant des photos de pilules, de poudres, de substances cristallisées ou de briques de poudre blanche qui semblent être des drogues telles que l'ecstasy ou la cocaïne. Ces annonces sont souvent dépourvues de texte mais renvoient à un compte Telegram sur lequel un trafiquant de drogue indique des produits et des prix spécifiques. Certaines de ces annonces utilisaient des émojis connus, comme un flocon de neige représentant la cocaïne, pour indiquer leurs offres.

Grâce à ces recherches, TTP a identifié 452 publicités pour la drogue diffusées sur les plateformes de Meta, notamment Facebook, Instagram, Messenger et le réseau d'audience de Meta, qui place des publicités sur les applications mobiles qui s'associent au service. De toutes les plateformes, c'est Instagram qui a accueilli le plus grand nombre de publicités pour des produits stup...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de TotoParis
Membre expérimenté https://www.developpez.com
Le 05/08/2024 à 21:45
L'I.A. est une bien belle cochonnerie. Qui consomme en plus une énergie colossale : continuez à faire pipi sous la douche pour sauver la planète. Et en plus l'égalité des sexes est respectée dans ces circonstances...
1  1