Une enquête révèle des produits racistes sur Amazon, Google, Wish

Amazon, Google et Wish ont retiré des produits racistes après qu'une enquête a révélé de telles listes sur leurs plates-formes.

Parmi les produits qui étaient en vente, il y avait des drapeaux de la suprématie blanche, des livres néo-nazis et des articles du Ku Klux Klan, selon une enquête de BBC Click.

Les algorithmes d'Amazon et de Wish ont également émis des recommandations pour d'autres marchandises de la suprématie blanche, qui ont été appelées par le groupe de réflexion Demos pour avoir poussé les acheteurs en ligne vers des produits racistes.

«Il faut souvent une enquête humaine pour déterminer que les gens sont conduits dans cette voie», a déclaré Josh Smith, directeur technique et chercheur principal de Demos.

"Les produits en question ne sont plus disponibles et nous avons pris des mesures contre les mauvais acteurs qui ont proposé les produits et enfreint nos politiques", a déclaré Amazon à la BBC, tandis que Google a déclaré qu'il n'autorisait pas les publicités ou les produits "affichant un contenu choquant ou promouvoir la haine. »

«Wish interdit strictement la liste de produits qui glorifient ou soutiennent la haine envers les autres. Nous travaillons dur pour supprimer ces éléments et prenons des mesures supplémentaires pour éviter que de tels éléments n'apparaissent à nouveau », a déclaré un porte-parole à Digital Trends. "Nous encourageons les membres du public à signaler toute annonce offensante ou inappropriée à [email protected]"

Digital Trends a également contacté Amazon et Google pour obtenir de plus amples commentaires sur l'enquête et pour obtenir des informations sur la manière dont ils empêcheront les produits racistes de réapparaître sur leurs plates-formes. Nous mettrons à jour cet article dès que nous aurons une réponse.

Tech contre le racisme

X. Eyeé, responsable de la sensibilisation pour l'innovation responsable chez Google, et Angela Williams, responsable des politiques chez Google, ont fait part de leurs préoccupations lors du (Not IRL) Pride Summit selon lequel les préjugés dans les algorithmes d'IA amplifient le racisme, blessant des communautés déjà marginalisées, pas seulement aux États-Unis. , mais dans le monde entier.

Big Tech a les moyens de lutter contre le racisme systémique, mais les entreprises n'ont jusqu'à présent pas réussi à pousser pour un changement concret.

Mise à jour le 27 juillet 2020: ajout d'une déclaration du porte-parole de Wish.