La base de données sur le contenu terroriste violera-t-elle votre vie privée?

Facebook, Twitter, Microsoft et YouTube ont annoncé qu'ils travailleraient ensemble pour créer une base de données volumineuse. Cette base de données contiendra des images et des vidéos utilisées par les réseaux terroristes. Criminalité, terrorisme et sécurité: le côté obscur des réseaux sociaux Criminalité, terrorisme et sécurité: le côté obscur des médias sociaux Les médias sociaux ne sont pas que des mémoires de chats et des vidéos de farces. Les utilisateurs de Facebook, Twitter et Tumblr peuvent tout aussi bien se retrouver dans des contenus plus sombres distribués par des groupes terroristes aux compétences technologiques. Que devriez-vous faire à ce propos? Lisez Plus pour diffuser de la propagande et tendre la main aux recrues potentielles. La base de données alertera ces entreprises lorsque quelque chose sur leur site viole probablement leurs conditions d'utilisation.

Semble une bonne idée, à droite?

Les détails

Pour le moment, les détails sont un peu flous. Chaque image et vidéo de la base de données aura un “empreinte digitale unique” et les entreprises seront alertées lorsque ce contenu apparaît sur leur site. Au début du programme, les entreprises n’ajouteront que “les images et vidéos terroristes les plus extrêmes et les plus flagrantes” à la base de données.

L'idée est que ces images et vidéos sont les plus susceptibles de violer les conditions d'utilisation Pourquoi lire les conditions d'utilisation, libérez Pokemon GO, et tout… [Tech News Digest] Pourquoi lire les conditions d'utilisation, Libérez Pokemon GO Go Absent… [Résumé Tech News] Tout le monde passe outre les conditions d'utilisation, PokeGone transforme Pokemon GO en Pokémon NON, Facebook garde vos conversations secrètes, Blizzard fait taire les joueurs de badaud de World of Warcraft et Samuel L. Jackson explique Game of Thrones. Lire plus de toutes les plates-formes. Il est donc facile de supprimer ce contenu s’il apparaît quelque part. Chaque entreprise décide quelles images et quelles vidéos doivent figurer dans la base de données. Ils auront également le pouvoir de décider si le contenu doit être supprimé s'il apparaît sur leur site..

C'est à peu près tout ce que nous savons jusqu'à présent. Twitter espère “Cette collaboration contribuera à une plus grande efficacité alors que nous continuons à appliquer nos politiques pour aider à réduire le problème mondial urgent du contenu terroriste en ligne..” Mais nous ne savons vraiment pas grand chose jusqu'à présent. Qui décidera quel contenu contribuer? Les entreprises vont-elles mettre en place des comités d'examen indépendants pour ce genre de choses? Ou vont-ils simplement ajouter quelques choses de temps en temps quand ils en ont envie?

Un mauvais bilan

C'est vraiment difficile de contrôler le contenu en ligne. Qu'il s'agisse de désinformation, d'abus, de vidéos de recrutement de terroristes. Comment les plates-formes de médias sociaux combattent les extrémistes Comment les plates-formes de médias sociaux combattent les extrémistes Les réseaux de médias sociaux constituent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils combattre le terrorisme? En savoir plus, ou l’un des innombrables autres types de contenu indésirable en ligne, il existe un champ de mines de problèmes inhérents au processus. Qui décide quels groupes sont qualifiés de terroristes? Comment la décision est-elle prise de supprimer le contenu? Est-ce que les entreprises vont le rechercher ou comptent sur les utilisateurs pour le signaler??

Microsoft, dans sa déclaration sur le contenu terroriste en ligne, a déclaré ceci:

Lorsque du contenu terroriste sur nos services consommateurs hébergés est porté à notre attention via notre outil de signalement en ligne, nous le supprimerons..

Et ils fournissent un lien vers un formulaire utilisé spécifiquement pour signaler un contenu terroriste. Mais quelle est la probabilité que quelqu'un recherche et utilise réellement ce formulaire? Ils disent aussi qu'ils vont “supprimer les liens vers des contenus liés au terrorisme de Bing uniquement lorsque la suppression est requise par les fournisseurs de services de recherche en vertu de la législation locale.”

Cela met la responsabilité ailleurs.

Problèmes de responsabilité

Electronic Frontier Foundation a abondamment écrit sur les difficultés rencontrées pour contrôler ce type de contenu en ligne. Dans un article de 2014, ils ont critiqué le plan du Royaume-Uni de contraindre les FAI à bloquer “contenu extrémiste” sans procédures de transparence et de responsabilité. Des groupes de défense des droits de l'homme ont également reproché à la France d'avoir une définition très large de l'activité terroriste.

Comment les plates-formes de médias sociaux combattent les extrémistes Comment les plates-formes de médias sociaux combattent les extrémistes Les réseaux de médias sociaux constituent un outil puissant pour les groupes terroristes, principalement pour la propagande et le recrutement. Alors, que font Facebook et Twitter à ce sujet? Comment les réseaux sociaux peuvent-ils combattre le terrorisme? Lire la suite . Bien que Twitter ait supprimé plus de 100 000 comptes Twitter liés à ISIS et commencé à contrôler plus sévèrement les groupes du discours de haine, ceux-ci ont la mauvaise réputation de laisser l'extrémisme et les abus se répandre sur leur plate-forme. Facebook aussi semble content de continuer à utiliser une approche non interventionniste sous la bannière de la liberté d'expression.

Bien sûr, il est assez difficile de gérer ce genre de responsabilité. Je ne dis pas que c'est facile. Mais les entreprises de technologie sont en mesure de se distancer de l'utilisation de leur technologie. Cela inclut la propagation d'images terroristes, de vidéos, de campagnes de recrutement et d'autres contenus. En août 2016, un rapport britannique a déclaré que Facebook, Twitter et YouTube étaient des “délibérément omis de combattre l'utilisation de leurs sites pour promouvoir le terrorisme et la mise à mort.”

L'établissement d'une base de données d'images et de vidéos ne semble pas devoir changer cela. Il est encourageant qu'ils agissent, mais il est difficile d'imaginer que ce soit plus que timide.

Cela pourrait-il être un problème de confidentialité?

Étant donné que les entreprises ajouteront manuellement des éléments à la base de données après que les utilisateurs les ont signalés, il ne semble pas que vos images ou vos vidéos risquent de se retrouver accidentellement dans la base de données. Ce qui est encourageant. Cependant, la création d’une base de données centrale massive contenant des informations uniques identifiées “mal” le contenu est inquiétant.

C’est en grande partie parce que les responsables à l’époque décident de ce qui compte comme “mal”. Cela est particulièrement vrai s'il y a une implication du gouvernement. Vous pourriez faire partie de la majorité un jour et appartenir à une minorité persécutée le lendemain. Le déploiement de ce type de technologie rend ce genre de changement encore plus effrayant.

Bien entendu, rien n'indique que ces sociétés utiliseront cette base de données uniquement pour appliquer de manière laxiste leurs propres directives en matière d'utilisation. Mais le fait que des organisations privées se soient développées et déploient cette technologie pourrait inquiéter certaines personnes. Les gouvernements ont certainement une technologie de surveillance qui est déjà aussi puissante, mais la prolifération pourrait indiquer que les entreprises disposeront des outils nécessaires pour collecter davantage d'informations dans un proche avenir..

Pour l'instant, il n'y a aucune raison de craindre que votre vie privée soit mise en danger par la base de données sur le contenu terroriste. Mais les organisations de protection de la vie privée et de défense des droits qui se battent en votre nom contre la NSA et pour la protection de la vie privée? Qui se bat en votre nom contre la NSA et pour la vie privée? Plusieurs groupes d'activisme sur Internet se battent en votre nom pour la protection de la vie privée. Ils font de leur mieux pour éduquer les internautes. Voici quelques-uns d’entre eux qui sont incroyablement actifs. Read More ferait bien de surveiller le déploiement de ce type de technologie ailleurs.

Un pas en avant?

Il est bon de voir que les entreprises de technologie intensifient leurs activités et prennent des initiatives en ce qui concerne le contenu terroriste sur leurs plateformes. Mais leur casier est rempli de laxisme et de négligence volontaire. Cet outil aidera-t-il à renverser la situation? Cela semble peu probable. (À moins qu'ils ne l'automatisent, ce qui entraîne de nombreuses autres problèmes.) À mon avis, cette base de données ne changera pas beaucoup, et Twitter, Facebook, Microsoft et YouTube l'ont très bien conçue comme une mesure de relations publiques on voulait vraiment faire le bien.

Qu'est-ce que tu penses? Cette base de données aidera-t-elle à lutter contre la propagation de contenu terroriste en ligne? Ou est-ce un geste vide pour gagner une certaine admiration du public? Partagez votre opinion dans les commentaires ci-dessous!

Crédits d'image: Yunava1 / Shutterstock

En savoir plus sur: Confidentialité en ligne, Surveillance.