Comment la police attribue-t-elle un «score de menace» sur Facebook?

Une histoire récente de Le Washington Post a donné au public un aperçu unique des capacités de surveillance des médias sociaux du service de police de Fresno, qui teste un logiciel controversé appelé Beware. La pièce a provoqué beaucoup de remous sur la prétendue prédisposition du logiciel aux violations des libertés civiles.

Mais en quoi ce programme est-il différent des autres activités de surveillance menées par la police sur les réseaux sociaux? Méfiez-vous des menaces réelles aux libertés civiles? Ou est-ce que tout cela est exagéré? Et que pouvez-vous faire pour empêcher la police de fouiller dans vos publications sur les réseaux sociaux??

Un outil évident pour les services de police

Les agents de la force publique ont probablement utilisé les médias sociaux pour recueillir des renseignements depuis leur adoption - même en 2006, la police avait arrêté un mineur dans le Colorado après avoir publié des photos de lui sur MySpace avec plusieurs armes à feu..

L’utilisation des médias sociaux dans les enquêtes n’est devenue plus banale que depuis, et plusieurs histoires témoignent de son efficacité. En 2014, la police de New York a saisi plus de 250 armes vendues illégalement après une vaste enquête qui a débuté lorsque les policiers ont remarqué qu'un aspirant rappeur avait publié des images d'armes à feu dans son studio sur Instagram..

Il a été rapporté à de nombreuses reprises que des étudiants auraient été arrêtés pour avoir placé une bombe et d'autres menaces contre leurs écoles, ainsi que de nombreuses arrestations après avoir publié des articles préconisant la violence à l'encontre de la police. Blagues à la bombe Comment utiliser Twitter sans visser Comment utiliser Twitter sans visser Twitter peut être un mystérieux contact, et il est facile de faire des erreurs de temps en temps - même si vous êtes un utilisateur de longue date. Voici quelques erreurs courantes et comment les éviter. Lire la suite ont abouti à des arrestations. Cela ne se limite pas aux États-Unis non plus; Au Royaume-Uni, il y a amplement de précédents pour être arrêté sur la base de quelque chose “grossièrement offensant” ou menaçant sur les médias sociaux.

Les médias sociaux sont devenus un lieu important pour les postures et les menaces de gangs, et la police dans des villes comme Chicago et New York a procédé à un nombre surprenant d'arrestations fondées sur des publications sur Facebook, YouTube et Instagram dans lesquelles des membres de gangs agissent de manière illégale ou expriment leurs sentiments. intention de le faire.

Dans l’ensemble, la surveillance des médias sociaux est un choix évident pour les forces de l’ordre: si les gens publient leurs exploits illégaux sur Facebook, là où le monde entier peut les voir, il sera rentable de les surveiller..

Le problème avec Méfiez-vous: une approche algorithmique

Donc, si la police surveille les médias sociaux depuis des années, pourquoi l'approche de Fresno fait-elle la une des journaux? Une partie de la réponse réside dans le fait que Beware utilise une approche algorithmique pour surveiller les médias sociaux. De nombreux outils de surveillance des médias sociaux simplistes (même ceux utilisés par les spécialistes du marketing des médias sociaux) Votre guide du marketing des médias sociaux Votre assiette du marketing des médias sociaux À l'heure actuelle, les gens et les entreprises se tournent vers les médias sociaux. La concurrence est féroce et Aucune entreprise ne peut perdre du temps ou de l'argent en se trompant. Pour en savoir plus, il suffit de rechercher des mots clés ou des modèles spécifiques dans les données, ce que font individuellement les agents de police à une échelle beaucoup plus petite..

Mais Méfiez-vous, lorsque l'information d'un individu est donnée, calcule un “score de menace” basé sur, selon le site Web d'Intrado,

… Des milliards de documents commerciaux accessibles au public en quelques secondes, alertant les intervenants des situations potentiellement dangereuses alors qu'ils se dirigeaient vers une demande d'assistance 9-1-1 ou sur le lieu de celle-ci.

Les milliards de points de données proviennent de publications sur les réseaux sociaux, d'arrestations et autres archives publiques, de bases de données commerciales et de nombreux autres types de données, bien exactement d'où elles viennent et comment elles sont traduites en un score de menace vert, jaune ou rouge. est un secret commercial gardé par Intrado, le fabricant du logiciel.

La façon dont la police utilise ce système de pointage est cependant évidente: si un appelant au 911 ou une personne impliquée dans l'appel a un indice de menace jaune ou rouge, les agents seront plus prudents avant d'entrer. Ce qui pourrait très bien vouloir dire être plus armé et prêt en cas de problème, un état d'esprit qui pourrait avoir de graves conséquences pour l'appelant.

En 2007, la police enquêtait sur le vol de deux consoles PlayStation sur un campus universitaire lorsqu'elle avait découvert des images du suspect en train de poser plusieurs armes à feu sur les réseaux sociaux. Ils ont envoyé une équipe SWAT chez le suspect et un autre étudiant a été retrouvé mort après qu'un policier ait confondu le bruit du bélier utilisé pour pénétrer dans la maison contre des coups de feu. C’est exactement le genre de réaction lourdement armée basée sur des informations tirées des médias sociaux qui inquiète les gens..

le PosterL'histoire mentionne qu'une femme qui a tweeté sur le jeu Rage et un homme qui vivait dans une maison précédemment occupée par une personne d’intérêt présentait un niveau de menace élevé. Un officier en chair et en os n'aurait prêté la moindre attention à aucune de ces personnes, mais le logiciel d'Intrado pourrait mettre les officiers en colère s'ils répondaient à un appel de l'un de ces citoyens..

Ce qui est inquiétant pour beaucoup de gens, c’est que les calculs du score de menace reposent sur un algorithme développé par une seule entreprise qui ne partagera pas ses équations de sitôt - Méfiez-vous, c’est une boîte noire totale. Des algorithmes contrôlent déjà des parties importantes de notre vie 4 Des algorithmes d'apprentissage automatique qui façonnent votre vie 4 Des algorithmes d'apprentissage automatique qui façonnent votre vie Vous ne le réalisez peut-être pas, mais l'apprentissage automatique est déjà tout autour de vous et peut exercer une influence surprenante sur votre vie. . Ne me crois pas? Vous pourriez être surpris. Lire la suite, mais le fait qu'ils puissent maintenant nous mettre dans une situation dangereuse commence à attirer l'attention des gens.

Les approches algorithmiques du maintien de l'ordre ont suscité de nombreuses critiques dans le passé, certains critiques affirmant qu'ils étaient enclins au profilage racial, tandis que d'autres affirmaient que les outils étaient clairs. “raciste.” La recherche sur le sujet est peu concluante, certaines études montrant une diminution de la criminalité à court terme et d'autres ne montrant aucun effet significatif de la technologie prédictive..

Un héritage de surveillance

L'analyse de “des milliards” des points de données rappelle certains programmes antérieurs entrepris par le gouvernement américain.

Total Information Awareness (TIA) est une initiative entreprise par le Bureau de sensibilisation à l'information au début des années 2000 qui a rassemblé des informations sur les achats par carte de crédit, les abonnements à des magazines, la navigation sur le Web, la messagerie électronique, les notes universitaires, les voyages, les événements juridiques et d'autres types d'informations. pour le stockage dans une base de données centrale. Même après avoir été renommée Terrorist Information Awareness, la TIA a été fermée en raison de l'indignation du public à l'égard de l'idée franchement orwellienne..

L'un des projets de recherche de la DARPA Vous ne le croirez pas: la recherche future de la DARPA en ordinateurs avancés Vous ne le croirez pas: la recherche future de la DARPA en ordinateurs avancés La DARPA est l'une des parties les plus fascinantes et les plus secrètes du gouvernement américain. Voici quelques-uns des projets les plus avancés de la DARPA qui promettent de transformer le monde de la technologie. Read More a étudié un système similaire appelé LifeLog qui collecterait…

… Toutes les activités et relations d'une personne. Cela comprend les achats par carte de crédit, les sites Web visités, le contenu des appels téléphoniques et des courriers électroniques envoyés et reçus, les numérisations de télécopies et de courrier envoyé et reçues, les messages instantanés envoyés et reçus , livres et magazines lus, sélections télévision et radio, localisation physique enregistrée via des capteurs GPS portables, [et] données biomédicales capturées via des capteurs portables.

De toute évidence, Beware et les autres solutions de surveillance des médias sociaux ne sont pas aussi avancées et ne présentent pas le même potentiel de violation de la vie privée. Cependant, le modèle du gouvernement américain consistant à créer des logiciels violant la vie privée qui ne sont pas bien compris du public ou qui sont tenus secrets, a beaucoup de gens nerveux. Et la surveillance des réseaux sociaux par la police semble pouvoir devenir un champ de bataille des libertés civiles.

Beaucoup de gens ont déjà pris parti. Le grand nombre de programmes de surveillance des médias sociaux disponibles indique que de nombreux services de police et autres organisations (y compris les écoles) souhaitent utiliser cette technologie..

D'autre part, des groupes tels que l'ACLU se sont déjà prononcés contre la technologie, affirmant qu'elle pourrait permettre aux services de police de “placer les gens sous le soupçon simplement pour avoir exprimé leur opinion en ligne.” Le blog de l'ACLU sur le sujet était intitulé de manière provocante “Ce logiciel de surveillance espionne probablement #BlackLivesMatter Hashtag Activism: #powerful or #pointless? Hashtag Activism: # puissant ou #pointless? #BringBackOurGirls, #ICantBreathe et #BlackLivesMatter ont bénéficié d'une large couverture internationale au cours de la dernière année - mais les hashtags sont-ils un moyen efficace d'activisme? Lire la suite ,” bien qu'il y ait peu de preuves que ce soit le cas.

Et bien sûr, toutes les informations extraites par Beware sont “disponible dans le commerce.” Il est difficile pour quiconque de savoir exactement ce que cela signifie, car les types de données vendues par les réseaux sociaux semblent changer tout le temps. Comme nous l’avons déjà vu, il n’est pas difficile d’obtenir des informations qui, selon un utilisateur, sont confidentielles. Préparez la confidentialité de votre compte pour la recherche de graphes sur Facebook [Astuces hebdomadaires Facebook] Préparez la confidentialité de votre compte pour la recherche de graphes sur Facebook [Astuces hebdomadaire sur Facebook] À chaque fois sur Facebook publie une nouvelle fonctionnalité pour en savoir plus sur nos amis, de nombreuses personnes se rendent compte que leurs paramètres de confidentialité ne sont plus adéquats. Leur dernière nouveauté, Facebook Graph Search, ne fait pas exception… Read More simplement en posant les bonnes questions et en utilisant les bons outils.

Je ne serais pas le premier à associer Beware et d’autres solutions de surveillance des médias sociaux à Rapport minoritairepré-crime ou 1984crime de pensée.

La sophistication de logiciels tels que Beware en est au point où elle peut probablement tirer des conclusions basées sur des choses que vous ne dites pas, mais qu’elles impliquent. Intrado et les autres fabricants ne veulent pas que leurs logiciels soient liés à des romans de science-fiction dystopiques, mais la connexion est évidente..

Leçons apprises

Que vous soyez inquiets ou non des violations potentielles de la vie privée causées par un logiciel de surveillance des médias sociaux par les forces de l'ordre, ceci devrait vous rappeler que tout ce que vous publiez sur Facebook ou Twitter n'est pas uniquement disponible pour vos amis. C'est là pour toujours, et probablement dans les mains d'une grande variété de personnes et d'entreprises.

La meilleure chose à faire est de ne pas publier de choses stupides sur les médias sociaux. Ne fais pas de blagues pour faire quelque chose d'illégal. Ne préconisez pas la violence contre la police ou les militaires. Ne postez pas de photos de vous-même qui pourraient être interprétées comme une menace (surtout avec des armes à feu, mais ne postez pas de photos de vous avec des armes à feu). Cela relève du bon sens, mais Fresno et leur utilisation de Beware devraient souligner l’importance de ce type de mesures de protection..

Il est également important de garder à l’esprit cette question lors de la prochaine élection présidentielle américaine. 6 Ressources pour vous aider à suivre l’élection présidentielle américaine 2016 6 Ressources pour vous aider à suivre l’élection présidentielle américaine 2016 Le droit de vote du peuple détermine le résultat de une élection. Soyez un électeur informé et prenez cette tâche importante au sérieux à l'aide de ces outils. En savoir plus (où les médias sociaux sont également un outil extrêmement important. Les campagnes politiques vous surveillent sur Facebook. Voici pourquoi les campagnes politiques vous surveillent sur Facebook. Voici pourquoi vous savez maintenant que les entreprises et le gouvernement utilisent les médias sociaux pour vous suivre. groupe qui surveille, analyse et exploite chaque mouvement effectué sur Facebook: les militants politiques. Cette question pourrait très bien se poser peu de temps après l'assermentation d'un nouveau président, et la façon dont elle évoluera à partir de là pourrait dépendre de qui est assis au bureau ovale. Cela peut sembler un problème mineur maintenant, mais cela pourrait être un très gros problème dans un proche avenir. Cela vaut la peine de garder un oeil sur.

Que pensez-vous de la surveillance des médias sociaux par les services de police? Pensez-vous qu'ils sont justifiés d'utiliser une approche algorithmique? Ou pensez-vous que cela peut conduire à un profilage racial et à des jugements inexacts? Faut-il s'inquiéter de la progression de ce type de logiciel??

C'est une question compliquée et je ne suis même pas totalement sûr de ce que je ressens à ce sujet. Cela laisse trop entre les mains d'un algorithme qui surveille des personnes à leur insu. Mais cela pourrait aussi aider à sauver la vie d'agents qui se sont retrouvés dans des situations dangereuses. Aidez-moi à le décomposer dans les commentaires ci-dessous.

Crédits d'image: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.

En savoir plus sur: Facebook, Surveillance.