Nicolas ARPAGIAN

Expert en sécurité numérique auprès du Centre d'étude et de prospective stratégique (CEPS).

Vers une société numérisée, de plus en plus surveillée

Les technologies de l'information rendent matériellement possibles la captation, l'enregistrement, le croisement et le stockage des traces numériques de nos déplacements, de nos rencontres et de la plupart de nos comportements sociaux. Ces compilations sont la promesse de nouveaux services vertueux, mais portent en elles des capacités sans précédent de supervision totale et permanente de nos vies quotidiennes.

Vous pensiez avoir depuis longtemps quitté les bancs de l'école et ne plus avoir à subir en tant qu'adulte les affres trimestrielles du bulletin de notes ? Sachez qu'au contraire, à l'ère numérique, cette évaluation que vous redoutiez tant est largement systématisée et étendue à la quasi-totalité de votre existence. Si elle peut paraître anodine, cette recension, conduite à l'échelle internationale, porte en elle les conditions de l'exécution de politiques qui peuvent s'avérer contraires aux principes démocratiques. Cette accumulation de données s'effectuant largement à l'insu des personnes concernées, ce n'est que lorsque les effets de leur exploitation se feront sentir que la prise de conscience surviendra. Il sera donc sans doute trop tard.

Le fichage numérique généralisé

Cela commence par des actes du quotidien. Notamment ces réseaux sociaux auxquels les Français consacrent en 2018 chaque jour quatre-vingts minutes de leur temps 1. Facebook établit une cotation 2 de la crédibilité de ses 2,4 milliards d'utilisateurs, composée notamment à partir de leurs activités sur les réseaux sociaux. Cette démarche exige un recensement des publications, une analyse de celles-ci et un relevé des réseaux de connaissances amicales et professionnelles des personnes visées. Ces messages sont passés au tamis numérique afin de calibrer leur auteur. Sans, naturellement, que le modus operandi et les finalités de ces qualifications soient rendus publics.

Cette nomenclature sociale va dépendre de trois critères principaux. Premièrement, les informations prises en compte, de même que celles qui seront écartées, influenceront le résultat final. À ce stade, les modalités du paramétrage des sources alimentant le dispositif de calcul sont donc primordiales. Car en déterminant la nature, le nombre et l'ancienneté des informations prises en compte on influe d'autant plus sur le résultat final. Ensuite, les composantes techniques de l'algorithme utilisé et leurs évolutions pour procéder à cette évaluation sociale sont la clé du crédit que l'on pourra accorder à cette classification. Là encore, le secret prévaut et les plateformes reconnaissent que cette maîtrise algorithmique constitue la condition de leur succès. Pas question, donc, pour des tierces parties de pouvoir l'analyser afin, le cas échéant, de le contester. Enfin, cette hiérarchisation des individus ne porte à conséquence qu'en fonction de la nature des décisions qui seront prises à l'aune de ce classement. Le scandale Cambridge Analytica qui a éclaté au printemps 2018 a montré comment une exploitation fine d'une matière informationnelle banale, en l'occurrence les profils Facebook de quelque 70 000 personnes, avait pu être utilisée à des fins de manipulation de l'opinion publique dans un contexte électoral. Le sujet est désormais planétaire. Au regard de la masse de personnes concernées, en milliards d'utilisateurs, c'est une mise en fiches d'individus d'une richesse sans équivalent dans le passé. Constamment mise à jour, cette mine de données peut être exploitée de bien des manières.

Par exemple, Amazon a déjà établi une déclinaison financière d'un tel profilage numérique en créant dès 2012 aux États-Unis son service Amazon Lending aux microentreprises et TPE-PME qui vendent leurs produits sur son site. L'e-commerçant leur prête de l'argent à court terme, un an au maximum, pour des montants allant de 1 000 à 750 000 dollars. Plus besoin de CV, de cautions, de business plan et d'historique de comptabilité. Les données publiques et l'algorithme évaluent le risque et établissent les conditions d'octroi du prêt. C'est plus d'un milliard de dollars qui ont ainsi déjà été avancés sur la foi de leurs activités numériques passées.

Cette tendance se généralise : agréger les traces numériques laissées par notre consommation de services en ligne pour établir des typologies d'individus et prédire nos comportements. Une pratique connue de longue date dans les métiers du marketing afin d'anticiper les pratiques d'achat des consommateurs. Mais qui ne se limite plus au commerce, mais s'étend désormais à la place des personnes au sein de la société.

Le monde réel sous surveillance constante

Au-delà de la sphère numérique, les déplacements et les interactions sociales dans le monde réel font l'objet d'une surveillance complémentaire. Et ces deux modes de pistage de la population se combinent de manière de plus en plus intime et automatisée afin d'encadrer, évidemment dans un souci revendiqué d'amélioration des conditions de vie, les actions conduites au sein de la cité.

À l'instar des autorités de Dubaï, qui placent des capteurs optiques dans la rue actionnant automatiquement les feux rouges lorsqu'un piéton se présente sur le trottoir pour traverser. Cette observation continue des mouvements dans la ville exige une surveillance de fait de la déambulation des personnes. Mise au service d'une meilleure fluidité de la circulation, cette captation peut également être facilement utilisée comme outil de surveillance.

Ainsi Rahm Emanuel, le maire de Chicago, aux États-Unis, met en ligne sur le site Internet 3 de sa municipalité de nombreuses données statistiques détaillées sur la criminalité locale et assume 4 officiellement son choix de recourir aux outils prédictifs automatisés pour sécuriser sa ville. La collecte d'informations va ici jusqu'à pronostiquer la possible récidive d'un délinquant. Si la machine lui attribue un certain score, il reçoit la visite de policiers lui indiquant qu'il fait l'objet de toute leur attention. Des universitaires 5 soulignent pourtant les risques liés aux biais statistiques et l'homogénéité relative des données fournies par les services de police sur le terrain.

D'autres expériences s'appuient sur la technologie et l'identification numérique pour réguler la population. À l'instar de la Chine, qui équipe 6 ses policiers de lunettes permettant la reconnaissance faciale en un dixième de seconde, afin de procéder à un balayage régulier des piétons qui circulent en ville, mais aussi des personnes présentes dans les gares, les stades ou les aéroports. Le même mode opératoire permet d'afficher sur des écrans géants l'identité des personnes qui ne respectent pas les feux de signalisation. Ou d'identifier les voleurs de papier hygiénique dans les toilettes publiques 7

Une notation permanente

Mais le motif affiché importe peu, ce qui est notable, c'est l'accumulation de ces dispositifs dans l'espace urbain. Une tendance qui se développe dans de nombreux, pays comme la Malaisie, Singapour ou les Émirats arabes unis. La Chine ayant certainement concrétisé la démarche la plus aboutie, avec l'instauration d'un « crédit social » 8. Initiée en 2013, et appelée être généralisée à toute la population d'ici à 2020, cette notation individuelle est élaborée avec de multiples critères nourris à partir d'actions concrètes, comme un vélo mal garé ou des retards dans le remboursement d'un prêt, voire, plus grave, des prises de position politiques ou des contacts avec des dissidents. Mais également des indicateurs numériques, par exemple en cas de publications jugées problématiques sur les réseaux sociaux. Une « mauvaise » note a des conséquences directes, comme l'interdiction temporaire d'accéder à certains moyens de transport (train ou avion) et suscite une surveillance accrue de la part des autorités.

L'intensification numérique de nos existences est enclenchée. Sa rapidité de déploiement ne doit pas nous exonérer d'une réflexion stratégique et politique sur ses conditions d'exploitation par des acteurs tant publics que privés. La technologie étant agnostique, ce sont bien les finalités qui lui seront attribuées qui en feront un outil bénéfique ou préjudiciable aux citoyens. Une réflexion qui doit intégrer l'évolution technique, mais surtout se fonder sur une doctrine politique élaborée de manière consensuelle. Ce qui permettra d'adopter également une posture exigeante face aux géants du numérique, qui sont aux avant-postes de cette société de surveillance en devenir.

  1. Source : étude HootSuite-We Are Social, 26 juillet 2018, https://wearesocial.com/fr/blog/2018/07/digital-social-et-mobile-un-trimestre-en-croissance-malgre-la-chute-de-lengagement-sur-facebook.
  2. « Facebook is rating the trustworthiness of its users on a scale from zero to 1 », Elizabeth Dwoskin, The Washington Post, 21 août 2018.
  3. Chicago Data Portal, Strategic Subject List, https://data.cityofchicago.org/Public-Safety/Strategic-Subject-List/4aki-r3np.
  4. « Mayor Emanuel Announces Expansion of Predictive Crime Strategy to Ogden », 26 octobre 2017, Communiqué de presse de la mairie de Chicago, https://www.cityofchicago.org/city/en/depts/mayor/press_room/press_releases/2017/october/OgdenPredictiveTech.html.
  5. « Why big-data analysis of police activity is inherently biased », The Conversation, William Isaac, Andi Dixon, 10 mai 2017. https://theconversation.com/why-big-data-analysis-of-police-activity-is-inherently-biased-72640
  6. « Chinese Police Add Facial-Recognition Glasses to Surveillance Arsenal », The Wall Street Journal, Josh Chin, 7 février 2018.
  7. « Chinese park installs facial recognition software to stop toilet paper thieves », CNN, 22 mars 2017, https://edition.cnn.com/2017/03/20/world/china-toilet-paper-thieves-face-recognition-trnd/index.html.
  8. « En Chine, les "mauvais citoyens" ne pourront plus prendre l'avion ou le train », Slate.fr, Léa Polverini, 19 mars 2018, http://www.slate.fr/story/159193/en-chine-les-mauvais-citoyens-ne-pourront-plus-prendre-lavion-ou-le-train.
http://www.constructif.fr/bibliotheque/2018-11/vers-une-societe-numerisee-de-plus-en-plus-surveillee.html?item_id=3681
© Constructif
Imprimer Envoyer par mail Réagir à l'article