« Les enjeux de protection des données et les risques d’atteintes aux libertés individuelles que de tels dispositifs sont susceptibles d’induire sont considérables, dont notamment la liberté d’aller et venir anonymement ». C’est en ces termes et dans une note appelant un « débat à hauteur des enjeux » que la CNIL (Commission Nationale de l’Informatique et des Libertés) mettait en garde fin 2019 contre « des lignes rouges à ne pas franchir », y compris dans un usage expérimental de la technologie. Le ton est donné et ancre la position du gendarme français de la vie privée, faisant suite à son opposition à l’expérimentation de dispositifs de reconnaissance faciale dans deux lycées du sud de la France.
La technologie se développe dans de nombreuses composantes urbaines
Ce coup d’arrêt à l’utilisation de la technologie dans les établissements scolaires n’empêche pas son développement dans de nombreuses autres composantes urbaines caractérisées par des flux importants : espace public, lieux de transit tels que les gares et aéroports, transports en commun, stades. En France, les exemples sont nombreux. Depuis juin 2018, le système Parafe de passage automatisé aux frontières extérieures des aéroports d’Orly et de Roissy intègre la technologie reconnaissance faciale, qui pourrait progressivement remplacer le système existant fonctionnant avec un capteur d’empreinte digitale. A Metz, les supporters du club de football ont découvert avec colère début 2020 le test d’un dispositif permettant de détecter les « personnes interdites d’accès au stade ». Lors de la dernière édition du Carnaval de Nice, la Ville a testé l’efficacité de la technologie à travers la simulation de plusieurs scenarii (retrouver un enfant perdu dans la foule, retrouver une personne en fuite, etc.). La Ville de Nice, particulièrement active sur le déploiement de la technologie ne cache pas son ambition de l’utiliser à des fins de sécurité et de prévention. Depuis juin 2018, elle est le territoire d’expérimentation d’un projet d’innovation sur la sécurité « Safe City », mené par un vaste consortium industriel porté par Thalès, qui vise à tester des solutions technologiques et à envisager l’évolution de la législation nationale sur le sujet. Dans ce cadre, un projet de test d’un logiciel de reconnaissance et d’analyse des émotions pour détecter des comportements suspects dans le tramway avait soulevé une levée de boucliers début 2019.
Un déploiement soutenu par les perspectives économiques
La liste est longue et pourrait s’étendre à d’autres acteurs. Certains établissements hospitaliers envisagent par exemple d’utiliser la technologie pour contrôler l’accès à certaines zones de leurs établissements ou localiser dans leur bâtiment certains types de patients (enfants, personnes atteintes de la maladie d’Alzheimer). Outre les fonctionnalités que peut apporter la technologie de reconnaissance faciale, la fièvre française d’expérimentation est aussi alimentée par les perspectives de rationalisation des coûts (par la simplification administrative ou la disponibilité de services à distance par exemple) et la volonté d’être compétitif sur un marché qui s’annonce fructueux et sur lequel se positionnent déjà plusieurs industriels. Ce que résumait en ces mots (cité par le journaliste Olivier Tesquet, spécialiste des mécanismes de surveillance) Reneau Vedel, lorsqu’il était en charge de la prospective numérique au Ministère de l’Intérieur avant de prendre ses fonctions en mars 2020 de coordinateur de la stratégie nationale en intelligence artificielle : « Il faut accepter de trouver un équilibre entre des usages régaliens et des mesures protectrices pour nos libertés. Car sinon, la technologie sera mûrie à l’étranger et nos industriels, pourtant leaders mondiaux, perdront cette course ».
Des tentatives d’encadrement pour préserver les libertés individuelles
Pour préserver ce dit-équilibre, le RGPD (règlement général sur la protection des données), entré en vigueur en mai 2018 et encadrant toute pratique liées aux données personnelles, est en première ligne. Mais la reconnaissance faciale semble en repousser les limites puisque le RGPD interdit théoriquement l’utilisation de cette technologie : il pose un principe d’interdiction de traitement des données sensibles, catégorie dans laquelle se classent les données biométriques utilisées par cette technologie. En réalité, de nombreuses exceptions existent, en particulier en cas d’obtention explicite du consentement des personnes concernées ou pour les cas relevant d’un intérêt public important. En parallèle, tout projet ayant recours à la technologie de reconnaissance faciale doit faire l’objet d’une analyse d’impact relative à la protection des données (APID).
Villes et société civile entrent en résistance
Le niveau d’encadrement de l’utilisation de la technologie est un faux débat pour les associations de défense des droits et libertés des citoyens qui dénoncent le caractère très invasif de la technologie et prônent pour certaines une interdiction pure et simple. C’est le cas de la Quadrature du Net qui estime qu’ « il n’existe pas de reconnaissance faciale éthique ou d’usage raisonné d’une surveillance biométrique » et considère la reconnaissance faciale comme « une technologie exceptionnellement invasive, déshumanisante et élaborée à terme pour la surveillance et le contrôle permanent de l’espace public ». Pour l’association, les pratiques servant l’authentification (certifier l’identité d’un sujet), bien que moins invasives, sont autant à proscrire que celles visant l’identification (reconnaître et identifier un sujet parmi d’autre) car elles contribuent à banaliser l’usage de la technologie.
A l’origine de nombreux recours contre les expérimentations en cours, l’association a également lancé la plateforme Technopolice qui recense et documente les expérimentations allant dans le sens d’une surveillance de l’espace urbain à des fins sécuritaires.
Même scenario aux Etats-Unis où l’American Civil Liberties Union, puissante association de défense des libertés individuelles a porté plainte contre le gouvernement américain pour demander plus de transparence sur l’usage de la technologie, dans le cadre de son développement récent dans les aéroports. Mais dans le pays, la mobilisation s’étend au-delà de la société civile, jusque dans les territoires, qui prennent les devants. En mai 2019, San Francisco devenait la première ville des Etats-Unis à bannir l’usage de la reconnaissance faciale par la police et les agences gouvernementales. Quelques mois plus tard, l’Etat de Californie légiférait pour interdire son utilisation sur les caméras de ses policiers.
Pour Olivier Tesquet, la multiplication des questionnements éthiques et philosophiques et la mise en garde contre les dérives potentielles sont révélateurs d’une défiance grandissante envers le numérique, voire d’un « désenchantement numérique » qui prend le pas sur son potentiel libérateur. Concernant la reconnaissance faciale, l’auteur de l’essai « A la trace » regrette que cet outil largement utilisé dans les régimes autoritaires fasse l’objet d’un débat si limité dans les démocraties libérales. Les mouvements de contestation interrogent également la fiabilité de la technologie, son coût et ses risques de dysfonctionnement. Une étude réalisée par des chercheurs de l’Université d’Essex et publiée en juillet 2019 a ainsi révélé les failles du logiciel utilisé par la police métropolitaine de Londres en constatant un taux d’erreur de 81%.
Reconnaissance faciale à grande échelle en Chine : quand la réalité rattrape les dystopies
La Chine semble bien éloignée de ces interrogations et avance à pas de géant dans le déploiement de la technologie. Les cas d’usage y sont légion et montrent son immixtion dans tous les pans de la vie quotidienne, y compris dans la sphère privée : à Pékin, plusieurs immeubles HLM ont été équipés de serrures à reconnaissance faciale pour lutter contre la sous-location illégale et bloquer l’accès aux immeubles des personnes non identifiées comme des locataires ou leurs proches. Plus récemment, le contexte épidémique du coronavirus a mis en lumière les systèmes d’analyse de données à grande échelle pour traquer les malades et endiguer l’épidémie. Dans le pays, la reconnaissance faciale, couplée à de la vidéosurveillance, constitue le socle du modèle de crédit social mis en place par les autorités, projet très controversé visant à surveiller massivement les citoyens et instaurant un système de récompenses et de pénalités indexé sur leurs comportements.
A travers le monde, les chemins divergent donc et témoignent d’approches radicalement différentes quant à l’usage de cette technologie. Pourrait-il exister une troisième voie, entre interdiction et usage débridé de la technologie, qui limiterait la reconnaissance faciale aux fonctionnalités susceptibles d’améliorer réellement le quotidien des populations et s’extrairait des visées sécuritaires et de surveillance ?
Jeu de briques
Snake
Pacman
Bubble