« Trop dangereux : » Pourquoi même Google avait peur de lancer cette technologie

Imaginez-vous en train de vous promener dans une rue animée d’une ville et de prendre une photo d’un inconnu, puis de la télécharger dans un moteur de recherche qui identifie presque instantanément la personne.

Ce n’est pas une hypothèse. C’est désormais possible, grâce à un site Web appelé PimEyes, considéré comme l’un des outils de reconnaissance faciale en ligne les plus puissants accessibles au public.

Sur TikTok, PimEyes est devenu un formidable outil pour les détectives Internet qui tentent d’identifier des inconnus, avec des vidéos totalisant plusieurs millions de vues montrant comment une combinaison de PimEyes et d’autres outils de recherche peut, par exemple,trouver le nom d’un caméraman au hasard lors d’un concert de Taylor Swift.

Développé à l’origine par deux pirates informatiques en Pologne, il s’agit d’un outil d’IA qui s’apparente à une recherche d’images inversée sous stéroïdes : il scanne un visage sur une photo et explore les coins sombres d’Internet pour faire apparaître des photos dont beaucoup de gens ignoraient même l’existence. fond de restaurants ou assister à un concert.

Bien que l’entreprise prétende qu’il s’agit d’un service qui peut aider les gens à surveiller leur présence en ligne, son utilisation comme outil de surveillance a suscité une controverse. un outil de surveillance pour les harceleurscollecte d’innombrables images d’enfants et pour ajouterimages de morts à sa base de données sans autorisation.

Sans aucune loi fédérale en vigueur aux États-Unis régissant la technologie de reconnaissance faciale, les services copiant PimEyes devraient proliférer dans les années à venir.

Considérez les conséquences, explique le journaliste Kashmir Hill, si chacun décide d’utiliser cette technologie à tout moment dans les lieux publics.

“Quelque chose se passe dans le train, vous croisez quelqu’un, ou vous portez quelque chose de embarrassant, quelqu’un pourrait simplement vous prendre en photo et découvrir qui vous êtes et peut-être tweeter à votre sujet, ou vous appeler par votre nom, ou écrire des choses désagréables. sur vous en ligne”, a déclaré Hill, journaliste pour Le New York Times qui a récemment publié un livre sur la technologie de reconnaissance faciale intitulé « Votre visage nous appartient ».

Une version de base de PimEyes est gratuite pour tous, mais la société propose des fonctionnalités avancées, telles que des alertes sur les images susceptibles d’intéresser les utilisateurs lorsqu’une nouvelle photo apparaît en ligne, moyennant un abonnement mensuel.

Utilisateurs de TikTok ont soulignéqu’il existe un moyen pour les gens de refuser que leurs photos soient dans la base de données PimEyes, mais les tests de l’outil de recherche montrent que ce n’est pas toujours un moyen garanti de se retirer du trésor massif de photos de l’entreprise.

La technologie que Google n’a pas osé dévoiler

Hill a déclaré que des moteurs de recherche de visages super puissants ont déjà été développés dans des sociétés de grande technologie comme Meta et Google. Pourtant, le potentiel d’utilisation abusive est si grand que certains hauts dirigeants – comme l’ancien PDG de Google, Eric Schmidt – ont hésité à les publier, une décision presque impensable dans le monde hyper-compétitif et en évolution rapide de la Silicon Valley.

“Éric Schmidt dès 2011, il a déclaré que c’était la seule technologie que Google avait développée et avait décidé de retenir, qu’elle était trop dangereuse entre de mauvaises mains – si elle était utilisée par un dictateur, par exemple”, a déclaré Hill.

Il existe des utilisations potentielles de la technologie qui pourraient être bénéfiques. Par exemple, pour les personnes aveugles, ou pour identifier rapidement quelqu’un dont vous avez oublié le nom et, comme le souligne l’entreprise, pour garder un œil sur ses propres images sur le Web.

Mais la technologie peut potentiellement compromettre la vie privée des citoyens. Par exemple, le gouvernement et les entreprises privées pourraient déployer cette technologie pour profiler ou surveiller les personnes en public, ce qui a alarmé les experts en protection de la vie privée qui étudient l’outil.

“Ces avantages sont utilisés comme prétexte par le gouvernement et l’industrie pour simplement accroître leur pouvoir et leurs profits, sans aucun gain significatif”, a déclaré Woodrow Hartzog, professeur à la faculté de droit de l’Université de Boston, spécialisé dans la technologie de reconnaissance faciale. “Et donc, je ne vois tout simplement pas un monde où l’humanité serait mieux lotie avec la reconnaissance faciale que sans elle.”

Giorgi Gobronidze, un universitaire basé en Géorgie, en Europe de l’Est, exploite désormais PimEyes. Il n’a pas répondu aux multiples demandes d’interview de NPR, mais il a dit dans des interviews que les règles de PimEyes stipulent que les gens recherchent uniquement pour eux-mêmes ou pour les personnes qui consentent à une recherche. Pourtant, rien n’empêche quiconque de rechercher quelqu’un d’autre à tout moment.

Comme Apple Face ID, sauf sous stéroïdes

Bien entendu, certaines versions d’outils de reconnaissance faciale existent déjà dans le monde. Déverrouiller les iPhones avec Face ID d’Apple. Et dans les aéroports, la Transportation Security Administration peut confirmer l’identité d’une personne grâce à un scan du visage.

Mais un moteur de recherche de visages amène cette idée à un tout autre niveau.

Et tandis que les grandes entreprises technologiques se retiennent, les petites startups qui poussent la technologie prennent de l’ampleur, comme PimEyes et une autre appelée Clearview AI, qui fournit aux forces de l’ordre des moteurs de recherche de visages alimentés par l’IA.

PimEyes et ClearviewAI n’ont mis personne à disposition pour une interview.

Hartzog a déclaré que Washington devait réglementer, voire interdire purement et simplement, ces outils avant qu’ils ne deviennent trop répandus.

“Je pense que le fait que les grandes entreprises technologiques ont résisté à s’y lancer, même s’il y a tellement d’argent à gagner avec cette reconnaissance faciale, devrait vraiment vous dire quelque chose sur la radioactivité et la corrosivité de la reconnaissance faciale”, a déclaré Hartzog.

Tout comme les chatbots IA, les moteurs de recherche à reconnaissance faciale peuvent décoller

La plupart des observateurs de la Silicon Valley prédisent que ce n’est qu’une question de temps.

Considérez les chatbots IA comme une leçon instructive. Les géants de la Silicon Valley avaient développé ces puissants chatbots pendant des années dans des laboratoires, mais les gardaient secrets jusqu’à ce qu’une petite startup, OpenAI, mette ChatGPT à la disposition du public.

À terme, affirment les analystes technologiques, les grandes entreprises technologiques n’auront probablement d’autre choix que de rendre publics les moteurs de recherche avancés de visages afin de rester compétitives.

Hatzog a déclaré qu’il espérait que cet avenir ne se réaliserait jamais.

“Si la reconnaissance faciale est largement déployée, c’est pratiquement la fin de la possibilité de se cacher à la vue de tous, ce que nous faisons tout le temps et auquel nous n’y pensons pas vraiment”, a-t-il déclaré.

Un « code-barres ambulant »

Dans l’Union européenne, les législateurs sont débattre une interdiction de la technologie de reconnaissance faciale dans les espaces publics.

La militante bruxelloise Ella Jakubowska espère que les régulateurs iront encore plus loin et promulgueront une interdiction pure et simple de ces outils.

Jakubowska est à l’origine d’une campagne intitulée Reclaim Your Face, qui met en garde contre une société dans laquelle les visites chez le médecin, les promenades sur un campus universitaire ou même la traversée d’une rue exposent le visage de quelqu’un au scanner. Dans certaines régions du monde, cela fait déjà partie de la vie quotidienne.

“Nous avons vu en Italie l’utilisation de systèmes de surveillance biométriques, ils les appellent “intelligents”, utilisés pour détecter si les gens flânent ou entrent sans autorisation”, Jakubowska dit.

Jakubowska a déclaré que la loi européenne sur l’IA définira des règles sur la manière dont les données biométriques, comme le visage, les empreintes digitales et la voix d’une personne, seront réglementées.

“Nous rejetons l’idée selon laquelle, en tant qu’êtres humains, nous devrions être traités comme des codes-barres ambulants afin que les gouvernements puissent nous surveiller, même si nous n’avons rien fait de mal”, a-t-elle déclaré.

Aux États-Unis, dans certaines régions du pays, comme dans l’Illinois, il existe des lois qui protègent les gens sur la manière dont leur visage est scanné et utilisé par des entreprises privées. Une loi d’État là-bas impose des sanctions financières contre les entreprises qui scannent le visage des résidents sans leur consentement.

Mais jusqu’à ce qu’il y ait une réglementation fédérale, la manière et le lieu où les visages sont enregistrés par les entreprises privées sont presque illimités et largement déterminés par les entreprises technologiques multimilliardaires qui développent les outils.

à
éééà