Pouvez-vous cacher le visage d’un enfant à l’IA ?

Publié le 14 octobre 2023 par Mycamer

Il existe deux factions distinctes de parents sur TikTok : ceux qui cassent des œufs sur la tête de leurs enfants pour les likes et ceux qui essaient désespérément de s’assurer qu’Internet ne sache pas qui sont leurs enfants.

Pour la star de TikTok de 35 ans qui publie sous le nom de Kodye Elyse, une expérience en ligne inconfortable l’a poussée à cesser d’inclure ses trois enfants sur ses réseaux sociaux. Une vidéo qu’elle a publiée en 2020, montrant sa jeune fille dansant, a attiré des millions de vues et des commentaires effrayants d’hommes étranges. (Elle a demandé au New York Times de ne pas publier son nom complet car elle et ses enfants ont été doxxés dans le passé.)

“C’est un peu comme ‘The Truman Show’ sur Internet”, a déclaré Kodye Elyse, qui compte quatre millions de followers sur TikTok et publie des articles sur son travail de tatoueuse cosmétique et ses expériences en tant que mère célibataire. “On ne sait jamais qui regarde

Après cette expérience, elle a effacé les images de ses enfants sur Internet. Elle a retrouvé tous ses comptes en ligne, sur des sites tels que Facebook et Pinterest, et les a supprimés ou rendus privés. Elle a depuis rejoint le camp bruyant des TikTokers encourageant les autres parents de ne pas publier publiquement des informations sur leurs enfants.

Mais en septembre, elle a découvert que ses efforts n’avaient pas été entièrement couronnés de succès. Kodye Elyse d’occasion PimYeux, un moteur de recherche surprenant qui trouve des photos d’une personne sur Internet en quelques secondes grâce à la technologie de reconnaissance faciale. Lorsqu’elle a mis en ligne une photo de son fils de 7 ans, les résultats comprenaient une image de lui qu’elle n’avait jamais vu auparavant. Elle avait besoin d’un abonnement de 29,99 $ pour voir d’où venait l’image.

Son ex-mari avait emmené leur fils à un match de football, et ils étaient à l’arrière-plan d’une photo sur un site d’information sportive, assis au premier rang derrière le but. Elle a réalisé qu’elle ne parviendrait pas à convaincre l’agence de presse de retirer la photo, mais elle a soumis une demande demande de suppressionvia un formulaire en ligne, à PimEyes, afin que l’image de son fils n’apparaisse pas si d’autres personnes cherchaient son visage.

Elle a également trouvé une photo d’un tout-petit de sa fille, aujourd’hui âgée de 9 ans, utilisée pour promouvoir un camp d’été auquel elle avait participé. Elle a demandé au camp de retirer la photo, ce qu’il a fait.

“Je pense que tout le monde devrait vérifier cela”, a déclaré Kodye Elyse. “C’est un bon moyen de savoir que personne ne réutilise les images de vos enfants.”

Méfiez-vous du « partage »

La quantité de publications en ligne que les parents devraient publier sur leurs enfants a été discutée et scrutée avec une telle intensité qu’elle a son propre mot-valise rebutant : le « partage ».

Historiquement, la principale critique adressée aux parents qui partagent trop en ligne a été l’invasion de la vie privée de leur progéniture, mais les progrès des technologies basées sur l’intelligence artificielle offrent de nouvelles façons aux mauvais acteurs de s’approprier le contenu en ligne des enfants.

Parmi les nouveaux risques figurent les escroqueries utilisant une technologie de contrefaçon profonde qui imitent les voix des enfants et la possibilité qu’un étranger puisse apprendre le nom et l’adresse d’un enfant en recherchant simplement sa photo.

Amanda Lenhart, responsable de la recherche chez Common Sense Media, une organisation à but non lucratif qui offre des conseils aux parents en matière de médias, a souligné une récente campagne de service public de Deutsche Telekom qui a appelé à un partage plus prudent des données des enfants. La vidéo mettait en vedette une actrice incarnant une fillette de 9 ans nommée Ella, dont les parents fictifs étaient indiscrets quant à la publication de photos et de vidéos d’elle en ligne. La technologie Deepfake a généré une version numérique d’Ella qui réprimande ses parents fictifs, leur disant que son identité a été volée, que sa voix a été dupliquée pour leur faire croire qu’elle a été kidnappée et qu’une photo nue de son enfance a été exploitée.

Mme Lenhart a qualifié la vidéo de « brutale », mais a déclaré qu’elle soulignait qu’« en fait, cette technologie est vraiment très bonne ». Les gens sont déjà recevoir des appels d’escrocs imiter des êtres chers en péril en utilisant des versions de leurs voix créées avec des outils d’IA.

Jennifer DeStefano, une mère en Arizona, a reçu cette année un appel d’une personne qui affirmait avoir kidnappé sa fille de 15 ans. «J’ai répondu au téléphone ‘Bonjour’; à l’autre bout du fil, notre fille Briana sanglotait et pleurait en disant : « Maman » », a déclaré Mme DeStefano dans témoignage au Congrès cet été.

Elle négociait pour payer 50 000 $ aux ravisseurs lorsqu’elle a découvert que sa fille était à la maison « se reposant en toute sécurité dans son lit ».

Ce qu’un visage révèle

Des photos et des vidéos obscures en ligne peuvent être liées au visage d’une personne grâce à la technologie de reconnaissance faciale, qui a gagné en puissance et en précision ces dernières années. Des photos prises dans une école, une garderie, une fête d’anniversaire ou une aire de jeux pourraient apparaître dans une telle recherche. (Une école ou une garderie devrait vous présenter une renonciation ; n’hésitez pas à dire non.)

“Quand un enfant est plus jeune, le parent a plus de contrôle sur son image”, a déclaré Debbie Reynolds, consultante en confidentialité des données et technologies émergentes. « Mais les enfants grandissent. Ils ont des amis. Ils vont à des fêtes. Les écoles prennent des photos.

Mme Reynolds recommande aux parents de rechercher en ligne les visages de leurs enfants en utilisant un service comme PimEyes ou FaceCheck.ID. S’ils n’aiment pas ce qui se passe, ils devraient essayer de demander aux sites Web sur lesquels la photo a été publiée de la retirer, a-t-elle déclaré. (Certains le feront, mais d’autres – comme les agences de presse – pourraient ne pas le faire.)

Dans un 2020 Enquête de Pew Research, plus de 80 pour cent des parents ont déclaré partager des photos, des vidéos et des informations sur leurs enfants sur les sites de médias sociaux. Les experts n’ont pas été en mesure de dire combien de parents partagent ces images uniquement sur des comptes de réseaux sociaux privés, et non publiquement, mais ils ont déclaré que le partage privé est une pratique de plus en plus courante.

Lorsque je partage des photos numériques de mes filles, j’ai tendance à utiliser des applications de messagerie privée et un compte Instagram réservé à mes amis et à ma famille. Mais lorsque j’ai recherché leurs visages sur PimEyes, j’ai également découvert une photo publique que j’avais oubliée – qui accompagnait une histoire que j’avais écrite – de ma fille aujourd’hui âgée de 6 ans lorsqu’elle avait 2 ans. J’ai demandé à PimEyes de supprimer l’image. de ses résultats, et il n’apparaît plus dans une recherche.

Bien qu’un moteur de recherche de visages publics soit un outil potentiellement utile pour un parent, il pourrait également être utilisé de manière néfaste.

“Un outil comme PimEyes peut être – et est probablement – utilisé aussi facilement par un harceleur que par un parent inquiet”, a déclaré Bill Fitzgerald, un chercheur en matière de protection de la vie privée, qui s’est également inquiété du fait que des parents autoritaires l’utilisent pour surveiller les activités de leurs adolescents.

Le propriétaire de PimEyes, Giorgi Gobronidze, a déclaré que plus de 200 comptes avaient été désactivés sur le site en raison de recherches inappropriées sur les visages d’enfants.

Un moteur de reconnaissance faciale similaire, IA Clearviewdont l’usage est limité aux forces de l’ordre, a été utilisé identifier les victimes sur des photos d’abus sexuels sur des enfants. M. Gobronidze a déclaré que PimEyes avait été utilisé de la même manière par des organisations de défense des droits humains pour aider les enfants. Mais il s’inquiète suffisamment des prédateurs potentiels d’enfants utilisant le service pour que PimEyes travaille sur une fonctionnalité permettant de bloquer les recherches de visages qui semblent appartenir à des mineurs. (M. Fitzgerald, chercheur en protection de la vie privée, craint que les parents utilisant l’outil pour rechercher leurs propres enfants puissent involontairement aider l’algorithme PimEyes à améliorer sa reconnaissance de ces mineurs.)

Mimi Ito, anthropologue culturelle et directrice du Connected Learning Lab à l’Université de Californie à Irvine, a déclaré que la technologie de reconnaissance faciale rend plus difficile le partage par ailleurs joyeux de photos d’enfants en ligne.

“On prend de plus en plus conscience qu’avec l’IA, nous n’avons pas vraiment le contrôle de toutes les données que nous diffusons dans l’écosystème des médias sociaux”, a-t-elle déclaré.

Le droit de contrôler une empreinte en ligne

Lucy et Mike Fitzgerald, danseurs de salon professionnels de Saint-Louis qui maintiennent une présence active sur les réseaux sociaux pour promouvoir leur entreprise, s’abstiennent de publier en ligne des images de leurs filles âgées de 5 et 3 ans et ont demandé à leurs amis et aux membres de leur famille de respecter l’interdiction. . Ils pensent que leurs filles devraient avoir le droit de créer et de contrôler leurs propres empreintes en ligne. Ils craignent également que leurs images ne soient utilisées de manière inappropriée.

“Le fait que vous puissiez voler la photo de quelqu’un en quelques clics et ensuite l’utiliser comme bon vous semble est préoccupant”, a déclaré Mme Fitzgerald. “Je comprends l’intérêt de publier les photos de vos enfants, mais en fin de compte, nous ne voulons pas que ce soient eux qui doivent faire face à d’éventuelles conséquences imprévues.”

Mme Fitzgerald et son mari ne sont pas des experts « informés de ce qui se profile à l’horizon de la technologie », a-t-elle déclaré. Mais, a-t-elle ajouté, ils « avaient le sentiment » il y a des années qu’il y aurait « des capacités que nous ne pouvons pas prévoir pour le moment et qui finiront par poser problème à nos enfants ».

Les parents sont plus susceptibles de connaître les détails de ce qui se profile à l’horizon technologique, notamment Edward Snowden, l’entrepreneur de la National Security Agency devenu lanceur d’alerte, et Mark Zuckerberg, le co-fondateur de Facebook, dissimulent le visage de leurs enfants dans des publications autrement publiques sur les réseaux sociaux. Dans des publications sur le thème des vacances sur Instagram, M. Zuckerberg a utilisé la méthode maladroite des emoji – en affichant un autocollant numérique sur la tête de ses enfants plus âgés – tandis que M. Snowden et sa femme, Lindsay Mills, ont astucieusement posé l’un de leurs deux fils derrière un ballon pour masquer son visage.

«Je veux que mes enfants aient la possibilité de se révéler au monde, sous la forme qu’ils choisissent, quand ils sont prêts», a déclaré Mme Mills.

Une porte-parole de M. Zuckerberg a refusé de commenter ou d’expliquer pourquoi le visage de son bébé n’a pas reçu le même traitement, et si c’était parce que la technologie de reconnaissance faciale ne fonctionne pas très bien sur les nourrissons.

« Un fantôme en ligne » pour le succès futur

De nombreux experts ont noté que les adolescents réfléchissent beaucoup à la manière dont ils gèrent leur identité numérique et que certains utilisent des pseudonymes en ligne pour empêcher leurs parents, enseignants et employeurs potentiels de trouver leurs comptes. Mais s’il existe sur ce compte une image publique représentant leur visage, elle pourrait toujours être liée à eux avec un moteur de recherche de visage.

“Il est très difficile de garder votre visage en dehors du Web,” dit Priya Kumarprofesseur adjoint à la Pennsylvania State University qui a étudié les implications du partage sur la vie privée.

Le Dr Kumar suggère aux parents d’impliquer leurs enfants, âgés d’environ 4 ans, dans le processus de publication et de leur parler des images qu’ils peuvent partager.

Amy Webb, directrice générale du Future Today Institute, un cabinet de conseil aux entreprises axé sur la technologie, s’est engagée en un article sur Slate il y a dix ans, de ne pas publier en ligne de photos personnelles ou d’informations permettant d’identifier son tout-petit. (Certains lecteurs ont pris cela comme un défi, et j’ai trouvé une photo de famille Mme Webb l’avait rendu public par inadvertance, illustrant à quel point il peut être difficile de garder un enfant hors d’Internet.) Sa fille, maintenant adolescente, a déclaré qu’elle appréciait d’être un « fantôme en ligne » et pensait que cela l’aiderait professionnellement.

Les futurs employeurs « ne trouveront littéralement rien sur moi parce que je n’ai aucune plateforme », a-t-elle déclaré. “Cela va m’aider à réussir dans mon avenir.”

D’autres jeunes qui ont grandi à l’ère du partage en ligne ont déclaré qu’eux aussi étaient reconnaissants d’avoir des parents qui ne publiaient pas de photos d’eux publiquement en ligne. Shreya Nallamothu, 16 ans, est une lycéenne dont les recherches sur les enfants influenceurs ont contribué à créer un nouvel Illinois. Droit de l’État qui oblige les parents à mettre de côté des revenus pour leurs enfants s’ils les présentent dans du contenu en ligne monétisé. Elle a dit qu’elle était « très reconnaissante » que ses parents n’aient pas publié « des moments très embarrassants de moi sur les réseaux sociaux ».

« Il y a des gens dans ma classe qui sont vraiment doués pour trouver le Facebook des parents de vos camarades de classe et le faire défiler vers le bas », a-t-elle déclaré. Ils utilisent n’importe quel fourrage digne de ce nom pour faire disparaître les messages d’anniversaire sur Snapchat.

Arielle Geismar, 22 ans, étudiante et défenseure de la sécurité numérique à Washington, DC, a décrit cela comme un « privilège de grandir sans qu’une identité numérique soit créée pour vous ».

« Les enfants sont actuellement les cobayes de la technologie », a déclaré Mme Geismar. “C’est notre responsabilité de prendre soin d’eux.”



to www.nytimes.com


Abonnez-vous à notre page Facebook: https://www.facebook.com/mycamer.net
Pour recevoir l’actualité sur vos téléphones à partir de l’application Telegram cliquez ici: https://t.me/+KMdLTc0qS6ZkMGI0
Nous ecrire par Whatsapp : Whatsapp +44 7476844931