Google s'attaque aux deepfakes nus, plus de publicité pour les générateurs de porno IA

À propos du temps

En un mot: Google s'attaque au monde minable de la pornographie générée par ordinateur. La société a annoncé une nouvelle politique qui interdit les publicités pour la pornographie deepfake ou celles qui promettent de déshabiller numériquement les gens sans leur consentement.

Bien que Google interdise les publicités explicites depuis des années, c'est la première fois que la société interdit la publicité faisant la promotion de services de création de porno deepfake. Auparavant, la politique était moins spécifique, couvrant les publicités faisant la promotion de « textes, images, audio ou vidéos d'actes sexuels graphiques destinés à susciter ».

La nouvelle mise à jour de la politique relative aux publicités de Google interdit les publicités « faisant la promotion de contenus synthétiques modifiés ou générés pour être sexuellement explicites ou contenir de la nudité ». Cela inclut les sites Web, les applications et les services proposant des outils de création de pornographie deepfake ou du contenu pédagogique sur la façon de créer des images de nus non consensuelles à l’aide de l’IA.

La mise à jour indique sans équivoque que Google considère les violations comme « flagrantes », entraînant des suspensions de compte et des interdictions permanentes de publicité pour les contrevenants – pas de seconde chance. Selon les propres mots du géant de la technologie, les contrevenants « ne seront plus autorisés à faire de la publicité chez nous ».

Google et Apple ont dû continuellement purger leurs magasins d'applications des offres trompeuses qui se font passer pour des applications ou des jeux inoffensifs, uniquement pour offrir des fonctionnalités permettant de générer des images de nus non consensuelles. Les plateformes publicitaires de Meta et même les canaux promotionnels sur les sites Web pour adultes ont connu des stratagèmes similaires, avec des acteurs malveillants employant des publicités apparemment inoffensives pour générer du trafic vers leurs outils pornographiques IA.

// Histoires liées

• Cette application tierce bloque la publicité intégrée à Windows 11

• La police arrête le directeur sportif d'un lycée pour avoir falsifié la voix du directeur

Cette répression fait également suite à une tendance inquiétante selon laquelle des personnes sont victimes d’images pornographiques générées par l’IA et largement partagées en ligne sans leur consentement. En janvier, des nus falsifiés de Taylor Swift ont été vus des dizaines de millions de fois sur les réseaux sociaux avant d'être supprimés, suscitant l'indignation.

Les législateurs en ont pris note, les membres du Congrès dénonçant la façon dont les deepfakes peuvent infliger « un préjudice émotionnel, financier et réputationnel irrévocable », affectant de manière disproportionnée les femmes. Puis, le mois dernier, une législation bipartite baptisée DEFIANCE Act a été introduite pour permettre aux victimes de recourir en justice pour poursuivre les créateurs et les diffuseurs de contrefaçons numériques non consensuelles.

Apple a également rejoint le combat en expulsant de son magasin les applications qui étaient essentiellement des usines de porno deepfake. Certains développeurs ont fait la promotion sans vergogne de ces applications avec des publicités Instagram en utilisant des slogans tels que « déshabillez n'importe quelle fille gratuitement ». Même Pornhub, le principal distributeur en ligne de contenu pour adultes, interdit les deepfakes au sein de sa plateforme depuis 2018.

En étendant ses restrictions sur les publicités sexuellement explicites aux outils et services pornographiques deepfake, Google utilise sa domination publicitaire pour lutter contre les applications les plus sombres de l’IA générative. Cependant, le jeu du chat et de la souris consistant à faire appliquer la politique contre des acteurs malveillants déterminés opérant via des canaux plus décentralisés reste un défi permanent.