Meta a supprimé plus de 2 000 comptes le trimestre dernier pour avoir publié du faux contenu, Israël identifié comme source majeure

Sans surprise, l’IA générative a été utilisée dans les campagnes de propagande

En bref: Meta a identifié environ 2 000 comptes Facebook au cours du trimestre précédent qui violaient sa politique contre les comportements inauthentiques coordonnés. Il s’agit principalement de comptes publiant de faux messages politiques et de campagnes d’influence diffusant de la propagande, et le pays ayant la plus grande origine identifiable de ces comptes était Israël.

Le rapport trimestriel de Meta sur les menaces contradictoires comprend des recherches sur six nouvelles opérations d'influence secrètes qu'il a perturbées, notamment celles du Bangladesh, de Chine, de Croatie, d'Iran, d'Israël et un réseau CIB qui ciblait la Moldavie et Madagascar.

Alors que Meta a supprimé 1 326 comptes Facebook d'origine inconnue, le pays identifié d'où provenaient le plus grand nombre de comptes était Israël, où 510 comptes FB, 11 pages, un groupe et 32 ​​​​comptes Instagram ont été supprimés.

Le public ciblé était principalement aux États-Unis et au Canada. Les faux comptes, qui se faisaient passer pour des étudiants juifs, des Afro-Américains ou des « citoyens concernés », publiaient principalement des articles sur la guerre entre Israël et le Hamas, notamment des appels à la libération des otages ; l'éloge des actions militaires d'Israël ; et la critique de l'antisémitisme sur les campus, de l'Office de secours et de travaux des Nations Unies (UNRWA) et des musulmans, affirmant que « l'islam radical » constitue une menace pour les valeurs libérales au Canada.

Meta écrit que tandis que les opérateurs des comptes tentaient de cacher leur identité, ils ont trouvé des liens avec Stoic, une société de marketing politique et de veille économique basée à Tel Aviv, en Israël. Meta a interdit le groupe et a émis une ordonnance de cesser et de s'abstenir.

Le site Web de Stoic indique qu'il utilise l'IA générative pour « créer du contenu ciblé et le distribuer rapidement de manière organique aux plateformes pertinentes ». Des publications similaires ont été découvertes sur YouTube et X, la plupart étant des réponses générées par l'IA au contenu souvent sans rapport d'autres utilisateurs.

« Cette campagne semble avoir acheté un engagement non authentique (c'est-à-dire des likes et des abonnés) du Vietnam dans le but de rendre son contenu plus populaire qu'il ne l'était », écrit Meta.

Malgré l’utilisation de l’IA générative dans cette campagne, Meta affirme n’avoir pas vu les acteurs de la menace utiliser des médias photoréalistes de politiciens générés par l’IA comme une tendance plus large. La technologie s'est jusqu'à présent limitée à la création de photos et d'images, aux lecteurs d'actualités vidéo générés par l'IA et à la génération de texte.

« À l'heure actuelle, nous ne voyons pas la génération IA utilisée de manière terriblement sophistiquée », a déclaré David Agranovich, directeur politique de Meta en matière de perturbation des menaces.

La Chine est un autre pays que Meta a identifié comme lieu d’origine de certains récits inauthentiques (37). Bien qu'aucun contenu publié par Meta supprimé ne soit lié aux prochaines élections américaines, Microsoft a averti le mois dernier que les acteurs de la menace dans ce pays asiatique utilisaient l'IA générative pour semer la perturbation aux États-Unis au cours de cette année électorale.