Cet article est la retranscription de l'épisode du podcast #QSNTALKS - Episode 72 : L'IA et les réseaux sociaux, armes de désinformation massive
Cet épisode a été diffusé sur le podcast le 4 septembre 2024
Découvrez comment le combo IA et réseaux sociaux est utilisé pour tromper le public et comment apprendre à s'en protéger.
Bonjour, aujourd'hui dans QSNTALKS, je vous propose une plongée dans les rouages de la désinformation 2.0, où l'IA et les réseaux sociaux jouent un rôle central dans la propagation des fake news.
Dans un monde où l'information circule à la vitesse de la lumière, les fausses nouvelles n'ont jamais été aussi omniprésentes. Avec l'émergence de l'intelligence artificielle, la manipulation de l'opinion publique atteint de nouveaux sommets, transformant les réseaux sociaux en terrains fertiles pour la désinformation. Des images hyperréalistes aux vidéos truquées, les deepfakes brouillent les frontières entre réalité et fiction, menaçant la démocratie et la confiance dans les médias. Mais comment ces technologies sont-elles utilisées pour tromper le public, et surtout, comment peut-on se protéger contre ce fléau grandissant ?
C'est ce que je vous propose de découvrir dans ce nouvel épisode de QSNTALKS.
L'impact de l' IA sur la création et la diffusion de fausses informations
Tout d'abord, abordons l'impact de l'IA sur la création et la diffusion de fausses informations.
L'essor de l'intelligence artificielle (IA) a radicalement transformé la manière dont les fausses informations sont créées et diffusées, rendant ces contenus plus sophistiqués et plus difficiles à détecter. La génération de sons, d'images et de vidéos à partir de solutions d'IA sont extrêmement convaincants et réalistes et ouvrent de nouvelles opportunités pour la manipulation de l'opinion publique à grande échelle, particulièrement à travers les réseaux sociaux.
L'un des aspects les plus inquiétants est l'utilisation des deepfakes, ces vidéos ou images hyperréalistes créées par IA, qui peuvent représenter des personnes en train de dire ou de faire des choses qu'elles n'ont jamais faites ou dites.
Dans l'épisode 67 de QSNTALKS intitulé, " Réseaux sociaux, naviguer entre réalité et manipulation ", j'indiquais des exemples de désinformation pour des tentatives d'escroqueries utilisant l'image de personnalités comme les journalistes Elise Lucet et François Lenglet et j'indiquais un autre risque relatif à la création de personnages totalement fictifs mais parfaitement réalistes au travers d'exemples comme l'influenceuse virtuelle Lil Miquela sur Instagram ou le compte TikTok d'Amandine Le Pen, personnage totalement fictif mais néanmoins réaliste donnant vie à une nièce imaginaire de Marine LePen.
Lil Miquela : personnage fictif et influenceuse virtuelle
Amandine Le Pen : Personnage fictif, nièce imaginaire de Marine Le Pen
Redécouvrir l'article sur le blog > " Réseaux sociaux, naviguer entre réalité et manipulation "
Ce type de manipulations illustre l'usage de fausses informations générées par IA et amplifiées par les réseaux sociaux comme vecteurs puissants pour ces contenus trompeurs. Grâce aux algorithmes, les plateformes sociuales peuvent cibler des audiences spécifiques avec des messages personnalisés, rendant les fausses nouvelles encore plus pernicieuses. Cette personnalisation permet aux créateurs de fake news de diffuser des informations spécifiquement conçues pour résonner avec les croyances préexistantes de certains groupes, augmentant ainsi l'impact de la désinformation.
Cette réalité pose des défis majeurs, nécessitant une réponse collective et des innovations technologiques pour contrer cette menace grandissante.
Les réseaux sociaux comme catalyseurs de la désinformation
Voyons maintenant comment les réseaux sociaux deviennent des catalyseurs de la desinformation.
Les réseaux sociaux jouent un rôle central dans la propagation rapide des fausses informations, un phénomène largement amplifié par les algorithmes de recommandation, les bulles de filtres et les chambres d'écho. Ces mécanismes, qui sont intégrés au fonctionnement même des plateformes, rendent la diffusion de fake news non seulement plus efficace, mais aussi plus ciblée.
Les algorithmes de recommandation : moteur de la viralité des fake news
Les algorithmes de recommandation sur les réseaux sociaux, tels que ceux utilisés par Facebook, X, Instagram, TikTok, YouTube et d'autres, sont conçus pour maximiser l'engagement des utilisateurs. Pour ce faire, ils proposent du contenu basé sur les comportements passés de l'utilisateur : ce qu'il aime, partage, commente, ou sur quoi il passe du temps. Cette personnalisation peut cependant avoir des effets pervers. En privilégiant les contenus qui suscitent de fortes réactions émotionnelles, ces algorithmes favorisent souvent la diffusion de fausses informations, qui sont généralement plus sensationnalistes et plus aptes à devenir virales que les nouvelles véridiques. C'est en cela que les algorithmes de recommandation peuvent être des moteurs de la viralité des fakes news, notamment en contribuant à créer des bulles de filtres dont le résultat est de créer un isolement informationnel.
Les bulles de filtres : l'isolement informationnel
Le concept de bulles de filtres décrit la manière dont les algorithmes limitent la diversité des informations auxquelles un utilisateur est exposé, en lui présentant principalement des contenus alignés sur ses préférences et opinions existantes. Cela crée un environnement où l'utilisateur est de plus en plus isolé de points de vue divergents, renforçant ses croyances préexistantes. Cette homogénéité informationnelle empêche souvent les utilisateurs de confronter leurs idées à d'autres perspectives, ce qui peut renforcer les biais cognitifs et rendre les fausses informations encore plus crédibles à leurs yeux.
Les chambres d'écho : l'amplification des croyances
Cet isolement informationnel contribue à la création de chambres d'écho, véritables amplificateurs de croyances. Les chambres d'écho se forment lorsque des groupes d'utilisateurs interagissent principalement avec d'autres personnes partageant des opinions similaires. Dans ces environnements, les opinions et informations partagées sont souvent répétées et amplifiées, créant une illusion de consensus. Ces chambres d'écho peuvent radicaliser les opinions des individus, car les informations contradictoires y sont rarement présentes ou sont immédiatement rejetées. Sur les réseaux sociaux, cela se traduit par une polarisation accrue, où chaque groupe reste dans son propre cercle, renforçant ses croyances tout en ignorant ou discréditant les informations extérieures.
La responsabilité des plateformes
Face à ces dynamiques, les plateformes sociales ont une responsabilité croissante dans la gestion et la modération des contenus trompeurs. Toutefois, la tâche est complexe. D'une part, les plateformes doivent éviter de sombrer dans la censure et respecter la liberté d'expression. D'autre part, elles doivent également prendre des mesures pour empêcher la diffusion de fausses informations, notamment en améliorant leurs algorithmes de détection et en collaborant avec des fact-checkers. Cependant, malgré les efforts déployés, la lutte contre la désinformation reste un défi majeur, car les fausses informations continuent de circuler à grande échelle, souvent plus rapidement que les rectifications apportées.
Par leur conception même, les réseaux sociaux favorisent la diffusion des fausses informations. Le défi consiste donc à trouver un équilibre entre la liberté d'expression et la nécessité de limiter la propagation de contenus trompeurs, tout en responsabilisant les utilisateurs et en les incitant à adopter un esprit critique face aux informations qu'ils consomment en ligne.
Impacts sur la société et la démocratie
Les fake news générées par l'intelligence artificielle (IA) posent donc des défis majeurs et illustrent parfaitement comment la technologie peut être utilisée pour manipuler l'opinion publique, semer la confusion, et même déstabiliser des nations entières.
Manipulation de l'opinion publique et déstabilisation géopolitique
Les deepfakes, en particulier, sont devenus un outil de choix pour diffuser de fausses informations à des fins de propagande. Par exemple, des deepfakes ont été utilisés pour créer des vidéos de leaders politiques faisant des déclarations fausses, ce qui fut le cas pour Barak Obama et Volodymyr Zelensky comme je le précisais dans l 'épisode 67 de QSNTALKS .
L'impact de ces manipulations peut être dévastateur. Dans certains contextes, cela peut mener à des escalades de violence, à des sanctions économiques injustifiées, ou à des interventions militaires basées sur de fausses informations.
Mais ces manipulations ne se limitent pas à la politique. Plus récemment, c'est le chanteur Florent Pagny qui en a fait les frais
Tout comme Alain Delon, dont un faux message posthume a été diffusé pour profiter de l'augmentation de visibilité de l'acteur dans l'actualité du fait de sa disparition.
Érosion de la confiance dans les médias et les institutions
L'une des conséquences les plus pernicieuses des fake news, en particulier celles générées par l'IA, est l'érosion de la confiance du public dans les médias et les institutions. Lorsque des deepfakes circulent largement et ne sont pas immédiatement démentis, ils contribuent à un climat de suspicion généralisée. Le public peut devenir incapable de discerner le vrai du faux, ce qui conduit à un affaiblissement de la crédibilité des médias traditionnels. Ce phénomène est exacerbé par la vitesse à laquelle ces contenus peuvent être partagés sur les réseaux sociaux, atteignant des millions de personnes en un temps record.
Cette érosion de la confiance a des répercussions profondes. Si les citoyens ne peuvent plus faire confiance aux informations qu'ils reçoivent, leur participation éclairée aux processus démocratiques est compromise. Cela peut conduire à une montée du cynisme politique, où les électeurs se détournent de la participation civique, croyant que tout est manipulé ou qu'il est impossible de connaître la vérité. Dans les cas les plus extrêmes, cela peut même nourrir des mouvements populistes ou autoritaires, qui exploitent ce manque de confiance pour renforcer leur propre pouvoir.
Polarisation sociale et fragmentation
Enfin, les fake news amplifiées par l'IA contribuent à la polarisation sociale. En jouant sur les émotions et en renforçant les biais existants, ces contenus divisent les sociétés en camps opposés. Les algorithmes des réseaux sociaux, qui favorisent souvent l'engagement au détriment de la véracité, amplifient encore cette polarisation en créant ces fameuses bulles de filtre dont je parlais précédemment où les utilisateurs ne sont exposés qu'à des informations qui confirment leurs croyances préexistantes
En somme, les fake news amplifiées par l'IA et les réseaux sociaux ne sont pas seulement un problème de désinformation; elles constituent une menace directe pour la cohésion sociale, la confiance publique et la stabilité des systèmes démocratiques. Il est crucial de reconnaître ces dangers et de mettre en place des mesures pour contrer la propagation de ces contenus trompeurs avant qu'ils ne causent des dommages irréparables.
L'exemple de l'image de Taylor Swift générée par IA par l'équipe de Donald Trump
L'utilisation récente par l'équipe de campagne de Donald Trump d'images générées par IA de Taylor Swift et de ses fans illustre parfaitement les dangers des fake news amplifiées par l'intelligence artificielle. Cet exemple montre comment l'IA peut être utilisée pour créer des contenus trompeurs à des fins politiques, soulevant ainsi des questions à la fois éthiques et légales. Los Angeles Times , Le Figaro , CBC )
Le contexte de l'utilisation de l'IA par Donald trump
Lors de sa campagne actuelle (Juillet-Août 2024), Donald Trump a utilisé des images trompeuses générées par IA utilisant l'image de Taylor Swift dans l'intérêt de sa campagne.
L'une des images représente Taylor Swift grimée en Oncle Sam avec le slogan : " Taylor want you ", sous entendu, "Taylor veut que TU ailles voter pour Donald Trump".
L'autre image montre des fans de la chanteuse, les "Swifties", portant des t-shirts aux couleurs de " Make America Great Again ", le slogan de Donald Trump.
Ces images générées par IA ont été largement diffusée sur les réseaux sociaux, dans le but de créer de la confusion parmi les fans et le public en général. L'objectif de cette manipulation est clair : exploiter la popularité de Taylor Swift pour influencer l'opinion publique en faveur de Trump, en particulier auprès des jeunes électeurs.
Implications éthiques et légales
Sur le plan éthique, l'utilisation de l'image de Taylor Swift par l'équipe de Trump soulève des questions évidentes sur l'intégrité des pratiques électorales et sur la manipulation des perceptions du public. Utiliser l'image d'une célébrité pour lui faire endosser une position politique qu'elle n'a jamais soutenue constitue non seulement une tromperie, mais cela porte également atteinte à la liberté d'expression de la personne en question. De plus, cela montre le peu d'intérêt porté aux électeurs en espérant jouer de la crédulité du public.
Sur le plan juridique, cela montre clairement que les lois actuelles ne sont pas suffisantes pour encadrer l'utilisation des nouvelles technologies. Il est urgent que les législateurs mettent à jour les cadres juridiques pour répondre aux défis posés par les deepfakes et autres contenus générés par IA.
L'union européenne est d'ailleurs novatrice sur ce sujet en proposant la première loi globale sur l'IA au monde. ( Source : Parlement européen)
Il est notamment prévu que l'IA générative devra se conformer aux exigences de transparence et à la législation de l'UE sur le droit d'auteur, indiquer que le contenu a été généré par l'IA et concevoir le modèle pour l'empêcher de générer du contenu illégal. Ainsi, les contenus générés ou modifiés à l'aide de l'IA - images, fichiers audio ou vidéo (par exemple, les " deepfakes ") - doivent être clairement étiquetés comme étant générés par l'IA, afin que les utilisateurs sachent qu'il s'agit de ce type de contenu.
Dans cet objectif de transparence, les réseaux sociaux ont annoncé vouloir identifier les contenus générés par IA. C'est le cas de Facebook, Instagram, Threads, X et YouTube.
Cette initiative vise à informer les utilisateurs lorsque le contenu a été créé à l'aide de l'IA. Leurs algorithmes vont êtes entrainés à identifier ces contenus pour les signaler à leurs audiences.
Les initiatives pour la sensibilisation et l'éducation
Au-delà de l'évolution de la reglementation et des initiatives des plateformes sociales pour plus de transparence sur les contenus issus d'une IA, chacun doit pouvoir prendre le recul nécessaire face aux informations auxquelles nous sommes exposés.
Pour cela, il est essentiel de disposer des bons outils et de connaître les stratégies efficaces pour les identifier.
Dans l'épisode 67 de QSNTALKS, j'ai listé un certain nombre d'outils utiles tels que Video authenticator de Microsoft , Deepware Scanner , Truepic et FakeCatcher d'Intel .
Voici d'autres outils et techniques disponibles pour éviter de tomber dans le piège de la désinformation :
- Google Images : Cet outil permet de faire une recherche inversée d'image. En téléchargeant une image ou en collant son URL, vous pouvez voir où elle est apparue en ligne et vérifier son origine.
- InVID : Une extension de navigateur qui aide à vérifier l'authenticité des vidéos en analysant les métadonnées et en fournissant des captures d'écran pour effectuer une recherche inversée d'image.
- FotoForensics : Un outil d'analyse d'image qui permet de détecter les manipulations numériques en montrant les détails cachés des images
- (il existe aussi des )Sites de fact-checking : Des plateformes comme Snopes, FactCheck.org ou encore Les Décodeurs du journal Le Monde qui sont spécialisées dans la vérification des informations et peuvent aider à déterminer leur véracité.
Conseils pratiques pour éviter les fake news
Au-delà des outils, voici quelques précautions qu'il convient désormais de respecter :
- Vérifiez les sources : Toujours consulter la source de l'information. Si elle provient d'un site peu connu ou suspect, il est prudent de vérifier l'information sur d'autres plateformes réputées.
- Faites attention aux titres sensationnalistes : Les fake news ont souvent des titres exagérés ou choquants pour attirer l'attention. Méfiez-vous des titres qui semblent trop bons ou trop mauvais pour être vrais.
- Recherchez la couverture médiatique : Une information crédible est généralement couverte par plusieurs médias de renom. Si vous ne trouvez pas d'autres sources fiables qui en parlent, c'est un signal d'alarme.
L'exemple d'Escape Fake
Enfin, une initiative récente s'inscrit dans cette dynamique d'éducation et de sensibilisation en offrant un jeu en ligne innovant conçu pour éduquer à la vérification des informations. Il s'agit du site " Escape Fake" . Ce jeu ne se contente pas d'informer ; il engage les participants de manière ludique pour les sensibiliser aux dangers des fake news et les former à l'esprit critique.
Présentation et objectifs du jeu " Escape fake "
" Escape Fake " est un escape game virtuel qui vise à sensibiliser un large public, particulièrement les jeunes, à la problématique des fake news. Le jeu place les participants dans la peau d'un stagiaire au sein d'un journal fictif, le " Vrai Journal ", où leur mission est de vérifier des informations provenant de diverses sources comme les réseaux sociaux, les e-mails ou les messageries instantanées. L'objectif est double : d'une part, apprendre à identifier les fake news en utilisant les bons outils et techniques ; d'autre part, résoudre des énigmes dans un environnement interactif qui stimule la réflexion critique
Fonctionnement et aspects ludiques du jeu " Escape fake "
Le fonctionnement du jeu est simple mais efficace. Doté d'un avatar, le joueur évolue dans différents scénarios où il doit vérifier l'authenticité d'informations. Les outils de vérification incluent des techniques classiques de fact-checking, mais aussi l'utilisation de logiciels de vérification d'images ou de vidéos. Le joueur reçoit des conseils de la part des rédacteurs du " Vrai Journal ", ce qui l'aide à progresser tout en apprenant des méthodes concrètes pour analyser les informations en ligne. L'aspect ludique est renforcé par la nécessité de résoudre des énigmes pour avancer dans le jeu, rendant l'apprentissage à la fois amusant et engageant.
Importance de la formation à l'esprit critique
" Escape Fake " joue un rôle crucial dans la formation des jeunes à l'esprit critique. En les exposant à des scénarios réalistes où ils doivent démêler le vrai du faux, le jeu les prépare à faire face aux nombreux pièges de la désinformation en ligne. Cette approche proactive de l'éducation aux médias est essentielle pour développer une génération d'internautes plus informés et capables de résister à la manipulation des faits.
Testez le ! En conclusion Face à la prolifération des fake news, il est impératif que les utilisateurs d'Internet et des réseaux sociaux soient bien équipés pour identifier et contrer la désinformation. Au-delà des outils et des techniques, développer un esprit critique est essentiel pour naviguer dans les informations en ligne. Cela signifie être constamment vigilant, questionner les informations que l'on reçoit, et ne pas prendre pour argent comptant tout ce qui est partagé sur les réseaux sociaux. Les initiatives comme " Escape Fake " et l'utilisation d'outils de vérification efficaces jouent un rôle crucial dans cette lutte, mais c'est l'adoption d'une attitude critique et informée qui reste la meilleure défense contre les manipulations en ligne.-----------------------------
------------------------------
Ce sujet vous a intéressé?🔵 Suivez #qsntalks
#QSNTALKS, le podcast des réseaux sociaux et de l'eReputation est la référence pour :
▶️ comprendre les réseaux sociaux
▶️ découvrir les réseaux sociaux
▶️ news des réseaux sociaux
▶️ tendances sur les réseaux sociaux
▶️ veille des réseaux sociaux
▶️ astuces sur les réseaux sociaux
▶️ conseils sur les réseaux sociaux
🔵Abonnez-vous au podcast #QSNTALKS
Le podcast #QSNTALKS est produit par QSN-DigiTal , agence spécialiste des réseaux sociaux et de l'eReputation.
🎙️ Conception, réalisation, post-production : Frédéric Foschiani
🎶Identité sonore/Composition musicale : Chiara Foschiani
------------------------------
Je suis Frédéric Foschiani, Fondateur de QSN-DigiTal, agence spécialiste des réseaux sociaux et de l'eReputation
▶️ Expert des réseaux sociaux
▶️ Consultant en réseaux sociaux
▶️ Formateur en réseaux sociaux
▶️Conférencier
🔵J'interviens sur tous les sujets liés à l'utilisation des réseaux sociaux : visibilité, image, veille, ventes, recrutement, marque-employeur, employee advocacy, relation client,...
🔵Définition ou audit de votre stratégie, community management, création de contenus (visuel, rédactionnel, vidéo, podcasting), gestion de campagnes sponsorisées, IA générative pour les réseaux sociaux,...
🚀 Demande Frédéric Foschiani en contact sur LinkedIN👉 https://bit.ly/3PN0dWY
🚀Tous les liens utiles 👉 https://bit.ly/3vwBcbQ
Jeu de briques
Snake
Pacman
Bubble