Des vidéos visionnées des milliers de fois sur Facebook vantent les mérites de produits amincissants ou contre le diabète en exploitant l’image de présentateurs télé vedettes des chaînes américaines comme CBS ou CNN. Mais ces vidéos sont entièrement fabriquées par des logiciels d’intelligence artificielle (IA). Les “deepfakes”, ces manipulations numériques de plus en plus fréquentes et réalistes, viennent alors compromettre la réputation des médias traditionnels.
À voir aussi sur Konbini
Certains présentateurs et journalistes dont l’identité a été usurpée ont directement réagi à la diffusion de ces vidéos truquées sur les réseaux. “Je n’ai jamais entendu parler de – ou utilisé – ce produit ! Ne vous laissez pas berner par ces clips réalisés par une IA”, a déclaré la présentatrice de CBS Gayle King sur sa page Instagram en octobre. D’autres vidéos utilisent et déforment même les propos du milliardaire et patron de Tesla Elon Musk à des fins commerciales.
Ces “deepfakes”, encensant toutes sortes de produits et plans d’investissement douteux, renvoient souvent à des plateformes d’e-commerce et sites éphémères qui disparaissent quelques jours à peine après leur diffusion sur les réseaux. Depuis 2020, Meta – maison mère de Facebook et Instagram – a interdit la diffusion de ces vidéos sur ses plateformes, à l’exception de parodies et certains contenus satiriques. Ces clips, dont de nombreux exemples ont été analysés et vérifiés par l’AFP, continuent pourtant de circuler librement en ligne.
Clone vocal
“Il y a une recrudescence de ce type de vidéos utilisant un échantillon sonore d’à peine deux minutes et reproduisant la voix de quelqu’un sur une toute nouvelle séquence fictive, avec des mouvements de bouche synchronisés”, explique Hany Farid, professeur spécialisé dans le numérique à l’université de Berkeley, en Californie. Les personnalités de l’audiovisuel, du fait de leur constante présence à l’écran, sont des cibles faciles pour entraîner les logiciels d’intelligence artificielle.
Pour Andrea Hickerson, doyenne de la faculté de journalisme de l’université du Mississippi, il s’agit d’une tendance inquiétante, car le public a créé un lien de familiarité avec ces personnalités publiques dont l’identité a été usurpée. “C’est vraiment dangereux parce que les gens ne s’attendent pas à ce que la désinformation soit incarnée d’une telle manière”, a-t-elle dit à l’AFP. Le contenu est alors présenté “comme un média traditionnel”.
“Crise de confiance”
Les contenus manipulés par l’IA occupent aussi une place grandissante dans les escroqueries financières, qui ont coûté quelque 3,8 milliards de dollars aux Américains en 2022, d’après les calculs de l’autorité américaine de la concurrence (FTC). Ces arnaques auraient ciblé des personnes dans plusieurs pays, y compris au Canada et en Australie, et ont coûté à certaines personnes des dizaines, voire des centaines, de milliers de dollars.
“Les arnaques deviennent de plus en plus complexes car des criminels combinent des méthodes de fraude traditionnelles avec des escroqueries impliquant des cryptomonnaies et des programmes d’intelligence artificielle”, a déclaré l’avocat Chase Carlson dans un billet de blog publié en début d’année.
Les Américains sont aussi de plus en plus inquiets par l’utilisation de l’IA, en particulier en matière politique. Plus de 50 % des Américains s’attendent à ce que les contre-vérités produites par l’IA aient des conséquences sur la présidentielle de 2024, selon un sondage publié en septembre par le média Axios et Morning Consult, un cabinet de recherche économique.
L’AFP a déjà investigué des vidéos truquées où le président américain Joe Biden semble annoncer une mobilisation générale ou encore où l’ancienne secrétaire d’État Hillary Clinton déclare son soutien au gouverneur républicain de Floride Ron DeSantis pour la prochaine élection présidentielle.
Selon un sondage Gallup réalisé en octobre, seuls un tiers des Américains font “beaucoup” ou “assez” confiance aux médias d’information, ce qui correspond au niveau le plus bas enregistré en 2016. La propagation de ces contenus, qui peuvent parfois être repérés aisément en raison de leur mauvaise qualité, présente ainsi le risque d’alimenter une “crise de confiance” envers les médias et les institutions de la part du public, pour Rebekah Tromble, directrice de l’Institut pour les données, la démocratie et la politique à l’université George-Washington.
“Les informations de qualité sont toujours là et avec une bonne dose de scepticisme, on peut démêler le vrai du faux”, souligne toutefois l’experte, qui incite à la prudence avant de partager tout type de contenu en ligne.
