Sur TikTok, ces deepfakes glaçants générés par IA redonnent vie aux pires faits divers

Petite mèche blonde rebelle sur le front et grands yeux bleus adorables, Lucas vous fixe en déclarant d’une voix aiguë : “Mon père m’a mis dans un lave-linge en mode essorage”. En fond, on perçoit les tristes accords du titre “Let Me Down Slowly” d’Alec Benjamin. Le petit garçon, qui déclare s’appeler Lucas, passe ensuite un peu plus d’une minute à raconter dans les moindres détails la tragédie qui lui a coûté la vie.

@itssmystorynow The sad story of this 3 years old baby named lucas 🤕 #childabusneedstostop #horriblestory #fakebloood ♬ Let Me Down Slowly

Cette vidéo visionnée plus de 80 000 fois a été publiée il y a seulement trois jours sur le compte TikTok @itssmystorynow. Des contenus tout aussi glauques que celui-ci, mettant en scène les victimes d’infanticide racontant leur propre mort, il y en a des centaines sur la plateforme, constate Rolling Stone.

“L’histoire racontée par ceux qui l’ont vécue ✨”

Bon, soyons clairs, les vidéos labellisées true crime, ou fait divers, il en existe déjà des milliers sur Internet. Documentaires, séries, chaînes YouTube ou comptes TikTok dédiés au décorticage de crimes tous plus horribles les uns que les autres réunissent déjà depuis de nombreuses années une communauté très importante. Là où ces vidéos d’enfants s’en distinguent, c’est qu’elles mettent en scène les propres victimes de ces atrocités grâce à des deepfakes générés grâce à l’intelligence artificielle.

C’est d’ailleurs la promesse de ces comptes TikTok : dans la bio de @jennygdgpwj, aka “Storyforyou”, ou @storysincere, respectivement suivis par 121 000 et 86 000 abonné·e·s, on peut lire la même phrase : “L’histoire racontée par ceux qui l’ont vécue”. Même s’il est bien précisé en légende qu’il s’agit d’une reconstitution “immersive” réalisée grâce à l’IA et non inspirée d’une vraie photo, “par respect pour la famille”, la ressemblance est parfois frappante.

Il suffit de regarder à nouveau cette vidéo du petit Lucas pour s’en rendre compte. En réalité, il s’appelait Bastien et a été enfermé dans le tambour d’une machine à laver par son père en 2011. Il suffit de comparer l’image générée sur le compte TikTok et la photo de l’AFP dans cet article de Ouest-France relatant le meurtre, pour constater une étonnante similarité entre les deux visages.

Une pratique pourtant interdite par TikTok depuis peu : la plateforme condamne tout média généré par IA “ayant une ressemblance avec n’importe quelle personne physique réelle”, comme le rappelait The Verge en mars dernier. En modifiant quelques informations sur les faits divers, comme le prénom des victimes, la date ou le lieu, les créateur·rice·s de ce genre de vidéos espèrent peut-être échapper au fact-checking, et donc passer entre les mailles du filet de la modération. Oups, c’est cramé.

Quand l’étrange rejoint l’horreur

Pourtant, ces comptes publient toujours chaque jour de nouvelles vidéos, que leurs centaines de milliers de followers visionnent. Certes, à l’heure où nous écrivons ces lignes, le compte @truestorynow cité par Rolling Stone n’existe plus ; le dernier TikTok avait apparemment été posté hier soir. Mais de nombreux autres se créent et se développent rapidement, grâce au caractère étrange de leurs vidéos.

Car dans ces récits mis en scène, tout dérange. Commençons par le caractère artificiel de ces vidéos. Le son et l’image sont générés grâce à des outils faisant appel à l’intelligence artificielle : le ton des enfants est systématiquement monocorde, le récit est toujours débité au même rythme et avec la même voix aiguë… Quant à leur apparence, le contraste entre l’extrême immobilité des corps et l’animation des yeux et de la bouche seuls perturbe. Sans oublier cet éternel regard vitreux planté dans le vôtre, dont les yeux ne se détournent que très rarement.

Ensuite, le concept même d’un enfant réaliste décrivant les conditions de sa propre mort est extrêmement dérangeant. Encore une fois, le décalage entre la douceur candide des narrateur·rice·s et l’horreur qu’iels décrivent ne peut laisser personne indifférent. La musique joue aussi beaucoup, alternant entre styles épiques, larmoyants et horrifiques.

La monétisation décomplexée des infanticides grâce à l’IA

C’est d’ailleurs cette étrangeté sur laquelle on ne parvient pas réellement à mettre le doigt qui fait la recette de leur succès. Face à une image et à un propos si intrigants, on reste devant la vidéo malgré soi.

“Elles ont l’air d’être faites pour déclencher de fortes réactions émotionnelles, parce que c’est le meilleur moyen d’obtenir des clics et des likes”, explique Paul Bleakley, professeur adjoint en justice criminelle à l’université de New Haven, à Rolling Stone. “C’est désagréable à regarder, mais je pense que c’est le but.”

Les plus sensibles au récit commentent leur indignation ou leur soutien dans la foulée. De quoi booster le taux d’engagement de ces vidéos, et donc leur visibilité par l’algorithme. Rappelons qu’il suffit d’avoir 10 000 abonné·e·s et de cumuler au moins 100 000 vues sur 30 jours pour bénéficier ne serait-ce que du fonds pour les créateurs de TikTok. Des conditions largement remplies par les comptes @itssmystorynow, @jennygdgpwj, @storysincere, @nostalgianarratives ou encore @touchingstory4u.