Entre applications photo qui déshabillent numériquement les femmes, messages sexualisés mettant en scène des filles nées de l’intelligence artificielle et images manipulées en vue d’un racket de “sextorsion”, l’hypertrucage (deepfake) pornographique est en plein essor, prenant de court les législateur·rice·s. La propagation de ces contenus altérés par l’intelligence artificielle a dépassé les efforts américains et européens visant à réglementer ce jeune domaine technologique.
À voir aussi sur Konbini
Plusieurs photographies, fausses et perfectionnées, sont devenues virales ces derniers mois. L’une, prêtant à sourire, montrait le pape François en doudoune. D’autres, plus sérieuses, dépeignaient les arrestations de l’ancien président des États-Unis Donald Trump et du président français Emmanuel Macron. Mais bien plus répandue est l’utilisation de ces algorithmes pour générer des contenus pornographiques, à l’insu des intéressé·e·s ciblé·e·s, dont les vies en sont parfois détruites, estiment des expert·e·s.
Les femmes en sont les premières victimes. “L’essor du porno généré par l’IA normalise l’utilisation de l’image ou de la ressemblance d’une femme sans son consentement”, souligne auprès de l’AFP Sophie Maddocks, chercheuse à l’université de Pennsylvanie qui suit les abus sexuels liés à l’image. “En tant que société, quel message envoyons-nous sur le consentement lorsque vous pouvez virtuellement déshabiller n’importe quelle femme ?”, interroge-t-elle.
© Midjourney
Des vies détruites
QTCinderella, une streameuse états-unienne de Twitch, l’a appris à ses dépens : elle a raconté dans une vidéo avoir été harcelée après l’utilisation pornographique de son image en déplorant, en larmes, “l’exploitation et l’objectification constantes” des femmes. Elle a déclaré sur Twitter que cette expérience l’avait “anéantie”.
Ces deepfakes peuvent ruiner une réputation, servir à des actes d’intimidation ou de harcèlement. Ils illustrent la menace de la désinformation par l’IA. Selon une étude réalisée en 2019 par la société néerlandaise Sensity, spécialisée dans l’IA, 96 % des fausses vidéos en ligne sont de la pornographie non consensuelle et la plupart d’entre elles représentent des femmes : des célébrités comme la chanteuse Taylor Swift et l’actrice Emma Watson, mais aussi énormément de femmes qui n’occupent pas le premier plan médiatique.
Les médias américains et européens regorgent de témoignages de femmes universitaires ou militantes qui ont été choquées de découvrir leur visage dans du deepfake porno. “Le fantasme sexuel, très privé, développé autrefois dans l’imaginaire d’une personne, est maintenant transféré à la technologie et aux créateur·rice·s de contenu dans le monde réel”, résume pour l’AFP Roberta Duffield, directrice de l’intelligence chez Blackbird.AI.
Des “filles IA hyperréelles” à “personnaliser”
“La facilité d’accès et le manque de surveillance – ainsi que la professionnalisation croissante de l’industrie – ancrent ces technologies dans de nouvelles formes d’exploitation et d’affaiblissement des femmes”, pointe-t-elle encore. Parmi les nouveaux générateurs de texte-art, on trouve des applications gratuites qui peuvent créer des “filles IA hyperréelles” – des avatars à partir de photos réelles, que l’on peut personnaliser en demandant “peau foncée” ou “ceinture de cuisses”. De nouvelles technologies telles que Stable Diffusion, un modèle d’IA en libre accès développé par Stability AI, permettent des images réalistes à partir de descriptions textuelles.
Les avancées technologiques ont donné naissance à ce que Roberta Duffield appelle une “industrie artisanale en expansion” autour du porno généré par l’intelligence artificielle, dont de nombreux acteur·rice·s acceptent de générer du contenu – payant – mettant en scène la personne choisie par le client. Le mois dernier, le FBI a mis en garde contre les chantages aux hypertrucages sexuels, fabriqués à partir d’images diffusées sur les réseaux sociaux et utilisés pour extorquer de l’argent aux victimes ou à leur famille, ces victimes pouvant être des enfants. Face à cette prolifération d’outils d’IA, la réglementation est dépassée.
“Sous notre nez”
“La loi doit rattraper son retard”, professe Dan Purcell, directeur général et fondateur de la société Ceartas, spécialisée dans la protection des marques. “Il ne s’agit pas d’un coin sombre de l’Internet où ces images sont créées et partagées. C’est juste sous notre nez”, dit-il à l’AFP, en prônant des lois internationales harmonisées. “L’Internet est une juridiction sans frontières.”
En Grande-Bretagne, un nouveau projet législatif est en gestation pour criminaliser le partage de contenus pornographiques ainsi trafiqués. Quatre États américains, dont la Californie et la Virginie, en ont déjà interdit la distribution, mais les victimes n’ont souvent que peu de recours si les auteur·rice·s vivent en dehors de ces juridictions.
En mai dernier, un législateur états-unien a présenté la loi Preventing Deepfakes of Intimate Images Act, qui rendrait illégal le partage de tels contenus sans l’assentiment des personnes concernées. Des sites populaires tels que Reddit ont également cherché à réglementer leurs communautés de pornographie IA en plein essor.
