Hitler est sûrement l’un des pires personnages de notre Histoire : crimes de guerre, discours haineux, antisémitisme… Cela fait bien longtemps que l’humanité a condamné moralement le chancelier allemand mort en 1945.
Publicité
Cependant, l’ONG américaine Media Matters for America a fait un constat inquiétant à la mi-septembre. Depuis quelques mois, une communauté néo-nazie diffuse des discours d’Hitler traduits en anglais. Grâce à un procédé automatisé et l’aide de l’IA, ces discours se répandent à la vitesse de l’éclair et génèrent des milliers, voire des millions de vues sur les réseaux.
Publicité
Les conséquences ?
Les discours sont souvent présentés sans contexte historique, édulcorant le réel fond de son propos. La modération de la plateforme chinoise n’arrive pas à suivre l’afflux presque constant de ces vidéos qui banalisent l’idéologie nazie. Paradoxalement, c’est l’algorithme de cette même plateforme qui décide de mettre en avant ce genre de contenus.
Publicité
Ce problème s’étend sur au moins 70 000 vidéos, selon une enquête de Sky News. Pire encore : ces milliers de vidéos ont récolté 21 millions de likes, et ça grâce à une esthétique bien particulière, les edits.
Les edits sont utilisés depuis longtemps par les fans de K-pop sur les réseaux sociaux pour exprimer leur admiration envers leurs célébrités favorites. Ces montages, accompagnés d’une musique souvent très attrayante, mettent en valeur le sujet de la vidéo grâce à des coupes, des zooms, des effets et des filtres pour le rendre “mignon” ou “stylé” selon le contexte.
Impossible de ne pas faire un parallèle avec notre vie politique française dont les récentes campagnes électorales européennes et législatives ont été impactées par les edits, playbacks, trends et des discours coupés hors contexte pour mettre en avant les candidats. Ces derniers s’en servaient eux-mêmes et invitaient leur communauté à communiquer à leur place et à diffuser des edits partout sur les réseaux sociaux. Aussi incroyable que cela puisse paraître : des gens font réellement des playbacks sur des discours de Hitler.
Publicité
Des solutions ?
Cette tendance démontre les limites des systèmes actuels face à la manipulation algorithmique. Les créateurs de ces vidéos contournent notamment les sécurités par l’utilisation de surnoms comme “le grand peintre” ou “le grand peintre autrichien” et par la diffusion en très grand nombre de leurs contenus.
L’éducation numérique historique est maintenant indispensable vis-à-vis des fake news. Media Matters for America demande à améliorer les technologies de modération, de responsabiliser les plateformes et de promouvoir une collaboration internationale pour éradiquer ce genre de contenu.
Publicité
Finalement, ce n’est pas TikTok qui rend sympa Hitler, mais leurs utilisateurs qui répandent certains discours (aujourd’hui pénalement répréhensibles), et banalisent à leur tour le nazisme.
TikTok a tout de même réagi par rapport à cette polémique et a supprimé des comptes générant ces vidéos en IA, des mesures malheureusement rarement efficaces sur le long terme.