Ce 20 septembre, trois individus dans la vingtaine ont été appréhendés par la police pour avoir vendu des deepfakes pornographiques de célébrités sud-coréennes. Depuis juillet, plus de 500 enquêtes liées à des crimes de deepfake pornographique ont été menées par la police.
Une vingtaine de célébrités sud-coréennes victimes de deepfakes pornographiques
Le 20 septembre, trois hommes ont été accusés de vendre sur la messagerie Telegram des deepfakes sexuellement explicites de célébrités sud-coréennes, dont des mineures. Deux d’entre eux ont été arrêtés pour violation de la loi sur la protection des mineurs et de la loi sur les cas particuliers concernant la répression des crimes sexuels.
Entre novembre 2023 et juillet 2024, 24 jeunes hommes auraient acheté ces deepfakes par l’intermédiaire d’une salle de discussion. La police enquête actuellement sur 80 autres acheteurs potentiels. Ces acheteurs auraient payé entre 20 000 et 40 000 wons (entre 13 et 27 euros) pour intégrer la salle de discussion et télécharger ou visionner le contenu pornographique. Les bénéfices pour les trois suspects seraient de plus de 10 millions de wons (6 720 euros).
L’ensemble des suspects, les vendeurs et les acheteurs de ces deepfakes pornographiques, risquent plus d’un an de prison en vertu des lois actuelles.
Un nombre de cas de deepfake pornographique en forte hausse depuis 2023
Mi-septembre, la police sud-coréenne a annoncé enquêter sur 513 cas de crimes de deepfake pornographique, un nombre en forte hausse par rapport aux 180 cas répertoriés en 2023. Le fait que certaines salles de discussion Telegram comptaient 220 000 et 400 000 membres confirme l’ampleur du phénomène.
Selon la police, 434 affaires viseraient des étudiantes mineures et des professeurs, issues de 500 écoles et universités différentes. De plus, parmi les 318 suspects arrêtés depuis janvier, 251 sont des adolescents, alors que 62 % des victimes sont des adolescentes. Le divertissement n’est pas épargné par ce phénomène, comme le montrent les arrestations récentes et le fait que les chanteuses et actrices sud-coréennes représentent 53 % des victimes.
Ainsi, depuis juillet, la police sud-coréenne s’investit dans la lutte contre le deepfake pornographique, que ce soit par la mise en place d’unités dédiées ou le développement de logiciels pour détecter les contenus pornographiques diffusés sur les messageries sécurisées.
De son côté, l’Assemblée nationale sud-coréenne a présenté le 21 septembre un projet de loi renforçant les condamnations pour les crimes sexuels en ligne à l’encontre des mineurs ayant recours au deepfake. Enfin, la loi sur la prévention des violences sexuelles devrait être révisée pour renforcer le soutien financier du gouvernement aux groupes d’aide aux victimes.
Le deepfake pornographique, révélateur du sexisme dans une société ultra connectée
Le problème du deepfake pornographique n’est pas sans rappeler les scandales du Burning sun et de la nth room, qui visaient déjà des femmes sur Telegram et Kakaotalk.
À nouveau, les associations féministes, désespérées face à l’inaction des autorités qui nient l’existence du sexisme structurel en Corée, demandent au gouvernement de mettre en place des lois plus strictes et de renforcer l’éducation des adolescents sur le sujet. Le ministère de l’Éducation a ainsi mis en place des groupes de travail dans les écoles.
Mais ces groupes de travail, au lieu de sensibiliser les jeunes hommes à la véritable nature de ces actions, enseignent surtout aux jeunes filles à protéger leur image et à retirer leurs photographies des réseaux sociaux. Certaines victimes sont en outre renvoyées par des membres de la police qui considèrent que le deepfake pornographique n’est « pas vraiment un crime » dans le mesure où les vidéos sont fausses.
Ce comportement confirme les rapports de Human Rights Watch, selon qui les violences sexistes en ligne sont en forte croissance en Corée du Sud, où la discrimination de genre est structurelle : selon l’ONG, la majorité des Coréens ne prend pas ces crimes au sérieux et ridiculise les femmes qui portent plainte ou manifestent.
Enfin, la difficulté pour la police d’enquêter sur le deepfake pornographique révèle la difficulté à réguler les contenus circulant sur internet, à l’heure où le développement de l’intelligence artificielle permet de créer du deepfake en quelques secondes à partir de simples photographies.
Sources : Yonhap News Agency (1)(2) | The Korea Herald | The Guardian | BBC
P1Harmony se libère d’une « Sad Song »
Escapade à Songdo : à la découverte d’une perle High-Tech d’Incheon
