Publicité

Le fléau des deepfakes porn, ces montages obscènes qui pullulent sur le Net

Une étude publiée en 2019 révèle que 96% de tous les deepfakes en ligne sont des clips pornographiques ciblant les femmes.
golibtolibov / Getty Images/iStockphoto Une étude publiée en 2019 révèle que 96% de tous les deepfakes en ligne sont des clips pornographiques ciblant les femmes.

« Je suis fatiguée et il est temps que je vous explique ». Fin octobre, la streameuse Maghla pointait dans un long thread Twitter toute la violence qu’elle subit en tant que femme active (et médiatiquement exposée) sur le service de streaming vidéo Twitch. Cyberharcèlement de masse et dickpics non sollicitées font ainsi partie de son quotidien.

Mais son cauchemar ne s’arrête pas là : Maghla dénonçait au détour de l’un de ses tweets la manipulation de son image à des fins pornographiques. « Il y a des montages sur des corps d’actrices porno », écrit-elle, précisant qu’elle n’est pas la seule femme visée par ces trucages. « Il y a des discords dédiés [des espaces de messagerie instantanée sur le serveur Discord ; ndlr] aux faux ’nudes’ et des mecs qui se br*nlent sur les streameuses avec partages de captures d’écran de lives et des faux montages ».

96% de femmes visées par les deepfakes

Maghla se dit victime de deepfake porn, véritable fléau apparu sur le web ces dernières années. Si sa définition juridique reste floue, le deepfake est, selon Laure Landes-Gronowski, avocate spécialisée dans le droit des technologies de l’information et de la protection des données personnelles, contactée par Terrafemina, « l’utilisation d’images, de vidéos ou de données d’une personne, pour en faire un montage quel qu’il soit, généralement à l’aide de logiciels d’intelligence artificielle, pour que cela paraisse le plus réel possible ». Selon elle, les deep fakes porn sont donc « des deepfakes à caractère pornographique ».

Une étude publiée en 2019 par la société de détection des fraudes Sensity AI révélait que 96% de tous les deepfakes en ligne étaient des clips pornographiques ciblant les femmes, et prédisait que ce nombre « continuerait à grandir si aucune action décisive n’est prise ».

Mais la multiplication de ces cyber-délits paraît malheureusement difficile à endiguer, d’autant qu’ils sont extrêmement faciles à commettre. « Ce sont des pratiques qui ont vocation à s’accentuer du fait du développement des technologies, de la maîtrise par des internautes lambdas de ces technologies, et de la protection de leur anonymat », analyse Laure Landes-Gronowski.

Preuve en est : il suffit de taper « deepfakes porn » sur un moteur de recherche pour voir s’afficher dès les premiers résultats une flopée de sites répertoriant de nombreux montages pornographiques...

Que dit la loi ?

En France, plusieurs textes peuvent être saisis pour punir le deepfake porn. L’article 226-8 du code pénal précise qu’est « puni d’un an d’emprisonnement et de 15 000 euros d’amende le fait de publier, par quelque voie que ce soit, le montage réalisé avec les paroles ou l’image d’une personne sans son consentement, s’il n’apparaît pas à l’évidence qu’il s’agit d’un montage ou s’il n’en est pas expressément fait mention ».

« On peut invoquer l’article 226-4-1 du code pénal, relatif à l’usurpation d’identité, qui est puni d’un an d’emprisonnement et de 15 000 euros d’amende », indique Sylvie Jonas, avocate experte dans la prévention et la gestion de la cybercriminalité.

Si les deepfakes porn peuvent être punis par la loi, dans les faits, il peut être extrêmement compliqué de remonter jusqu’à leurs auteurs. Lorsqu’ils sont partagés sur les réseaux sociaux, ces trucages pornographiques circulent extrêmement rapidement et humilient les victimes à grande échelle, sans qu’elles ne puissent être certaines que ces montages ont été totalement effacés d’Internet.

L’article 6 de la loi pour la confiance dans l’économie numérique (dite « LCEN ») précise néanmoins que les hébergeurs (des plateformes comme Facebook, Instagram, mais aussi Reddit et Discord, où les deepfakes s’échangent facilement) ont la responsabilité de retirer ou de rendre impossible « promptement » l’accès à ces montages dès lors qu’ils en ont connaissance, et l’obligation de proposer à leurs utilisateur·ice·s des manières de signaler ces comportements.

« Travailler sur les délais »

Le mot « promptement » fait tiquer Sylvie Jonas. « Travailler sur les fameux délais dont disposent les plateformes, pourquoi pas en communiquant davantage sur le sujet, pourrait permettre d’accélérer la prise en charge des victimes », suggère l’avocate.

Vous ne pouvez visionner ce contenu car vous avez refusé les cookies associés aux contenus issus de tiers. Si vous souhaitez visionner ce contenu, vous pouvez modifier vos choix.

À voir également sur Le HuffPost :

Lire aussi