Une intelligence artificielle crée de fausses actrices porno, et c'est un vrai problème

·4 min de lecture
(Crédit photo : Getty Images)
(Crédit photo : Getty Images)

Les nouvelles technologies permettent de véritables avancées dans bien des domaines, mais dans certains cas, elles peuvent faire plus de mal que de bien. C'est notamment le cas d'une intelligence artificielle, utilisée par son créateur pour créer des films pornographiques sans avoir à faire appel à des travailleurs et travailleuses du sexe. Le procédé utilise en effet des méthodes tout sauf éthiques dont la légalité est contestée.

Utiliser des images issues de bases de données, les combiner et créer des films pornographiques sans avoir à faire appel à des travailleurs ou travailleuses du sexe : tel est le projet d'un certain "GeneratedPorn". Derrière ce pseudonyme, un doctorant qui a mis au point un algorithme à l'utilisation surprenante. Ce dernier scanne et analyse des milliers de photos de personnes nues, publiées sur le net par des sociétés de production pornographiques peu scrupuleuses, et les combine pour créer de nouvelles personnes non-réelles, à partir desquelles il crée des films pornographiques. Le tout sans avoir à faire appel à des performeurs ou des performeuses, et donc, sans avoir à payer qui que ce soit.

VIDÉO - Florian Voros nous parle des représentations de la sexualité dans le porno :

Un procédé pas éthique

Sur le principe, l'idée est de permettre de créer de nouvelles pornstars qui ne ressemblent à la fois à personne, et à la fois à tout le monde. Les yeux de telle actrice, la bouche de cette comédienne... De petits détails empruntés aux unes et aux autres qui donnent au final des images d’individus impossibles à reconnaître, et qui seront par la suite utilisées pour réaliser des vidéos “deepfake”. C'est d'ailleurs sur cet argument que se basent les défenseurs de GeneratedPorn : puisqu'on ne reconnaît quelqu’un en particulier dans ses créations, il ne fait pas de mal à autrui.

VIDÉO - Découvrez notre interview de Bertoulle Beaurebec, performeuse :

Toutefois, le problème n'est pas de reconnaître ou non une personne : il vient du fait que les images des acteurs et des actrices concerné·e·s – d'autant que le procédé concerne à l'heure actuelle majoritairement des femmes – sont utilisées sans la moindre autorisation ni le moindre consentement des intéressé·e·s, et sont modifiées, utilisées hors contexte. Un manque de respect total des travailleurs et travailleuses du sexe, qui sont d'ores et déjà victimes de nombreuses discriminations.

Interrogée à ce sujet par vice.com, Leah Gotti, actrice de films pour adultes, fait partie des victimes de cette pratique et pointe non seulement le manque de respect, mais aussi la dangerosité du procédé : "Encore une fois, personne ne respecte les travailleurs et travailleuses du sexe. Toutes ces images sont piratées, et c'est censé être illégal, mais puisque l'on baise devant une caméra, les gens pensent que l'on mérite tout ce qui nous arrive."

VIDÉO - Carmina nous raconte son quotidien de camgirl et actrice porno :

Des images provenant de bases de données controversées

Autre problème : GeneratedPorn n'est pas allé se servir uniquement au sein des images des acteurs et actrices porno mettant légalement en ligne leur travail. La majorité des photos utilisées par l'intelligence artificielle qu'il a créé proviennent de Czech Casting, une société de production pornographique en République tchèque accusée de viols et de trafic d'êtres humains, ainsi que de Girls Do Porn, une entreprise condamnée à 13 millions de dollars de dommages et intérêts envers 22 plaignantes pour trafic sexuel en bande organisée. Le fondateur de la plateforme est par ailleurs un fugitif recherché par le FBI.

Ainsi, l'algorithme créé par GeneratedPorn utilise non seulement des photos sans l'accord des personnes qu'elles mettent en scène, mais également des images qui sont potentiellement issues de rapports sexuels exercés sous la contrainte, forçant les victimes de ces abus à vivre et à revivre leurs tourments. Ce procédé rend d'autant plus difficile la suppression des vidéos incriminées, puisque, grâce – ou plutôt à cause – des modifications de l'intelligence artificielle, elles sont plus difficilement identifiables.

A LIRE AUSSI

> "Il n'y a pas de lien de causalité entre l'exposition du porno aux mineurs et les violences conjugales": la porno gratuite bientôt bloquée par la justice ?

> Comment mettre sa cup ? Découvrez un tuto explicite... Sur PornHub !

> OnlyFans est-il le nouveau MySpace (du sexe) ?

Notre objectif est de créer un endroit sûr et engageant pour que les utilisateurs communiquent entre eux en fonction de leurs centres d’intérêt et de leurs passions. Afin d'améliorer l’expérience dans notre communauté, nous suspendons temporairement les commentaires d'articles