Les photos générées par l'intelligence artificielle sur les sites de rencontre : "C’est de plus en plus difficile de savoir si la meuf est belle"
Sur les applications de rencontre, la peur des faux profils est toujours présente. Arnaque financière, usurpation d’identité, voire pire, les conséquences de ces profils inventés de toutes pièces inquiètent les utilisateurs et les utilisatrices. Et l’avènement des intelligences artificielles n’est pas pour les rassurer.
“Franchement, c’est de plus en plus difficile de savoir si la meuf est belle, ou si c’est une intelligence artificielle.” Cette constatation est dressée par Romain, 33 ans, célibataire. Adepte des applications de rencontre en tout genre, il a eu droit à plusieurs déceptions : “Parfois, je me pointais à un rendez-vous, et la nana ne ressemblait pas du tout à sa photo de profil, lourdement retouchée. Parfois, c’est pendant la conversation que je me rendais compte que je parlais à un brouteur qui voulait m’extorquer de l’argent”, regrette-t-il.
Alors, forcément, le trentenaire s’inquiète de l’influence des nouvelles technologies. “Repérer une photo créée de toute pièce par une intelligence artificielle, ça va encore. Mais repérer les retouches qui sont faites grâce aux IA de Facetune ou de Photoshop, c’est bien plus subtil, et j’ai toujours peur que des femmes en abusent.”.
L’IA au service du dating
Romain n’est pas le seul à redouter l’utilisation de photos créées ou retravaillées grâce à intelligence artificielle sur les réseaux sociaux. Les IA représentent en effet un outil de choix pour les adeptes du catfishing, ou l’art de se faire passer pour quelqu’un qu’ils ne sont pas. Selon un sondage réalisé par Bumble, 71 % des répondants de la génération Z et des millennials (18-34 ans) ont estimé qu'il devrait y avoir des limites à l'utilisation de photos de profil et de biographies générées par l'IA sur les applications de rencontres. En outre, 71 % des personnes interrogées qualifieraient d’hameçonnage (catfishing) le fait d’échanger avec des personnes qui utilisent des photos d'elles-mêmes générées par l'IA.
Certaines applications, comme Tinder, ont pris le parti de se servir de ces avancées technologiques pour améliorer l’expérience des utilisateurs. La plateforme vient de lancer à l’international un nouvel outil, le “Photo Selector”, qui permet à une IA d’aider les utilisateurs et utilisatrices à choisir les photos les plus flatteuses de leur galerie photo.
"Nous sommes fiers d'être la première application de rencontre à déployer un outil d'IA qui facilite considérablement l'élaboration du profil, un domaine qui, nous le savons, est l'une des parties les plus difficiles des rencontres. En tant que leader de la catégorie, nous nous efforçons de définir les meilleurs cas d'utilisation de l'industrie pour des intégrations d'IA significatives pour les consommateurs", affirme à ce sujet Faye Iosotaluno, PDG de Tinder. "Comme le montre notre fonction de sélection de photos, nous développons des technologies d'IA pour vous aider à prendre des décisions, et non pour les prendre à votre place. Notre engagement envers nos utilisateurs est clair et s'applique également à notre vision de l'IA : chez Tinder, nous développons des technologies innovantes pour créer un espace plus sûr permettant aux gens de nouer des liens authentiques."
Mais attention : comme le rappelle Benjamin Puygrenier, porte-parole de Tinder France, l’objectif de cet outil n’est pas de mettre en avant des photos retouchées par IA, bien au contraire. "Photo Selector fonctionne à partir de la photo de profil de l'utilisateur ou du selfie qu'il fournit. Si les photos ne semblent pas correspondre au visage de l'utilisateur, l'outil ne les recommandera pas." Et de préciser : "Côté Tinder, on explore continuellement les avancées de l'IA pour améliorer l'expérience et la sécurité des utilisateurs. Notre vision est que l'intégration de nouvelles technologies peut aider à créer un environnement sûr, amusant et inclusif, ce qui a toujours fait partie des priorités de Tinder.".
Une prudence de la part des applications
De son côté, Bumble a décidé de prendre le contre-pied des intelligences artificielles. Le 22 juillet 2024, l’application a annoncé la mise en place d’une nouvelle fonctionnalité qui permet à ses membres de signaler les profils qu'ils rencontrent sur l’app lorsque ces derniers utilisent des photos et des vidéos générées par l’intelligence artificielle. Une mesure complémentaire du Deception Detector mis en place en début d’année : un outil utilisant l’intelligence artificielle afin d’identifier les spams, les escroqueries et les faux profils.
Interrogé par nos soins, un porte-parole de l’application affirme que "Bumble souhaite se concentrer sur un usage responsable de l'IA et s’intéresse donc aux nouveaux défis posés par l'utilisation malhonnête de cette technologie." Et de préciser : "La sécurité est une priorité absolue chez Bumble. Nous utilisons une combinaison de modérateurs humains et de systèmes automatisés pour surveiller et examiner les comptes Bumble ainsi que les interactions afin de détecter tout contenu susceptible d'aller à l'encontre de nos règles communautaires, de nos conditions générales ou d'être préjudiciable de quelque manière que ce soit.".
Le porte-parole précise que les photos réalisées par une intelligence artificielle ne seront pas les seules à être signalées. Les photos retouchées le seront également : "Le contenu fortement créé ou modifié dans un but clair de tromper n'est pas autorisé sur Bumble.".
Un avis partagé par l’application de rencontre Hinge, qui précise de son côté : "Chez Hinge, nous pensons que l'authenticité est essentielle pour établir des liens durables et significatifs. L’IA ne doit pas se faire au détriment de la sécurité des utilisateurs ou de leur capacité à distinguer les faits de la fiction." Chaque profil de la plateforme doit donc contenir "au moins une photo de votre visage et/ou de votre visage et de votre corps sur votre profil qui n'est pas générée par l'IA ou qui n'est pas fortement modifiée. Cela permet de garantir que nos utilisateurs et utilisatrices savent à quoi s'attendre lorsqu'ils rencontrent.". De même, la rédaction de biographies par des IA est interdite.
A lire aussi
