Publicité

X/Twitter bloque les recherches sur Taylor Swift après la diffusion de fausses images obscènes générées par l’IA

Les développeurs de X/Twitter ont dû bloquer toute recherche comprenant « Taylor Swift ».

Une série d'images explicites générées par l'intelligence artificielle a été diffusée sur le site par des utilisateurs anonymes, et X/Twitter a trouvé comme seule solution pour endiguer la propagation de bloquer toutes les recherches comprenant le nom de la chanteuse.

La star de 34 ans a été représentée dans plusieurs images classées X générées par une intelligence artificielle qui se sont rapidement répandues sur le site, obligeant les développeurs à prendre la rare mesure de la rendre totalement introuvable. Tout utilisateur tentant de trouver des messages sur la chanteuse aux Grammy Awards recevra simplement la notification : « Une erreur s’est produite ».

« Il s'agit d'une mesure temporaire prise avec beaucoup de prudence, car nous accordons la priorité à la sécurité », a déclaré Joe Benarroch, le responsable des opérations commerciales chez X, au Wall Street Journal.

Non seulement la victime est devenue invisible sur X, mais le réseau social a mis 17 heures après l'apparition des photos avant de prendre des mesures pour les supprimer. L'une de ces images aurait été vue 47 millions de fois ! X a affirmé traquer les comptes ayant reproduit les fausses images. Cependant, comme l'ont noté certains internaute, si la suite de mots « Taylor Swift » a été désactivée, on peut toujours chercher, par exemple, « Taylor AI Swift ».

Si ni Taylor Swift, ni Elon Musk, le propriétaire de X/Twitter, n'ont réagi à la nouvelle, les réactions indignées ne se sont pas fait attendre.

« Les images sexuellement explicites générées par l'intelligence artificielle représentant Taylor Swift sont bouleversantes, nuisibles et profondément inquiétantes. Le développement et la diffusion de fausses images – en particulier celles de nature obscène – sans le consentement de quelqu'un doivent être rendus illégaux. En tant que société, nous avons le pouvoir de contrôler ces technologies, mais nous devons agir maintenant avant qu'il ne soit trop tard », a déclaré le syndicat des acteurs SAG-AFTRA dans un communiqué le 26 janvier.

La Maison Blanche a aussi réagi. « C’est alarmant », a dit la porte-parole Karine Jean-Pierre, qui a expliqué les efforts que faisait le président Joe Biden avec les entreprises de l’IA pour la rendre plus transparente et sûre, grâce à un « système de marquage en filigrane ». Joe Biden lui-même avait été « doublé » par une IA.

Le réseau social d’Elon Musk n’en est pas à sa première affaire concernant la sécurité et les deep fakes.