Intelligence artificielle : cette photo illustre pourquoi des experts appellent à une pause de 6 mois

Cette image d’une personne âgée violentée par la police a vraisemblablement été inventée avec l’aide d’un logiciel comme Midjourney. Mais on n’en est pas certain -alors qu’elle a été largement relayée- et c’est tout le problème.

IA - C’est une image qui pourrait être une photo prise en France lors des nombreuses manifestations contre la réforme des retraites. Le visage d’une personne âgée et ensanglantée, entourée par ce qui s’apparente à des CRS. Elle a été diffusée notamment sur plusieurs comptes Facebook et Twitter dans les derniers jours du mois de mars 2023, pour dénoncer les violences policières.

Et comme le résume le site Numerama : « La photo pourrait être la création d’une IA. Mais le plus vertigineux est qu’il est impossible d’en être certain ».

Ces dernières semaines, de nombreuses images de synthèse faisant écho à l’actualité ont interloqué - ou sidéré - sur les réseaux sociaux. Comme nous vous l’expliquions dans la vidéo ci-dessous, les images de synthèse du Pape François en doudoune - tout comme celle d’Emmanuel Macron devant des poubelles ou de Donald Trump poursuivi par des policiers - pouvaient facilement être identifiées comme fausses, par des détails techniques mais aussi en raison des situations incongrues et imaginaires dans lesquelles se retrouvaient ces personnalités publiques.

Pour l’image du manifestant ensanglanté, qui a été diffusé dans un contexte politique très particulier, et qui met en scène une « personne » semble-t-il anonyme en prise avec les forces de l’ordre (une scène qui aurait pu se passer de très nombreuses fois en France ces dernières semaines), la possibilité du réel, et surtout l’impossibilité de trancher facilement la question, a de quoi inquiéter.

Une image très certainement fausse

Des journalistes et experts de la reconnaissance des fake sur Internet se sont penchés sur le sujet. Selon Guillaume Brossard, le créateur du site HoaxBuster, et l’Agence France Presse, il n’y a que peu de doutes : l’image en question présente certains défauts, qui sont le signe d’une création par un logiciel, et probablement Midjourney (dont la dernière version 5 est sortie justement en ce mois de mars).

« Le visage du policier derrière son masque n’a rien de naturel : le visage du vieil homme est flou et plusieurs éléments sont ’étranges’ (rides du menton, absence de mâchoire supérieure, problèmes sur les yeux,...) », note Guillaume Brossard, à partir d’une version recadrée de l’image focalisée sur le visage.

L’Agence France Presse a de son côté retrouvé l’image originale sur Facebook, qui présente aussi de nombreux problèmes en termes de véracité : « On peut noter l’absence de signes distinctifs des forces de l’ordre françaises (bandes de couleur, insignes) ou encore l’apparence étrange de la visière visible en haut à gauche de l’image », expliquent les journalistes français.

Mais au-delà de l’enquête technique, Tristan Mendès France, spécialiste de la désinformation numérique, a exprimé surtout ses inquiétudes sur la perception de cette image diffusée sur les réseaux sociaux. « Cette photo est peut-être vraie. Mais sans source, difficile à dire. Certains outils l’identifient comme probablement générée par IA. Le souci c’est que peu de personnes se poseront la question. Et que l’émotion passera devant la précaution », a-t-il écrit sur Twitter.

Le site Numerama précise d’ailleurs que l’image a été relayée des milliers de fois sur Twitter, avant de poser la question : « Comment les internautes réussiront-ils encore à accorder leur confiance à une image diffusée en ligne, si les créations par IA se mélangent habilement aux vraies ? ».

Un appel au moratoire

Ces questions sur la diffusion et la réception d’images et de textes générés par des logiciels d’intelligence artificielle (comme Midjourney ou Dall-E pour les images de synthèse, mais aussi ChatGPT pour les textes) sont au cœur d’un texte publié mercredi 29 mars sur le site futureoflife.org. Il est signé par 1800 personnes : experts de l’intelligence artificielle, chercheurs, ou responsables d’entreprises de nouvelles technologies du monde entier, parmi lesquelles figure Elon Musk, un inquiet de longue date face aux progrès des IA.

Dans ce texte, ils et elles appellent à une pause de 6 mois dans les recherches et les développements de logiciels d’IA les plus évolués. Ceci pour que leurs progrès et leurs courbes d’apprentissages pour générer automatiquement des textes et des images d’une manière toujours plus perfectionnée, ne se fasse pas hors de tout contrôle. « Devons nous laisser des machines inonder nos canaux d’information avec de la propagande et des mensonges ? », s’interroge le texte.

Parmi les solutions envisagées figurent la surveillance des systèmes d’IA, des techniques pour aider à distinguer le réel de l’artificiel, ou encore des nouvelles autorités et institutions capables de gérer les « perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l’IA provoquera ».

L’une des particularités du texte est qu’il est signé par Sam Altman, l’homme à la tête d’OpenAI, la société qui a conçu ChatGPT : il se dit être lui-même « un petit peu effrayé » par ChatGPT, en imaginant le logiciel être utilisé pour de « la désinformation à grande échelle ou des cyberattaques ».

« Pas souhaitable »

Dans la matinale de France Inter, consacrée à ce sujet vendredi 31 mars, l’un des signataires du texte, Raja Chatila, de l’université de la Sorbonne, a lui expliqué sa démarche par la nécessité de « lever un carton rouge. Quelque chose est en train de se passer, et il fallait en prendre conscience collectivement »

Un constat qui est loin d’être partagé par tout le monde, et qui a suscité un vif débat dans la communauté de chercheurs sur le sujet. Yann Le Cun, un expert français de l’intelligence artificiel mondialement reconnu, responsable des recherches chez Meta (Facebook) en la matière, n’a pas caché son scepticisme face au texte diffusé.

De son côté, le ministre délégué au numérique en France, Jean-Noël Barrot, a estimé que l’idée de faire une pause de développements de ces outils pendant 6 mois n’est pas une bonne idée. « La réponse est mauvaise parce qu’il ne s’agit pas de faire un moratoire ou d’arrêter le progrès de la science. C’est d’une part impossible, ça n’est pas réalisable. Mais, en plus, ce n’est pas souhaitable », a-t-il expliqué sur Radio J.

À lire aussi :

Comment ChatGPT force les universités à repenser leurs méthodes d’examen

ChatGPT, indétectable ? Ce cas de triche à l’Université de Strasbourg prouve que non

VIDÉO - L'intelligence artificielle, une menace ? : des centaines d'experts réclament une pause dans l'IA