Cette image d’un "homme âgé au visage ensanglanté manifestant en France" a bien été créée par Midjourney

"L’image d’un homme âgé au visage ensanglanté manifestant en France fait le tour du monde", soutient un tweet partagé plus de 5000 fois (aujourd’hui supprimé mais archivé ici et dont le contenu a été repris dans d’autres tweets) depuis sa publication, le 29 mars 2023.

Les différents hashtags qui l’accompagnent ("#Reformedesretraites", "#FranceProtest") laissent penser que cette scène a été photographiée pendant l’une des récentes manifestations en France contre la réforme du gouvernement.

On voit sur le visuel associé, en gros plan, le visage ensanglanté d’un homme qui semble très âgé, la bouche ouverte, visiblement aux prises avec des forces de l’ordre, à en juger par l’arrière-plan, où on distingue un homme équipé d’une visière mais aussi une silhouette au bras équipé d’une coque de protection.

Mais cette image, également partagée sur Facebook avec la même légende, donne aussi lieu à de nombreuses interrogations. Certains internautes soupçonnent que le cliché aurait été généré par une intelligence artificielle. En effet, ces dernières semaines, plusieurs scènes fictives mettant notamment en scène Donald Trump en prison ou le pape François 1er  en "doudoune" ont circulé sur les réseaux sociaux. Cela a aussi été le cas du président Emmanuel Macron qui a fait l’objet de création de visuels où il se trouve au cœur des manifestations dans un contexte tendu de mobilisation nationale contre la réforme des retraites en France.

Plusieurs éléments laissent en effet penser que l’image de la personne âgée et ensanglantée est aussi une création générée par une intelligence artificielle.

Grâce à une recherche inversée d’image, puis à une recherche de mots-clés, nos confrères de l’AFP ont pu retrouver une occurrence de cette image sur Facebook. Il s’agit d’un plan plus large de l’image que celui retrouvé sur Twitter.

Cette publication, qui est datée du 19 mars, contient la légende suivante : "Ça te fait jouir de faire fracasser les citoyens #Macron ? Ce pauvre retraité qui pense à ses enfants en manifestant pacifiquement ! … Et après certains viendront chialer pour une poubelle en feu ou une vitrine casée ! Partagez pour montrer ce que Macron a fait de notre Démocratie !"

Cette version non rognée – contrairement à la photo virale -, est bien plus détaillée : on y voit le même homme âgé ceinturé par au moins trois hommes casqués. En arrière-plan, on distingue d’autres membres des forces de l’ordre, le regard tourné dans une autre direction, et, encore plus au fond, des arbres devant un immeuble.

En y regardant de plus près, plusieurs éléments ne sont pas cohérents. Par exemple, l’absence notable de signes distinctifs des forces de l’ordre françaises (bandes de couleur sur les casques, insignes sur les uniformes).

Interrogé par l’AFP, l’expert en IA Victor Baissait analyse : "L’image a un grain différent de celui d’une photo : elle a l’air peinte, ce qui est généralement le cas des images générées par IA. Une tache de sang sur la main est bizarre. L’un des casques sur le CRS le plus à gauche, car il semble cassé, avec une partie qui ressort. Le CRS à droite a une visière beaucoup trop longue, il y a une encoche peu réaliste dessus, et elle rentre dans la tête de la personne alors qu’elle n’est pas cassée", pointe ce spécialiste.

Nick Saint-Pierre, un autre expert des IA, remarque de son côté que le tissu du vêtement du vieil homme et celui de l’uniforme du CRS "fusionnent sur l’image", trahissant une création par une machine dotée d’IA.

Un utilisateur de Midjourney, Lionel Mandeix, indique dans un tweet avec des exemples à l’appui, que l’image du vieil homme ensanglanté ressemble fortement à des créations réalisables sur la cinquième version de cette IA.

L’outil en ligne Mayachitra peut aussi fournir des indications concernant l’éventualité qu’une image soit générée par un GAN. Un GAN ou Generative Adversarial Network (réseau antagoniste génératif) est une technique d’intelligence artificielle permettant notamment de créer des imitations d’images. Après avoir chargé le fichier image sur la plateforme, l’outil indique que l’image en question est "probablement générée par un GAN".

Victor Baissait souligne : "C’est une image plutôt réussie à première vue, qui ressemble fortement au style du [générateur d’images par IA] Midjourney. Quand on voit le fond, on sait que l’internaute a très probablement demandé à faire quelque chose qui se passe en France, on reconnaît des caractéristiques de bâtiments français dans des rues où il y a des manifestations."

Nick Saint-Pierre de son côté l’assure : "C’est définitivement une image générée par intelligence artificielle".

Le 31 mars, un homme dénommé Régis Gonzalez, s’est présenté à nos confrères de l’AFP comme l’auteur de cette image, avec des publications Facebook à l’appui.

En effet, comme on peut le voir sur la page Facebook de cet artiste contemporain, cette photo figurait en effet dès le 18 mars dans une publication montrant différentes images générées par IA de manifestants âgés, avec une légende ne laissant planer aucune ambiguïté sur la nature fictive de la scène : "Fakumentary 2043 : Manifestation contre la réforme des retraites à 98 ans (réalisé via intelligence artificielle)".

Régis Gonzalez explique avoir été "prévenu par un copain que l’une de mes images avait été détournée et que ça avait pris des proportions hallucinantes", d’où son message à l’AFP pour rétablir l’origine de ce visuel "sorti de son contexte".

"Ça fait une vingtaine d’années que je travaille sur les images et les fake news. Cette image faisait partie d’un faux documentaire satirique que j’ai réalisé sur MidJourney avec la V5. Il est censé se dérouler en 2043 et montrer une manifestation contre la réforme des retraites à 98 ans. La première image montre un policier s’engueuler avec un vieillard. Puis la manifestation dégénère et ça se finit sur une grand-mère avec une kalachnikov, en train de sourire, et un très vieux CRS qui a la même arme, c’est clairement parodique et satirique", précise l’artiste contemporain, qui s’étonne de la viralité prise par cette image, alors que sa publication initiale comptait moins d’une cinquantaine de partages.

"Curieusement l’IA a dévié, elle a généré des photos de personnes âgées mais elle n’a pas beaucoup de photos de CRS vieux, j’ai eu du mal à obtenir ça" alors que cela faisait partie de ses mots-clés, souligne encore Régis Gonzalez, qui, bien qu’il déplore le détournement de son image, espère que ce cas de figure fasse office d’alerte : "Les autorités compétentes commencent à prendre conscience de l’ampleur du bordel dans lequel on va se trouver pendant 10 ans au moins [avec l’IA]".

"Ce sont des images qui émeuvent car elles sont ancrées dans l’actualité avec le débat autour des violences policières, donc ça paraît crédible, ce qui pousse les gens à retweeter sans questionner", analyse Victor Baissait.

Lors des mobilisations contre la réforme des retraites, gardes à vue arbitraires et brutalités policières ont été dénoncées par des manifestants, des élus (archive) et des organisations de défenses des droits humains, comme récapitulé dans cette dépêche AFP (archive). Plusieurs enquêtes ont été ouvertes et "une centaine de plaintes" ont été déposées à Paris le 31 mars pour dénoncer des "arrestations et détentions arbitraires" dans le cadre de la mobilisation contre la réforme des retraites.

Dans une interview accordée au Journal du Dimanche le 2 avril dernier, le ministre français de l’Intérieur Gérald Darmanin a annoncé que depuis le début du mouvement de contestation de la réforme des retraites dans son pays "36 enquêtes judiciaires" avaient été ouvertes par l’IGPN, "la police des polices", et deux par l’IGGN (l’équivalent pour les gendarmes).

Même si le programme Midjourney est devenu moins accessible car devenu exclusivement réservé aux utilisateurs qui paient, les créations d’images artificielles, comme DALL-E également, n’en sont qu’à leurs débuts et devraient être en mesure de corriger certains détails qui trahissent l’utilisation de l’IA (il s’agit par exemple de doigts ou de dents en surnombre sur certaines images).

Dès lors, distinguer une image "réelle" d’une image totalement fabriquée par une IA risque de devenir de plus en plus complexe à l’avenir. Leur utilisation dans des contextes sensibles, comme celui de violences policières, ne fait qu’augmenter le risque qu’elles circulent davantage et trompent l’opinion publique.