Une expo à New York alerte sur les dangers de désinformation liés au "deepfakes"

"Ce soir, chaque être humain qui regardera la Lune saura que l’humanité est maintenant présente à jamais dans un autre monde". C’est en ces mots que Richard Nixon conclut son discours suite à la mission Apollo 11. Sauf que le président américain ne l’a jamais prononcé : il l’avait écrit au cas où Neil Armstrong et Buzz Aldrin ne revenaient pas de la Lune.

Une vidéo de six minutes, co-réalisée par Francesca Panetta et Halsey Burgund, peut toutefois nous donner l’impression inverse. Elle s’intègre dans l’exposition "Deepfake : Unstable Evidence on Screen" du Museum of the Moving Image à New York. Les visiteurs peuvent la découvrir dans une installation reproduisant un salon américain dans les années 70. Le but ? Montrer à quel point les images peuvent être facilement manipulées.

A première vue pourtant, la vidéo de Richard Nixon est criante de réalisme. On reconnaît son visage, ses expressions et sa voix. Il faut y regarder de plus près pour se rendre compte que ses traits sont un peu trop figés et son élocution un peu… robotique. Cette vidéo trafiquée est ce que l’on appelle un deepfake. Le visage d’un acteur y a été remplacé par celui du 37ème président des États-Unis.

D’autres vidéos circulant sur Internet ont été truquées grâce à l’intelligence artificielle à des fins de divertissement ou de désinformation. Certaines d’entre elles en lien avec la guerre hispano-américaine et l’assassinat de J.F. Kennedy sont incluses dans l’exposition "Deepfake : Unstable Evidence on Screen".

Si la grande majorité des "deepfakes" en circulation sont pornographiques, cette technologie de photomontage inquiète quant à sa potentielle utilisation pour manipuler l’opinion. "Les images animées sont plus que jamais susceptibles d’être manipulées, ce qui rend difficile de distinguer la réalité de la fiction et la vérité de l’illusion", a déclaré le Museum of the Moving Image.

"Les deepfakes sont entrés dans l’écosystème de l’image en mouvement à un moment particulièrement vulnérable : les réseaux sociaux permettent à toute vidéo d’être partagée largement et immédiatement, et d’être crue ou contestée en fonction de points de vue bien établis".

Face à l’ampleur du phénomène, plusieurs équipes de recherche travaillent depuis des années à la mise au point de logiciels détectant les "deepfakes". Les géants de la Silicon Valley se penchent également sur la question. Des scientifiques de Facebook ont ainsi présenté en juin 2021 une méthode qui devrait permettre d’identifier les "deepfakes" et de déterminer leur origine, grâce à l’intelligence artificielle. D’ici là, les visiteurs du Museum of the Moving Image peuvent se familiariser avec cette technologie jusqu’au 15 mai prochain.