Des Marines de l’armée américaine ont réussi à échapper à une intelligence artificielle du Pentagone en utilisant une simple boite en carton… la révolution des robots n’est probablement pas pour tout de suite.
Le livre qui révèle cette information, Four Battlegrounds : Power in the Age of Artificial Intelligence ("Quatre champs de bataille : le pouvoir à l’ère de l’intelligence artificielle"), devrait sortir le 28 février. Paul Scharre, expert en armes autonomes, raconte dans son livre "la concurrence pour développer et mettre en œuvre des technologies d’intelligence artificielle (IA)".
On y découvre notamment, comme l’explique le Washington Post, comment des soldats américains ont trompé une intelligence artificielle avancée. L’extrait a été partagé par le rédacteur en chef de la défense de The Economist, Shashank Joshi, qui a eu accès au manuscrit avant sa publication (voir plus bas).
L’extrait décrit les robots de pointe de la Defense Advanced Research Projects Agency (DARPA) et comment ils ont été formés pour identifier les humains. Cependant, lors de la phase de tests, les choses ne se sont pas passées comme prévu lorsque deux Marines ont dû essayer d’échapper à l’IA : "Ils ont garé le robot au milieu d’un rond-point et les Marines ont dû s’en approcher sans être détectés depuis une longue distance. Si un Marine arrivait à atteindre le robot et à le toucher sans être détecté, il gagnait." Sur les huit soldats qui ont tenté l’expérience, aucun n’a été détecté en utilisant des techniques peu communes dans l’art du camouflage : se cacher sous une boîte en carton en se marrant, deux en faisant des saltos arrière, un s’est même caché derrière un sapin jusqu’au robot…
"L’IA avait été formée pour détecter les humains qui marchent. Pas les humains qui font des sauts périlleux, se cachent dans une boîte en carton ou se déguisent en arbre. Donc, ces astuces simples, qu’un humain aurait facilement pu percer, étaient suffisantes pour casser l’algorithme."
