L’IA pourrait créer "des machines à tuer" pour éliminer les humains, selon un ancien directeur de Google

Mo Gawdat occupait le poste de directeur commercial de la branche de recherche et développement futuristes de "Google X" jusqu’en avril 2018.

Cet ancien cadre de Google a déclaré, dans le podcast Secret Leaders, que les machines alimentées par l’intelligence artificielle pourraient un jour considérer les humains comme des "ordures" et pourraient créer des "machines à tuer".

Dans le scénario de Gawdat, l’IA pourrait "générer sa propre puissance informatique et de faire elle-même des installations à l’aide de bras robotiques", explique BusinessInsider.

Selon lui, l’avenir pourrait ressembler à "I, Robot", le film de 2004 où Will Smith se bat contre une armée de robots tueurs dont l’intelligence artificielle a décrété que l’humain était mauvais pour lui-même et qu’il fallait donc le contrôler quitte à l’anéantir.

Est-ce que cette vision de l’humain serait possible pour les IA d'aujourd’hui ? Bien sur que oui d’après Gawdat, principalement à cause de l’accès aux réseaux sociaux qu’à l’IA : "Nous sommes faux sur les réseaux sociaux, nous sommes impolis, nous sommes en colère ou nous mentons sur les réseaux sociaux". Cela ne donne pas la plus belle image de l’humanité…

Un retour en arrière ou un arrêt dans le développement de l’IA serait-il alors possible pour sauver l’humanité ? Non, toujours selon l’ancien directeur de Google, car les entreprises technologiques y sont trop investies financièrement pour faire marche arrière. "Si Google développe l’IA et craint que Facebook ne les batte, ils ne s’arrêteront pas car ils ont la certitude absolue que s’ils s’arrêtent, quelqu’un d’autre ne le fera pas", explique-t-il au micro du podcast, "les États-Unis ne s’arrêteront pas parce qu’ils savent que la Chine développe l’IA."

Mo Gawdat conclut avec une potentielle solution que les gouvernements pourraient mettre en place pour freiner l’emballement de l’IA : "taxez les entreprises qui utilisent l’IA à 98% pour ainsi ralentir leur développement et, en même temps, obtenir assez d’argent pour indemniser toutes les personnes qui seront perturbées par la technologie".