RTBFPasser au contenu
Rechercher

Voyages

Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle

Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle.
14 déc. 2019 à 17:00Temps de lecture1 min
Par RTBF TENDANCE avec AFP

Le AI Now Institute de l'université de New York (NYU) met en avant les premières conséquences négatives des technologies dites d'intelligence artificielle, de plus en plus présentes dans la vie quotidienne.

Trop rapide et pas assez contrôlé

Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle.
Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle. ipopba - Getty Images/iStockphoto

Des systèmes d'IA (collectes et analyses de données à grande échelle, automatisation des processus, apprentissage autonome des machines...) sont mis en place dans des secteurs comme la santé, l'éducation, le recrutement ou encore la justice "sans garde-fous ni structures de contrôles appropriés", estiment les chercheurs.

La reconnaissance faciale, déjà très répandue, et la reconnaissance émotionnelle par des machines, plus balbutiante, sont déployées beaucoup trop vite.

Les gouvernements et entreprises devraient arrêter d'utiliser la reconnaissance faciale "dans des contextes sociaux et politiques sensibles", jusqu'à ce que les risques soient mieux compris, préconisent-ils.

Identification des émotions?

Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle.
Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle. Maksim Tkachenko - Getty Images/iStockphoto

L'identification des émotions par des machines devrait tout simplement être interdite, sachant les incertitudes sur cette technologie.

"Elle ne devrait pas jouer un rôle dans les décisions importantes que prennent les humains: entretiens d'embauche, consultations médicales, rendez-vous avec un assureur, évaluation des élèves à l'école..."

Les universitaires plaident en outre pour que les ingénieurs et développeurs soient mieux informés sur les implications et possibles conséquences des appareils et programmes qu'ils conçoivent.

Stéréotypes et discrimination

Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle.
Inégalités, préjugés: des chercheurs appellent à réguler l'intelligence artificielle. ipopba - Getty Images/iStockphoto

Ils évoquent enfin le problème de la reproduction des préjugés par les technologies d'IA, qui peuvent renforcer le racisme ou le manque de diversité.

Si un algorithme de recrutement se fonde sur les données existantes, il risque de déduire, par exemple, que les infirmiers doivent être des infirmières, et les cadres techniques des hommes blancs de 40-50 ans.

Tout dépend donc de la façon dont ces algorithmes sont conçus, et par qui. "L'industrie de l'IA est terriblement homogène", déplore l'étude.

Sur le même sujet

Avec ou sans masque, les outils de reconnaissance faciale n'auront aucun mal à vous identifier

High tech

Dubaï lance la reconnaissance faciale dans les transports

Voyages

Articles recommandés pour vous