Une nouvelle IA étiquette notre visage à partir de selfies et dénonce les aberrations de la reconnaissance faciale

 
 

Une nouvelle IA étiquette notre visage à partir de selfies et dénonce les aberrations de la reconnaissance faciale
 

Ces derniers jours, le projet artistique ImageNet Roulette est devenu viral. Lancé par la fondation ondazione Prada Osservertario de Milan, il veut attirer l'attention sur la manière dont l'IA nous perçoit. 

Vous prenez un screenshot avec votre webcam, et l'IA vous catégorise. Les résultats sont plutôt effrayants.
 

Plus dangereux que Chatroulette ?

Le projet, toujours disponible en ligne, utilise la base de données ImageNet développée à Stanford et Princeton avec laquelle la plupart des IA s'entraînent à catégoriser les images en fonction des caractéristiques qu'elles perçoivent. 

Et lorsque l'on demande à un algorithme, entraîné par cette base, de catégoriser des visages humains, il donne des résultats totalement à côté de la plaque et... vraiment racistes.
 

Alors que faire de ces IA ?

En ouvrant la base de données au public, l'artiste veut alerter sur la stupidité et la dangerosité de la reconnaissance faciale. Et surtout, il veut nous interroger sur la place qu'on veut lui donner dans notre société.

En Chine, la technologie est déjà largement répandue, elle sert même de moyen de paiement. Au UK, la police londonienne avoue l'avoir utilisé à deux reprises lors de manifestations.
 

 The takeaway

Devant la vague de critiques, l'équipe à l'origine d'ImageNet a annoncé qu'elle va supprimer plus de la moitié des 1,2 millions d'images de personnes de sa base. Le projet a donc atteint son but.

Les pouvoirs publics commencent aussi à légiférer sur la question : San Francisco est devenue la première ville américaine à interdire l'utilisation de la reconnaissance faciale.
 

FB | TWTTR | LKDIN