La reconnaissance faciale n’est pas sans intérêt, bien au contraire. Elle offre un excellent système de sécurité pour nos smartphones et nos différents appareils compatibles, elle permet de traquer des criminels et propose entre autres des applications médicales prometteuses, notamment dans la détection de signes avant-coureurs de maladies neurodégénératives sur les visages des patients.
Néanmoins, la reconnaissance faciale, c’est aussi une sacrée menace pour notre vie privée et nos données personnelles. Dans cette optique, l’Université de Chicago a développé un outil appelé Fawkes (comme Guy Fawkes qui a inspiré le masque des Anonymous).
Ce logiciel, assisté par une IA développé pour l’occasion, est capable de retoucher nos photos de manière incroyablement subtile, de sorte à berner la quasi-totalité des algorithmes de reconnaissance faciale.
Détourner l’attention des algorithmes
En vérité, le but de la manœuvre est d’abreuver ses algorithmes avec des données contradictoires. Pour rappel, tous les systèmes de reconnaissance faciale se basent sur les milliards et milliards de photos disponibles sur le Net.
Comme l’expliquent les chercheurs, il suffit que l’un de ses algorithmes absorbe une de vos photos modifiées par Fawkes, pour fausser tout le processus. En effet, l’algorithme va associer cette photo truquée à votre identité, tandis que votre « vrai » visage ne sera jamais connu et enregistré.
Les résultats avant et après le passage de Fawkes. Les différences sont imperceptibles à l’œil nu.
C’est en quelque sorte une diversion, on montre à l’IA ce qu’elle veut voir, sans toutefois lui donner réellement. Et autant dire que Fawkes se montre redoutable. Les chercheurs ont procédé à quelques tests sur les algorithmes de reconnaissance faciale employés par les géants du web.
Amazon Rekognition, Azure Face de Microsoft, Face++, ils ont tous été bernés. Comme le précise le professeur Ben Zhao, « une fois que cette corruption (NDLR : des photos) a eu lieu, vous êtes continuellement protégé, où que vous alliez ».
Un impact minime à moins que…
Seule ombre au tableau, pour être réellement efficace, il est impératif que Fawkes soit utilisé massivement. La solution miracle viendrait du côté d’une intégration par défaut dans une appli ou un réseau social populaire comme Instagram, Facebook, TikTok ou Tinder.
En effet, plus d’images truquées par Fawkes se retrouveront sur Internet, et plus les algorithmes des systèmes de reconnaissance faciale seront faussés. Seulement, il sera probablement très difficile de convaincre ces géants du Web d’adopter ce système, qui va à l’encontre même de leur modèle économique…
Source : Journal du Geek
