Ces chercheurs ont-ils trouvé l’arme parfaite contre les IA de reconnaissance faciale en ligne ?

[ad_1]

L’existence de la société Clearview AI le prouve : les photos que nous mettons en ligne sur le Web sont analysées à notre insu par des algorithmes de reconnaissance faciale, afin de créer d’énormes bases de données de visages. Mais des chercheurs de l’université de Chicago ont peut-être trouvé une solution contre cette incroyable intrusion dans notre vie privée.
Ils ont développé « Fawkes », un système qui rend les visages non reconnaissables au sein des images, en se contentant de les modifier très légèrement. Avant de publier une photo sur Web, il suffirait donc de la faire traiter par cette moulinette, pour nous mettre à l’abri des scanners de Clearview AI et consorts.

Injection d’une erreur imperceptible

Comment cela fonctionne-t-il ? Dans le passé, des chercheurs avaient montré qu’il était possible de tromper les algorithmes de reconnaissance d’image en injectant un signal d’erreur relativement faible dans le fichier. L’image résultante n’est alors plus cataloguée dans la bonne catégorie : un panda devient tout d’un coup un singe, alors qu’il reste parfaitement reconnaissable pour un humain.

Les chercheurs de l’université de Chicago ont poussé le bouchon un peu plus loin, en créant un signal d’erreur imperceptible à l’œil nu et qui fonctionne avec tous les algorithmes de reconnaissance faciale. Des tests ont ainsi été réalisés avec les trois principaux logiciels disponibles sur le marché, à savoir Microsoft Azure Face, Amazon Rekognition et Face++. Ils ont pu être trompés dans 100 % des cas !

Efficace seulement pour les nouveaux Internautes ?

Mais il y a aussi un gros bémol. L’efficacité de Fawkes repose sur le fait que les logiciels de reconnaissance n’ont accès dès le départ, pour leur entraînement, qu’à des images modifiées.
Ainsi, le jour où ces algorithmes entraînés tombent sur une image non modifiée, la reconnaissance ne se fera pas et l’identité de l’utilisateur sera parfaitement protégée. 
C’est là le hic. Car, pour la plupart des utilisateurs, la partie est a priori déjà perdue, puisqu’ils ont certainement déjà posté des photos, sans intervention de Fawkes. Problème, ces clichés ne peuvent plus être modifiés. En tout cas, il est certainement trop tard pour le faire.
Or, plus ces photos non altérées sont nombreuses, moins le système Fawkes sera efficace. Avec une part d’images non protégées de 15 %, le taux de réussite du « brouillage » tombe à seulement 38 %.

Par ailleurs, même si l’utilisateur gère parfaitement ses publications en ligne, de la première à la dernière image, la réussite n’est pas assurée à terme. En effet, les logiciels de reconnaissance continuent de progresser sans cesse et pourraient donc, un jour, damer le pion au brouillage de Fawkes. Pour rester efficace, ce dernier devra donc être amélioré en permanence.

Bref, si elle donne espoir, cette recherche montre également à quel point il est difficile de lutter contre la reconnaissance faciale sur le Web. Si vous voulez vivre heureux ou en tout cas caché, le mieux est encore de ne publier aucune photo.
A noter, enfin, que Fawkes n’est pas le premier système du genre. En 2018, des chercheurs avaient déjà proposé un outil en ligne similaire baptisé EqualAI. Mais son usage est resté assez confidentiel.

Sources : Vice, papier scientifique



[ad_2]

Source link