{"id":488,"date":"2020-03-11T00:42:58","date_gmt":"2020-03-11T00:42:58","guid":{"rendered":"https:\/\/www.affinite.fr\/index.php\/2020\/03\/11\/ces-chercheurs-ont-ils-trouve-larme-parfaite-contre-les-ia-de-reconnaissance-faciale-en-ligne\/"},"modified":"2020-03-11T00:42:58","modified_gmt":"2020-03-11T00:42:58","slug":"ces-chercheurs-ont-ils-trouve-larme-parfaite-contre-les-ia-de-reconnaissance-faciale-en-ligne","status":"publish","type":"post","link":"http:\/\/www.affinite.fr\/index.php\/2020\/03\/11\/ces-chercheurs-ont-ils-trouve-larme-parfaite-contre-les-ia-de-reconnaissance-faciale-en-ligne\/","title":{"rendered":"Ces chercheurs ont-ils trouv\u00e9 l\u2019arme parfaite contre les IA de reconnaissance faciale en ligne ?"},"content":{"rendered":"

[ad_1]
\n<\/p>\n

\n

L\u2019existence de la soci\u00e9t\u00e9 Clearview AI<\/a> le prouve\u00a0: les photos que nous mettons en ligne sur le Web sont analys\u00e9es \u00e0 notre insu par des algorithmes de reconnaissance faciale, afin de cr\u00e9er d\u2019\u00e9normes bases de donn\u00e9es de visages. Mais des chercheurs de l\u2019universit\u00e9 de Chicago ont peut-\u00eatre trouv\u00e9 une solution contre cette incroyable intrusion dans notre vie priv\u00e9e.
Ils ont d\u00e9velopp\u00e9 \u00ab\u00a0Fawkes\u00a0\u00bb, un syst\u00e8me qui rend les visages non reconnaissables au sein des images, en se contentant de les modifier\u00a0tr\u00e8s l\u00e9g\u00e8rement. Avant de publier une photo sur Web, il suffirait donc de la faire traiter par cette moulinette, pour nous mettre \u00e0\u00a0l\u2019abri des scanners de Clearview AI et consorts.<\/p>\n

Injection d’une erreur imperceptible<\/h3>\n

Comment cela fonctionne-t-il\u00a0? Dans le pass\u00e9, des chercheurs avaient montr\u00e9 qu\u2019il \u00e9tait possible de tromper les algorithmes de reconnaissance d\u2019image en injectant un signal d\u2019erreur relativement faible dans le fichier. L\u2019image r\u00e9sultante n\u2019est alors plus catalogu\u00e9e dans la bonne cat\u00e9gorie\u00a0: un panda devient tout d\u2019un coup un singe, alors qu\u2019il reste parfaitement reconnaissable pour un humain.<\/p>\n

\"\"\/
<\/figure>\n

Les chercheurs de l\u2019universit\u00e9 de Chicago ont pouss\u00e9\u00a0le bouchon un peu plus loin, en cr\u00e9ant un signal d\u2019erreur imperceptible \u00e0 l\u2019\u0153il nu et qui fonctionne avec tous les algorithmes de reconnaissance faciale. Des tests ont ainsi \u00e9t\u00e9 r\u00e9alis\u00e9s avec les trois principaux logiciels disponibles sur le march\u00e9, \u00e0 savoir Microsoft Azure Face, Amazon Rekognition et Face++. Ils ont pu \u00eatre tromp\u00e9s dans 100\u00a0% des cas\u00a0!<\/p>\n

Efficace seulement pour\u00a0les nouveaux Internautes ?<\/h3>\n

Mais il y a aussi un gros\u00a0b\u00e9mol. L\u2019efficacit\u00e9 de Fawkes repose sur le fait que les logiciels de reconnaissance n\u2019ont acc\u00e8s d\u00e8s le d\u00e9part, pour leur entra\u00eenement, qu\u2019\u00e0 des images modifi\u00e9es.
Ainsi, le jour o\u00f9 ces algorithmes entra\u00een\u00e9s tombent sur une image non modifi\u00e9e, la reconnaissance ne se fera pas et l\u2019identit\u00e9 de l\u2019utilisateur sera parfaitement prot\u00e9g\u00e9e.\u00a0
C’est l\u00e0 le hic. Car,\u00a0pour la plupart des utilisateurs, la partie est a priori d\u00e9j\u00e0 perdue, puisqu’ils ont certainement d\u00e9j\u00e0 post\u00e9 des photos, sans intervention de Fawkes. Probl\u00e8me, ces clich\u00e9s\u00a0ne peuvent\u00a0plus \u00eatre modifi\u00e9s. En tout cas, il est certainement trop tard pour le faire.
Or, plus ces photos\u00a0non alt\u00e9r\u00e9es\u00a0sont nombreuses, moins le syst\u00e8me Fawkes sera efficace. Avec une part d\u2019images non prot\u00e9g\u00e9es de 15\u00a0%, le taux de r\u00e9ussite du \u00ab brouillage\u00a0\u00bb tombe \u00e0 seulement 38\u00a0%.<\/p>\n

\"\"\/
\n DR
\n – Principe de Fawkes
\n <\/figcaption><\/figure>\n

Par ailleurs, m\u00eame si l\u2019utilisateur g\u00e8re parfaitement ses publications en ligne, de la premi\u00e8re \u00e0 la derni\u00e8re image, la r\u00e9ussite n\u2019est pas assur\u00e9e \u00e0 terme. En effet, les logiciels de reconnaissance continuent de progresser sans cesse et pourraient donc, un jour, damer le pion au brouillage de Fawkes. Pour rester efficace, ce dernier devra donc \u00eatre am\u00e9lior\u00e9 en permanence.<\/p>\n