Facebook a créé un système pour déjouer la reconnaissance faciale
source
Le laboratoire de Facebook AI Research (FAIR) basé en Israël a développé un système de machine learning capable de "désidentifier" des individus dans des vidéos, trompant les systèmes de reconnaissance faciale les plus élaborés. Il s'agit d'une première, les précédents systèmes se limitant à la désidentification dans les photos.
DÉFORMER JUSTE ASSEZ LES VISAGES POUR TROMPER LES MACHINES
Le système de Facebook crée à la fois un rendu du visage et un masque à lui superposer, de manière un peu similaire à l'application Face Swap, qui intervertit des visages. La différence est qu'ils sont ici simplement déformés, suffisamment pour tromper les systèmes informatiques mais en restant identifiables par des humains.
Pour ce faire, le groupe a combiné un auto-encodeur et un classificateur d’images. "L’outil qui en résulte parvient à rendre difficile l’identification de personnes par le biais de la reconnaissance faciale… et peut également être utilisé pour masquer une voix ou un comportement en ligne, par exemple", a expliqué à nos confrères du site VentureBeat Lior Wolf, professeur à l’université de Tel-Aviv et ingénieur au FAIR.
UNE MODIFICATION EN TEMPS RÉEL
Le modèle mis au point par FAIR permet de modifier les visages en temps réel, même dans les vidéos en direct. "La reconnaissance faciale peut conduire à une entrave dans nos libertés individuelles. La technologie de remplacement de visages peut, elle, être détournée pour créer des vidéos trompeuses[ce qu’on appelle des deepfakes, N.D.L.R.], détaillent les chercheurs. Divers événements, survenus dans le monde entier ces derniers mois, renforcent la nécessité d’appréhender les méthodes de désidentification."
