Facebook lance une compétition contre les vidéos « deepfake »
Le réseau social a annoncé le lancement du Deepfake Detection Challenge, qui doit rassembler des entreprises du numérique et des universités dans le but d’« encourager l’industrie » à créer de nouveaux outils de détection des vidéos truquées.
Un extrait de la vidéo Facebook expliquant les technologies « deepfake », dans le cadre de son Deepfake Detection Challenge. Facebook Les vidéos deepfake représentent des risques en termes de diffusion de fausses informations. En offrant à des utilisateurs la possibilité de modifier des visages dans une vidéo ou de transformer les paroles d’une personne à l’écran, ces technologies ouvrent la voie à ce que des images en apparence très crédibles diffusent des faux discours. Si ces technologies deepfake demandent encore quelques connaissances précises et des ressources informatiques pour les appliquer, une application chinoise nommée Zao, qui permet de créer des vidéos deepfake en quelques secondes, a démontré cette semaine qu’elles pourraient bientôt être accessibles au grand public. Face aux risques de diffusion d’infox et de circulation de vidéos truquées, plusieurs grandes entreprises du numérique (dont Facebook, Microsoft et l’alliance Partnership of AI, dont font partie Apple, Google, Amazon, Intel…) et des universités (dont le MIT, l’Université d’Oxford et l’UC Berkeley) ont annoncé, jeudi 5 septembre, un programme commun pour favoriser la recherche et les avancées dans la création d’outils capables de détecter rapidement une vidéo modifiée : le Deepfake Detection Challenge. Une compétition financée par Facebook La communication en a été faite par Facebook, sur son site dédié à ses programmes de recherche en intelligence artificielle. Le directeur technique de Facebook, Mike Schroepfer, y déclare que les technologies deepfake « posent un défi majeur à la légitimité de l’information en ligne. Pourtant, le secteur ne possède pas de base de données ou d’outil de référence pour les détecter », regrette-t-il. « L’objectif de cette initiative est de créer une technologie que tout le monde pourra utiliser pour détecter les vidéos modifiées par des outils d’intelligence artificielle et dont le but est d’induire en erreur les usagers », poursuit-il. Sur son site dédié, Facebook explique notamment qu’il va dépenser dix millions de dollars pour financer cette compétition. « Le Deepfake Detection Challenge comprendra notamment une base de données commune, un classement, des récompenses et des prix, afin d’encourager l’industrie à créer de nouvelles manières d’empêcher que des vidéos manipulées puissent être utilisées pour tromper quelqu’un », précise le réseau social. Facebook va notamment fournir à tous les participants une banque d’images et de données (notamment des vidéos tournées par des acteurs) à partir desquelles ils pourront éprouver leurs logiciels et solutions pour détecter au plus vite qu’une vidéo a été altérée. Ces données, précise Facebook, ne sont pas issues des images des utilisateurs du réseau social, mais ont été spécialement créées pour ce Deepfake Challenge. Une vidéo montrant les images fournies par Facebook a également été diffusée : L’élection américaine de 2020 en vue Pour Facebook, la création d’un nouvel « outil de référence » de détection pourra être essentiel dans l’objectif de limiter rapidement la propagation de vidéos truquées sur sa plateforme. Le Deepfake Detection Challenge est d’ailleurs lancé alors que la campagne pour l’élection présidentielle américaine de 2020 va officiellement commencer dans quelques mois. Lors du précédent scrutin, en 2016, le réseau social avait été investi par de nombreux acteurs, dont des étrangers et, en particulier, des Russes, ayant diffusé des fausses informations dans le but d’influencer le vote des électeurs américains. Après la victoire de Donald Trump et les révélations entourant cette diffusion industrielle de fausses informations, Facebook avait été lourdement critiqué, et même auditionné par les parlementaires américains. Récemment, Facebook avait cependant décidé ne pas retirer de son réseau plusieurs vidéos truquées issues des technologies deepfake, même après leur détection. Sur Instagram, des artistes avaient posté début juin une vidéo deepfake de… Mark Zuckerberg, le patron de Facebook. Cette vidéo lui fait dire qu’il avait volé l’intégralité des donnés des utilisateurs de Facebook grâce à l’organisation secrète Spectre – qui n’existe normalement que dans l’univers fictionnel de James Bond. Instagram, propriété de Facebook, avait indiqué qu’il ne retirerait pas cette vidéo, mais qu’il en dégraderait la visibilité si les partenaires de Facebook en termes de lutte contre la désinformation (dont Le Monde fait partie) la signalaient comme fausse.