A peine lancée, l’application de vidéos « deepfake » Zao suscite des inquiétudes
Développée et sortie en Chine, cette application permettant de remplacer un visage dans une vidéo par un autre a rapidement connu un énorme succès. Mais elle est aussi sévèrement critiquée.
Allan Xia n’en revient pas. Après avoir téléchargé l’application chinoise Zao par curiosité, ce développeur néo-zélandais s’est transformé en Leonardo DiCaprio en huit secondes. Plus exactement, l’application a apposé son visage, à partir d’une simple photo de lui, sur des extraits de films où apparaît l’acteur américain. Le résultat est impressionnant. In case you haven't heard, #ZAO is a Chinese app which completely blew up since Friday. Best application of 'Deepfa… https://t.co/coCva4fIiw — AllanXia (@Allan Xia) Ce Tweet d’Allan Xia a généré des dizaines de milliers de réactions, augmentant d’un cran supplémentaire la popularité éclair de cette toute nouvelle application. Du « deepfake » facile Zao a été mise en ligne vendredi 30 août par Momo, une entreprise chinoise cotée en Bourse qui édite également une des applications de rencontre les plus populaires de Chine. Sa promesse : remplacer les protagonistes de vidéos célèbres (extraits de films ou de clips par exemple) par les utilisateurs qui envoient une photographie en portrait d’eux. Le procédé, basé sur une technologie d’intelligence artificielle, est bien connu depuis 2017, popularisé sous le nom de « deepfake ». Il fait l’objet d’inquiétudes : il a notamment été utilisé pour remplacer le visage d’actrices pornographiques par celui d’autres femmes, et peut potentiellement être utilisé pour créer de fausses informations, en modifiant des images de politiciens par exemple. Nos explications sur les « deepfakes » : Du porno aux fausses informations, l’intelligence artificielle manipule désormais la vidéo La capacité de créer des vidéos « deepfake » n’avait jusqu’ici jamais été proposée aussi facilement que dans l’interface de Zao. Il suffit à l’application d’une photo (ou une petite vidéo de son visage, afin d’obtenir un meilleur effet) pour remplacer le visage d’un acteur en quelques secondes. Et d’un clic pour partager le résultat, forcément amusant, sur les réseaux sociaux. A l’heure actuelle, Zao reste encore très limitée : il n’est possible de modifier que les extraits vidéo proposés directement par l’application. Elle n’est du reste disponible qu’en chinois pour le moment (et seuls les numéros de téléphone chinois et de huit autres nationalités permettent de se créer un compte). Mais chaque nouvelle vidéo convaincante créée avec Zao fait le tour des réseaux sociaux. Chinese viral deepfakes app #ZAO Clip of myself as Sheldon generated in a few seconds from a single picture. https://t.co/JI7MqWUDu6 — mbrennanchina (@Matthew Brennan) Sa facilité d’usage a relancé les inquiétudes liées aux « deepfake », alimentant les craintes d’une utilisation future massive, notamment à des fins de manipulation de l’opinion – même si cela ne s’est pas encore produit pour l’instant. Inquiétudes sur les données personnelles Le grand succès qu’a immédiatement connu Zao en Chine, dès son lancement, a provoqué cependant d’autres types de remous. Le site spécialisé sur le numérique TechCrunch rapporte ainsi que l’énorme plate-forme chinoise WeChat a sanctionné Zao. Si un utilisateur publie par exemple un lien vers l’application, un message s’affiche, empêchant d’accéder à son contenu : « Cette page Web a été signalée à de multiples reprises comme représentant des risques pour la sécurité. Afin de maintenir un environnement sain en ligne, l’accès à cette page a été bloqué. » Un coup dur pour Zao, étant donné l’immense popularité de WeChat en Chine. La plate-forme ne précise pas davantage les raisons de ce blocage, mais plusieurs inquiétudes ont été soulevées ces derniers jours. A commencer par les conditions d’utilisation de l’application : à son lancement, elles précisaient que Zao était entièrement propriétaire de tous les contenus qui lui étaient envoyés et qui étaient créés par son intermédiaire. Et qu’elle disposait, à leur égard, de droits « entièrement gratuits, irrévocables, perpétuels, transférables ». L’information s’est rapidement répandue et lui a valu de nombreuses critiques, y compris des notes désastreuses sur l’App Store – bien que ce genre de conditions soit courant dans l’industrie. L’entreprise a rapidement réagi et modifié les termes de son règlement, indiquant désormais que les contenus des utilisateurs seraient uniquement utilisés pour améliorer l’application, et que tous les contenus supprimés par les utilisateurs le seraient également de ses serveurs. Base de données de visages Ces craintes rappellent celles suscitées par l’application russe à succès FaceApp, qui permet notamment aux utilisateurs de découvrir une version « vieillie » d’eux-mêmes à partir d’un simple selfie. Dans les deux cas, l’origine des applications, chinoise et russe, alimente aussi des inquiétudes sur la création de bases de données de visages à d’autres fins que le divertissement, notamment à destination des autorités – mais sans qu’elles soient fondées sur des preuves. Dans les colonnes du magazine Wired, le spécialiste du secteur technologique chinois Matthew Brennan estime peu probable que son objectif soit de collecter les données des visages des Chinois. « Il y a des moyens bien plus simples de récupérer ces données. Vous pourriez les obtenir sur Weibo [un énorme réseau social chinois]. Qui plus est, comme pour la plupart des applications, la fabriquer demande énormément d’efforts, sans aucune garantie qu’elle ne devienne virale. » Le Français Baptiste Robert, chercheur en sécurité informatique qui a décortiqué le fonctionnement de l’application, met tout de même en garde les utilisateurs potentiels. « Il est marqué noir sur blanc dans leur règlement que si les autorités chinoises demandent les données, ils les donneront. On a donc une application chinoise qui collecte des visages, et qui n’hésitera pas à les donner aux autorités chinoises. On peut se poser des questions. » Capture d’écran de la présentation de Zao sur l’AppStore d’Apple. Zao Toutefois, tient-il à souligner, le cas de Zao n’est pas si différent d’autres applications très populaires, comme Facebook par exemple. « Il ne faut pas se leurrer : les autorités américaines vont aussi taper dans les données des entreprises comme Facebook, Twitter, etc. Ces inquiétudes autour de Zao ont du bon : ça amène un débat sur l’importance des données. Aujourd’hui il y a Zao, hier il y avait FaceApp et avant cela, Facebook, Twitter… Cela fait des années que vous offrez vos données sans réfléchir à l’utilisation qui en est faite derrière. C’est un débat, une prise de conscience qu’il faut avoir. » Et pour cela, l’application Zao est particulièrement efficace, estime-t-il, grâce à son « effet wow ». Elle permet de prendre conscience qu’avec un simple selfie, il est possible de manipuler des vidéos, et de se retrouver dans une vidéo pornographique trafiquée ; ou de nourrir des bases de données de visages à l’autre bout du monde, à l’usage incertain.