Une vidéo truquée de Mark Zuckerberg façon « deepfake » éprouve les limites d’Instagram
Un groupe d’artistes et de communicants fait tenir au patron de Facebook des propos qu’il n’a jamais prononcés, dans une vidéo truquée. Ils l’ont diffusée sur Instagram, qui appartient à Facebook.
Dans une intervention vidéo de quelques secondes circulant sur Instagram depuis vendredi 7 juin, Mark Zuckerberg tient des propos inquiétants sur nos données personnelles : « Quiconque contrôle les données contrôle le futur » lance-t-il. Le patron de Facebook, qui détient Instagram, n’a en réalité jamais prononcé cette phrase : la vidéo est un faux créé de toutes pièces par deux artistes, travaillant en collaboration avec plusieurs agences de communication américaines spécialisées dans la manipulation audio-vidéo. Intelligence artificielle Ce tour de passe-passe n’a pas demandé une débauche de moyens empruntés à l’industrie du cinéma : il repose sur une technologie relativement accessible, basée sur le « deep learning » (une technique d’intelligence artificelle). Lequel permet de modifier une vidéo, en faisant par exemple dire à quelqu’un une phrase qu’il n’a pas prononcée, en reconstituant sa voix. Ou de remplacer un visage par un autre. Lire nos explications : Du porno aux fausses informations, l’intelligence artificielle manipule désormais la vidéo Donald Trump et Barack Obama ont chacun fait l’objet de ce type de manipulation. Le choix de cibler Mark Zuckerberg a cependant une saveur particulière, car la vidéo truquée a été postée sur Instagram, dont il est le patron. Or Facebook et Instagram ont annoncé récemment qu’ils refusaient de bannir les deepfakes. De quoi faire ressentir intimement au patron de Facebook, Instagram et WhatsApp le déplaisir d’être pris pour cible par ce type de manipulation vidéo ? Cela n’était pourtant pas l’intention première de Bill Posters, l’artiste à l’origine de cette vidéo, explique-t-il au Monde : « Notre intention n’était ni de provoquer ni de pousser à l’interdiction des deepfakes sur les réseaux sociaux. Cette œuvre fait partie d’un ensemble plus vaste d’œuvres vidéo, dont plusieurs extraits ont été publiés sur Instagram. Ces vidéos explorent le rôle et le pouvoir de l’industrie de l’influence numérique dans son ensemble. » Facebook forcé de réagir Pourtant, le groupe Facebook a été forcé de réagir à la publication de cette vidéo, pressé par les médias américains. Il faut dire que, le mois dernier, le directeur des politiques publiques de Facebook, Neil Potts, garantissait au Congrès qu’en cas de deepfake visant Mark Zuckerberg, l’entreprise ne supprimerait pas la vidéo. Un représentant de l’entreprise a confirmé au média américain The Verge qu’elle serait maintenue sur Instagram : « Nous traiterons ce contenu de la même manière que tout type de désinformation sur Instagram. Si des fact-checkers indépendants indiquent qu’il s’agit d’un faux, nous le filtrerons pour qu’il n’apparaisse pas dans les zones de recommandation comme Explore, ou dans les pages liées aux hashtags. » Cela dit, le réalisme des deepfakes est encore perfectible. Quand on observe attentivement la vidéo de Mark Zuckerberg, les signes de truquage ne manquent pas. Les yeux du personnage paraissent assez peu vifs, le centre de son visage est étrangement immobile. Et malgré les inquiétudes, pour le moment, les deepfakes ont très peu été utilisés par les groupes de personnes malintentionnées qui tentent de peser sur les élections, par exemple en publiant des nouvelles manipulatrices. Difficile de prédire si les deepfakes finiront par peser sur le débat public, ni dans quelle mesure leur réalisme sera amélioré et leur accès davantage facilité, même si des chercheurs ont déjà présenté un outil simplifiant encore la création de ce type de vidéo – avec une simple vidéo et un texte tapé au clavier. De plus, les deepfakes demeurent assez contraignants à fabriquer. L’intelligence artificielle doit être nourrie avec beaucoup d’extraits vidéo. En outre, des programmes informatiques sont aujourd’hui capables de les repérer automatiquement – Facebook utilise depuis septembre un outil numérique à cet effet. Ce type de vidéo passera donc difficilement sous le radar des fact-checkers, ce qui pourrait gêner les professionnels de la manipulation des informations.