Pour mieux détecter les tueries en direct, Facebook équipe des policiers de caméras
Après l’attentat de Christchurch, retransmis en direct par son auteur sur Facebook, le réseau social veut développer un programme capable de reconnaître ce type d’images.
L’outil Facebook Live a plusieurs fois été utilisé pour retransmettre des scènes sordides. DADO RUVIC / REUTERS Vendredi 15 mars 2019. Un homme ouvre le feu dans une mosquée, puis une autre, de Christchurch, en Nouvelle-Zélande, tuant 51 personnes. Leur mort est retransmise en direct sur Facebook : le terroriste a pris soin de filmer son massacre en utilisant l’outil Facebook Live. Les images, insoutenables, seront diffusées pendant dix-sept minutes sans entrave. Comment une plate-forme aussi puissante que Facebook a-t-elle pu manquer de détecter cette scène ? Une partie de l’explication repose sur l’incapacité actuelle des systèmes automatisés de reconnaissance d’image à identifier une tuerie. S’ils savent aujourd’hui reconnaître des animaux, des objets ou détecter des images pornographiques, une vidéo comme celle filmée ce jour-là soulève certaines difficultés. Et notamment celle, pour un programme informatique, de « comprendre » qu’il s’agit d’une tuerie. Et, ensuite, d’établir qu’il s’agit d’images réelles, et non d’un extrait de film ou de jeu vidéo. Lire aussi Intelligence artificielle : ce que voient les machines C’est pour répondre à ce défi technique que Facebook a fait appel à la police britannique, rapporte le Guardian mardi 17 septembre. A partir du mois prochain, l’entreprise va équiper de caméras les agents participant à des séances d’entraînement au tir. Objectif : obtenir suffisamment de vidéos de tirs, filmées du point de vue du tireur, pour « entraîner » sa technologie de reconnaissance d’image à identifier ce type de séquence. Cette technologie, basée sur l’intelligence artificielle, a en effet besoin d’un grand nombre de données (des images de tuerie) pour « apprendre » à en détecter de nouvelles qui pourraient y ressembler. La police, qui s’entraîne régulièrement à répondre à des prises d’otages ou des attentats, va donc fournir ces données à Facebook, grâce à des caméras de corps. « Eviter la glorification de ce type d’action » « La technologie que Facebook veut créer pourrait aider à identifier très rapidement des attaques par arme à feu, et potentiellement aider la police, partout dans le monde, à intervenir », a déclaré Neil Basu, le responsable de la police londonienne, dans les colonnes du Guardian. « Une technologie capable d’interrompre automatiquement la diffusion d’attaques en direct contribuerait aussi grandement à éviter la glorification de ce type d’action et la promotion des idéologies néfastes qui en sont à l’origine. » Depuis son ouverture à tous les utilisateurs, en 2016, Facebook Live, a plusieurs fois permis la diffusion de contenus sordides, comme des meurtres, des suicides, des viols ou des tortures. Alors que Facebook a considérablement accru depuis ses moyens de modération des contenus, les vidéos en direct échappent encore souvent à ses équipes. Après l’attentat de Christchurch, Facebook avait annoncé une restriction de l’accès à Facebook Live à toute personne qui aurait enfreint les « politiques les plus sensibles » du réseau social. Et avait promis d’investir dans la recherche afin de détecter automatiquement les copies modifiées de ces vidéos, qui dans le cas de Christchurch ont largement circulé après la fin de la diffusion en direct. Lire aussi Ce que prévoit Facebook pour limiter la diffusion en direct d’images terroristes