« L’explicabilité des algorithmes est-elle un droit fondamental ? »
Il est indispensable de répondre avec discernement à la demande de transparence sur le fonctionnement des algorithmes, affirment, dans une tribune au « Monde », les chercheurs David Bounie et Winston Maxwell.
« Comment répliquer le fonctionnement d’un algorithme qui est en constante évolution ? Comment rendre intelligible le fonctionnement d’un réseau de neurones multicouches ? » BEN MINERS / Ikon Images / Photononstop Tribune. De plus en plus présents dans l’économie mais aussi dans notre vie quotidienne, les algorithmes ne cessent de nous questionner. L’algorithme utilisé pour Parcoursup a défrayé la chronique sur le sujet de la transparence des algorithmes locaux utilisés par les universités pour inscrire les étudiants, et une proposition de loi est annoncée sur le sujet par le Sénat pour rendre obligatoire leur publication. Le débat est ouvert, illustrant la difficulté de concilier la transparence des algorithmes avec d’autres impératifs, tels que le secret des délibérations des équipes pédagogiques. Aujourd’hui, tous domaines confondus, on met régulièrement en cause ces « boîtes noires » dont les décisions se voient accusées d’être biaisées et de discriminer les personnes, volontairement ou involontairement, en fonction de leur genre, de leur origine ethnique, ou encore de leur orientation sexuelle. Si efficacité de l’algorithme de rime pas forcément avec neutralité, il semble nécessaire de comprendre comment il produit un résultat. Article réservé à nos abonnés Lire aussi Thomas Courbe : « La souveraineté numérique est une condition essentielle de notre liberté » Si l’on ne parvient pas à répondre à cette question de l’explicabilité, le développement attendu de l’intelligence artificielle en France et en Europe sera freiné. Les enjeux sont colossaux et dépassent le débat sur la transparence des plates-formes. Les initiatives réglementaires prolifèrent sans nécessairement être coordonnées. Outre la future proposition de loi sur Parcoursup, la déclaration des pays du G20 et de l’Organisation de coopération et de développement économiques (OCDE) prône une explicabilité des algorithmes. Le rapport Villani sur l’intelligence artificielle (« Donner un sens à l’intelligence artificielle », voir lien PDF), le rapport du groupe d’experts de la Commission européenne, le Règlement général de protection des données (RGPD), la loi Lemaire, le nouveau règlement européen Platform to Business… chaque initiative propose une approche différente de l’explicabilité. Rendre la logique générale accessible Derrière l’explicabilité se cachent de multiples interrogations techniques, économiques et juridiques : comment concilier la transparence des algorithmes et le secret des affaires ? Comment permettre l’explicabilité tout en protégeant l’algorithme contre des stratégies de contournement ? Comment répliquer le fonctionnement d’un algorithme qui est en constante évolution ? Comment rendre intelligible le fonctionnement d’un réseau de neurones multicouches ? Les exigences d’explicabilité peuvent-elles nuire à l’innovation et freiner le développement de futurs services numériques ? L’explicabilité est-elle un droit fondamental ?…