Que contient le règlement européen sur l'intelligence artificielle ?
Article réservé aux abonnés
Par
Romain Haillard
La législation européenne sur l'intelligence artificielle (IA), approuvée ce mercredi par les eurodéputés, ambitionne de favoriser l'innovation dans l'UE, tout en limitant les risques de dérives liés à ces technologies. Concrètement, que prévoit ce règlement sur l'IA ?
Le règlement sur l'intelligence artificielle (IA), voté ce mercredi 13 mars par les eurodéputés, permet de réguler la commercialisation et l'usage de ces outils sur le territoire de l'Union européenne. Les États-membres, la Commission et le Parlement européen ont dû batailler pour trouver un équilibre, entre les opportunités économiques suscitées par l'engouement autour de l'IA et la nécessaire protection des citoyens contre les risques induits par ces outils.
Le texte offre une définition juridique commune aux pays européens pour l'intelligence artificielle. Les systèmes d'IA et leurs usages sont classés selon leurs risques, en matière de libertés publiques notamment. Ces risques sont représentés sous la forme d'une pyramide : avec, à sa base, les usages aux risques considérés comme minimes ; au-dessus, ceux aux risques limités ; puis, les risques qualifiés d'élevés ; et, enfin, tout en haut de la pyramide, les risques inacceptables.
Chacune de ces catégories correspond à une régulation particulière, plus le risque est élevé, plus le régime est strict. Les usages considérés comme « inacceptables » sont interdits et ne peuvent pas connaître d'exceptions. Par exemple, les systèmes de notation basés sur le comportement moral et social d'une personne, comme il peut en exister dans des villes chinoises, seront interdits. L'utilisation d'IA de reconnaissance des émotions employées sur les lieux de travail ou dans les établissements scolaires est aussi prohibée.
Les deepfake, un « risque limité »
D'autres usages, aux risques élevés, feront l'objet d'une autorisation mais sous certaines conditions. La reconnaissance faciale en temps réel, c'est-à-dire la capacité d'un logiciel à identifier une personne dans la rue sur la base d'images de vidéosurveillance, est limitée à certains usages. Elle pourra être employée temporairement pour repérer un individu suspecté d'un crime, notamment dans le cadre d'enquête antiterroriste, mais pas pour des délits mineurs comme les vols. Les fournisseurs devront obtenir un label pour leurs logiciels, faire une déclaration de conformité et l'enregistrer dans une base de données européenne.
Les usages considérés comme à risque limité n'auront qu'un devoir de transparence. Les deepfake, ou hypertrucage, c'est-à-dire la création par IA d'images en tout ou partie synthétiques, vraisemblable mais inauthentique, figurent dans cette catégorie. Ce type d'images créé artificiellement devra mentionner l'origine et la nature du contenu. Les IA considérées comme à risque minime, comme les filtres antipubs, ne feront pas l'objet de restrictions.