« La majorité des algorithmes échappent à un contrôle minimal, alors que leur pouvoir potentiel sur l’exercice même de la démocratie est immense »
Dans sa chronique, Stéphane Foucart relève l’asymétrie frappante entre, d’une part, la chimie de synthèse, soumise à la régulation des pouvoirs publics, et d’autre part, l’algorithmique, pour qui une réglementation reste à écrire.
« La majorité des algorithmes qui pèsent sur les comportements peuvent demeurer des boîtes noires inaccessibles à la curiosité ou à la critique. » KACPER PEMPEL / REUTERS Chronique. Les parallèles sont frappants entre le monde des algorithmes et celui des biotechnologies ou de la chimie de synthèse. Certes, les premiers ne sont que des créations immatérielles, quand les secondes produisent des organismes modifiés ou des substances qui interagissent avec l’environnement et/ou les individus. Mais tous deux sont les fruits d’activités scientifique et technique qui échappent à l’entendement de la majeure partie de l’opinion, donc à la délibération démocratique. Et tous deux peuvent peser, à leur manière, sur les destinées individuelles ou sur l’organisation sociale, sur l’occupation des territoires ou la structuration des économies, et présentent à la fois des bénéfices, mais aussi des risques. Depuis plusieurs années, les progrès de l’algorithmique et l’exploitation de grandes bases de données mettent fréquemment au centre du débat public la question de la régulation de l’intelligence artificielle (IA). En mai 2016, dans l’une des affaires les plus médiatisées, des journalistes de ProPublica ont, par exemple, révélé qu’aux Etats-Unis le logiciel Compas, utilisé par des juges de Floride pour évaluer le risque de récidive de prévenus, était frappé d’un biais défavorisant les Afro-Américains. Les exemples sont innombrables, depuis de tels systèmes locaux d’aide à la décision à des systèmes automatisés de navigation, jusqu’aux algorithmes déployés sur les grandes plates-formes. Entre l’industrie traditionnelle et les géants du numérique, l’asymétrie est frappante. En Europe, au moins, les substances de synthèse sont soumises à l’examen des pouvoirs publics par le biais de la réglementation Reach, les pesticides doivent se plier au règlement 1107/2009. A l’inverse, la majorité des algorithmes qui pèsent sur les comportements, déterminent des actes d’achat, connectent ou déconnectent les catégories sociales et les individus entre eux, classent et hiérarchisent l’information, en bref participent à structurer la société, peuvent demeurer des boîtes noires inaccessibles à la curiosité ou à la critique. Et échapper à un contrôle minimal, alors que le pouvoir potentiel des algorithmes sur l’exercice même de la démocratie est immense. Une expertise d’abord technique Par contraste, mettre sur le marché le moindre produit phytosanitaire, par exemple, requiert la constitution par le pétitionnaire d’un épais dossier réglementaire comportant toutes les propriétés physico-chimiques de la molécule, son mode d’action, la preuve de son efficacité et des preuves suffisantes du caractère acceptable des risques qu’elle fait peser sur les consommateurs, etc. L’Autorité européenne de sécurité des aliments (EFSA) passe en revue ces données, qu’elle est censée soumettre à une analyse critique indépendante, et délivre son avis au pouvoir politique, qui décide in fine de l’autorisation ou du rejet.