Algorithmes : « Nous devons créer les conditions d’une intelligence humaine responsable »
L’expert en numérique Guillaume Buffet estime, dans une tribune au « Monde » que l’urgence est de former les codeurs au politique et vice-versa, pour arriver à concilier éthique numérique et régulation.
« Aucune école de formation à la vie publique ou politique ne comprend les enjeux derrière le code » Ingram / Photononstop Tribune. Reconnaissance faciale, assistants vocaux, objets connectés… le déploiement massif des algorithmes dans nos vies interroge quant à leur impact sur l’individu et la société en général. Face à ces dérives déjà avérées et prévisibles des outils numériques au potentiel encore inexploré, le réflexe des Etats est de vouloir élaborer un cadre de régulation. Or, au vu du périmètre à organiser, du flux de données à surveiller et de la vitesse de leur évolution, mettre simplement en place le contrôle du respect des règles s’annonce déjà comme une gageure. En parallèle, de nombreuses personnes appellent de leurs vœux l’émergence de comités d’éthique permettant de guider les futures évolutions du numérique, des algorithmes et de l’intelligence artificielle (IA). Rassembler des experts indépendants, reconnus et profiter de leur recul pour dessiner les contours de ce que la société peut ou ne doit pas admettre, semble un point de départ indispensable. Mais là encore, sans réflexion et consensus globaux, impossible d’imaginer trouver un accord pour un « numérique » au bénéfice de l’intérêt général. Article réservé à nos abonnés Lire aussi La reconnaissance faciale progresse, sous la pression des industriels et des forces de l’ordre De toute évidence, faire évoluer la régulation numérique ou mettre en place une surveillance éthique est comparable au mythe grec des Danaïdes, condamnées à remplir à l’infini un tonneau dont le fond était percé… Mais au-delà de ça, deux autres éléments posent problème : le fonctionnement de la production des données, et la nature même du sujet évalué. Les calculs quasiment à l’infini De fait, le développement de code informatique est réalisé en équipe. Pour corriger des « bugs », améliorer sa propre efficacité, apporter de nouvelles fonctionnalités, s’adapter aux évolutions du matériel ou des systèmes d’exploitation, ce code est en perpétuelle évolution. Dès qu’un membre d’une équipe de développement estime qu’une nouvelle séquence est prête à être intégrée à un programme plus vaste, il en établit la demande, soit au collectif, soit à un individu chargé de la « valider », c’est-à-dire vérifier qu’elle n’a pas d’impact négatif sur le fonctionnement global du programme. Cette opération, appelée « pull request », est quotidienne à tous les développeurs. Or, c’est à chacune de ces étapes que la vérification de « conformité » éthique ou juridique des nouvelles lignes de code devrait être effectuée. On comprend que soumettre chaque évolution à un organisme tiers, tel qu’un comité d’éthique, est inimaginable et mortifère pour l’entreprise. Pire, la nature même du sujet à évaluer - le code – mais aussi l’interprétation de sa destination et de la question de sa documentation le rendent quasiment opaque à tout organe juridique ou éthique étranger à ce monde.