Gaspard Kœnig : « Il faut que chacun puisse choisir les données qu’il livre aux systèmes d’IA »
L’essayiste et romancier signe « La Fin de l’individu », enquête sur les risques liberticides attachés à l’intelligence artificielle.
« La Fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle », de Gaspard Kœnig, L’Observatoire, « De facto », 400 p., 19 €. Gaspard Kœnig, essayiste, romancier, ­enseigne la philosophie à Sciences Po Paris et préside le think tank libéral ­Génération libre. La Fin de l’individu, qui vient de paraître, est, ­entre théorie et reportage, le fruit d’une enquête dans les lieux où s’élaborent l’intelligence artificielle (IA) et, avec elle, un avenir possible. Article réservé à nos abonnés Lire aussi Essais. L’humain dans le miroir de l’intelligence artificielle Quelle idée aviez-vous de l’IA avant de vous lancer ? J’ai d’abord été porté par ma technophilie, mon goût de l’innovation, des entreprises qui « disruptent » : j’avais envie de voir de plus près comment se développent ces technologies – celles, en un mot, qui mettent en œuvre le machine learning, la capacité, pour les systèmes informatiques, d’apprendre par eux-mêmes. Et puis, j’ai été frappé par ce qu’écrit Yuval Noah Harari dans Homo deus [Albin Michel, 2017] sur la destruction progressive du libéralisme par l’IA, qui ­remet en cause l’idée d’un individu autonome, responsable de ses choix. Il le dit de manière très simple, sans chercher de solutions. J’ai décidé d’aller vérifier, et de ­réfléchir à ce qu’on pouvait faire avec ça. Article réservé à nos abonnés Lire aussi Les échanges de données sensibles entre pays peuvent avoir « des conséquences sur la vie privée des Français » Vous commencez par mettre à bas des fantasmes, qui font rire la plupart de vos interlocuteurs : non, l’IA ne tend pas à égaler le cerveau humain, non, une super-IA ne prendra pas un jour le ­pouvoir… Qu’y a-t-il encore à redouter ? Tout le reste ! Le problème n’est pas théorique, mais pratique : il tient aux applications industrielles de l’IA. Ce que j’observe, c’est une conjonction entre le monde technologique et les travaux de certains psychologues, comme Daniel Kahneman, qui rejettent, avec de bonnes raisons, fondées sur l’étude des biais cognitifs, l’idée de libre arbitre. A l’aide des neurosciences, on arrive à tracer le chemin d’une décision dans le cerveau, et même à l’anticiper avant que le sujet en soit ­conscient. L’individu devient mani­pulable, et toute la question est ­d’apprendre à le manipuler pour son bien. C’est là que l’IA intervient. Elle fournit les instruments de cette manipulation « bienveillante ». Est-ce que ce modèle n’est pas le signe d’une contradiction interne au libéralisme ? Ce que vous décrivez comme un ­risque pour la liberté est le produit du libre marché… Bien sûr. D’ailleurs, beaucoup de libéraux n’ont rien à redire à tout cela : ce n’est pas l’Etat qui s’en est occupé, tout va bien. En fait, ces débats me permettent d’affiner mon ­appartenance. Je suis libéral, mais du côté de John Stuart Mill [1806-1873], voire de Pierre-Joseph Proudhon [1809-1865], ­contre l’utilitarisme de Jeremy Bentham [1748-1832], qui domine aujourd’hui dans la ­Silicon Valley – le principe d’une maximisation des plaisirs du plus grand nombre par rapport à leurs peines. Mill, qui était un ­disciple de ­Bentham, a fini par contester sa manière d’évaluer plaisirs et peines de manière uniforme. A ses yeux, chacun doit pouvoir développer sa propre conception de la valeur, même à tort. La liberté peut être erratique. Ce qui compte, c’est que l’individu soit le plus complet et singulier possible. D’où sa défense de la liberté d’expression, des minorités, ­contre le primat benthamien de la norme collective.