A la rencontre des gars de l’IA
Notre chroniqueuse Guillemette Faure s’est introduite parmi les experts de l’intelligence artificielle réunis à Paris pour un forum.
M Le magazine du Monde Tous les milieux ont leurs imposteurs et ceux qui tentent de les démasquer. Rares sont ceux où cette chasse est aussi présente que le milieu de l’intelligence artificielle (IA). Bidon ou non ? La question se pose d’autant plus fréquemment que chaque jour que Dieu fait, un colloque ou une conférence sur le sujet se tient quelque part. Et, quand des chercheurs en IA se retrouvent, une grande partie de leur attention va à chercher à mesurer à qui ils ont affaire. « Vous travaillez dans quel labo ? » « Avec qui ? » « Avec untel, mais je croyais qu’il ne s’intéressait pas à l’intelligence artificielle face aux émotions… » « Si, si, maintenant, il s’y intéresse… » Récemment, un journaliste ayant contribué à un numéro de Sciences et Avenir consacré au sujet tweetait : « Un numéro garanti 100 % sans Laurent Alexandre [entrepreneur et personnalité médiatique] ni Idriss Aberkane [chercheur et consultant] », et était instantanément retweeté par d’autres passionnés. La semaine dernière, la crème de la recherche était rassemblée au Global Forum on AI for Humanity à Paris. Quand ces scientifiques parlent d’avenir, la fracture ne se situe pas entre ceux s’exclamant que « c’est génial » et ceux évoquant des dystopies dans lesquelles des machines prennent le contrôle sur les humains, mais entre ceux redoutant les dégâts d’une IA forte qui tourne mal (vision Bill Gates) et ceux craignant les dégâts causés par une IA pas si sophistiquée (celle de maintenant) mise entre les mains de n’importe qui sans transparence ni contrôle. « Y réfléchir n’est pas une question d’éthique mais de sécurité, un peu comme pour la construction des ponts », indiquait Stuart Russell, auteur de Human Compatible : Artificial Intelligence and the Problem of Control (Viking, non traduit) et professeur à l’université de Berkeley. A quoi on les reconnaît Si quelqu’un porte un costume impeccable, c’est sans doute celui qui a été propulsé responsable de l’intelligence artificielle dans un ministère ou une institution. Si quelqu’un porte un K-way ou une barbe hirsute, c’est probablement un puits de science, comme Marc Schoenauer, directeur de recherche à l’Inria. Si quelqu’un porte une araignée à la boutonnière, c’est probablement Cédric Villani, qui n’a jamais travaillé dans le secteur mais que ses anciens confrères en mathématiques connaissent pour ses travaux sur le transport optimal. Et si quelqu’un porte un col romain, c’est le frère Éric Salobir, un dominicain qui dirige un think tank catholique s’intéressant à la tech. Etre spécialiste de l’IA n’empêche pas d’avoir un comportement d’humain. De temps en temps, quelqu’un est quelqu’une. « Les conférences sur l’intelligence artificielle sont un des rares endroits où la file d’attente pour les toilettes est plus longue côté hommes que côté femmes », m’a fait remarquer une chercheuse alors que nous nous lavions les mains. La « crise de la diversité », selon l’expression de Kate Crawford, professeure à l’université de New York, fait partie des sujets qui tracasse le secteur. « Quatre-vingt-dix pour cent des profs d’intelligence artificielle sont des hommes. Ce n’est pas un problème technique, c’est une industrie qui reproduit une perception biaisée du monde… » La chercheuse Laurence Devillers voudrait qu’on lui explique pourquoi les assistants vocaux ont tous des voix de femmes et s’appellent Alexa, Sophia ou Samantha. Etre spécialiste de l’IA n’empêche pas d’avoir un comportement d’humain. En conférence, les chercheurs aussi sont en retard le dernier jour, répondent à leurs e-mails pendant les discours des ministres et prennent trop de viennoiseries aux pauses-café. Comment ils parlent « Comment un système d’intelligence artificielle peut-il éviter de faire du tort s’il ne sait pas ce qui fait du tort ? » « Amazon a mis deux ans à se rendre compte que, si son système d’analyse des CV ne faisait remonter que des CV masculins, c’est parce qu’ils avaient mis en référence d’embauches réussies les premières embauches, des hommes à 80 %. » « Les assistants vocaux ne sont ni régulés ni évalués. » « Le piège sur ces questions, c’est l’argument de la concurrence, se dire « oui, il y a des problèmes éthiques, mais si on ne le fait pas, les Chinois le feront… » » « On s’occupe trop des tuyaux mais pas assez de la structure du pouvoir. » « Même nous, ici, dans cette communauté, on a nos biais, par exemple dans la façon dont on parle de la Chine. » « Si vous restez sur des rails, vous ne réussirez pas. Personne ne réussit en restant sur les rails. » « On raisonne comme des ingénieurs en se demandant comment régler tel ou tel problème de l’intelligence artificielle, mais on ne réfléchit pas au-delà. Quel est l’impact social qui va avec le sentiment de perdre le pouvoir sur le monde qui nous entoure ? » Article réservé à nos abonnés Lire aussi Comment les Etats-Unis veulent « développer l’IA à grande échelle » Leurs poncifs Il faut encourager l’intelligence artificielle, mais une IA responsable. Il faut être vigilant. Mais il faut l’encourager. Mais il faut être vigilant. Leurs questions existentielles Où va-t-on trouver des profs de maths pour les universités maintenant que tous les étudiants en maths se font financer leur thèse par des grandes entreprises ? Quand la respectée Kate Crawford, de l’université de New York, travaille aussi pour Microsoft, quand Joëlle Pineau, professeure à l’université McGill, consacre l’essentiel de son temps à Facebook, peut-on reprocher aux meilleurs d’aller travailler pour des géants du privé qui leur donnent tous les moyens ? Quel impact cela va-t-il avoir sur la recherche en IA ? Leur graal Enchaîner une grande école, un excellent master en machine learning de type MVA, une thèse en IA dans un bon laboratoire et atterrir avec un salaire prodigieux chez Google ou Facebook. La faute de goût Nommer la conférence Global Forum on AI for Humanity et se rendre compte qu’il n’y a ni Africains ni Chinois.