« Les étudiants en sciences manquent d’outils pour penser l’impact des technologies »
Les ingénieurs et scientifiques qui conçoivent et utilisent les technologies de notre quotidien n’ont pas de vision du modèle de société qu’ils veulent créer, estime l’anthropologue du numérique Rahaf Harfoush.
Rahaf Harfoush, anthropologue du numérique, participe à la chaire « Good in Tech », lancée début septembre par l’Institut Mines-Telecom Business School et Sciences Po. Ce projet de recherche vise à repenser l’innovation et la technologie comme « moteurs d’un monde meilleur, pour et par l’humain ». Vous commencez souvent vos conférences par l’histoire de deux amis ingénieurs, Roman et Eugenia. Lorsque Roman meurt dans un accident de voiture, Eugenia, spécialiste de l’intelligence artificielle, rassemble toutes ses traces numériques – e-mails, sms, etc. – et crée un algorithme pour les transformer en « chatbots ». Qu’est-ce que cela illustre ? D’abord, ceci est une histoire vraie. Aux Etats-Unis, certaines entreprises proposent aux familles de conserver l’identité numérique de leurs proches après leur mort avec diverses applications possibles, comme la création de chatbots (robots conversationnels). J’utilise l’exemple de Roman et Eugenia car la mort est un moment émotionnel incontournable dans une vie humaine et cela attire immédiatement l’attention de mon auditoire. Evoquer ce moment émotionnel me permet de questionner le lien que nous avons avec la technologie. Cet exemple illustre de façon extrême comment celle-ci influence notre façon de porter le deuil, et comment elle a influencé tous les autres domaines de nos vies : notre façon de manger, d’aimer ou de voter. Article réservé à nos abonnés Lire aussi Replika, le double d’un défunt dans une appli mobile Quel regard portez-vous sur la formation de ceux qui conçoivent ces technologies ? De manière générale, je trouve que les étudiants en sciences ont des compétences techniques de haut niveau, mais qu’ils manquent d’outils issus des sciences humaines ou sociales – anthropologie, sociologie, psychologie, philosophie – pour réfléchir à la technologie et à son impact. Quelle société veut-on créer ? C’est la première question qu’il faudrait se poser avant de se demander ce qu’il est possible de créer techniquement, et quels marchés peuvent en découler. Comment définit-on l’innovation ? Doit-elle être durable, inclusive, éthique ? Vous prenez l’exemple du filtre « couronne de fleurs » de Snapchat [un filtre qui embellit le visage sur un selfie]… Ce filtre, très apprécié par les jeunes, semble parfaitement inoffensif, mais il est en fait le révélateur d’une vision « biaisée » de la beauté. En réalité, quand vous appliquez ce filtre à votre selfie, la photo en ressort transformée : la peau est plus blanche, le menton plus fin, les yeux plus grands, les pommettes plus hautes. En somme, c’est un algorithme qui code une vision de la beauté « caucasienne ». Quel est l’impact de ce filtre sur l’estime de soi, comment modifie-t-il l’image de soi ? Ce sont des questions qui n’ont pas été posées avant sa conception. Autre exemple : le filtre « journée de la femme », qui utilise le visage de Marie Curie, la célèbre physicienne et chimiste. Ce que l’utilisateur de Snapchat retient de ce visage, c’est son maquillage des yeux très accentué. Qu’est-ce que cela dit de la vision de la femme ? De la femme scientifique ? Voilà le genre de questions qui devraient avoir leur place dans les écoles d’ingénieurs. Article réservé à nos abonnés Lire aussi La vie privée serait-elle une parenthèse dans l’histoire de l’humanité ? Vous montrez ainsi à vos étudiants que, derrière chaque technologie, il y a une certaine vision de la société… Je leur rappelle souvent que la technologie n’est pas une abstraction. Derrière ces grandes entreprises de la tech comme Facebook, Google, Twitter, Amazon, il y a des hommes, des femmes – le plus souvent des hommes d’ailleurs – qui ont des opinions et donc des biais. Facebook veut « connecter » chaque personne dans le monde. Mais quel est le sens de ce projet ? Sommes-nous obligés d’être en accord avec cette vision ? L’anthropologue britannique Robin Dunbar, dans les années 90, rappelait que le cerveau humain pouvait gérer environ 150 « relations ». Aujourd’hui, nous sommes connectés à des milliers d’amis virtuels, de contacts professionnels, ou de simples connaissances. Des relations qui se seraient naturellement éteintes sont prolongées dans la vie numérique. Avons-nous besoin d’être connectés à nos amis d’enfance à qui nous ne parlons plus ? Ou à quelqu’un avec qui nous avons été en contact lors d’une conférence il y a six ans ? Tout cela a un impact sur la « bande passante » de notre attention, et questionne notre rapport à l’innovation. Nous baignons aujourd’hui dans l’abondance de données générées par des applications. Quelles en sont les conséquences pour vous, en tant qu’enseignante ? Notre smartphone a été conçu pour que nous soyons tentés de l’utiliser en permanence. Je vois parfois celui de mes étudiants s’allumer toutes les trente secondes : des notifications s’affichent, suscitant l’envie de les regarder. Comment peut-on réfléchir, notamment dans le cadre de ses études, quand on est interrompu toutes les trente secondes par une sollicitation ? C’est l’économie de l’attention, celle qui vous transforme en produit. Je leur rappelle que, si nous utilisons un service qui est gratuit, cela signifie que l’entreprise gagne de l’argent autrement, souvent en vendant nos données. Mes étudiants ont du mal à se concentrer. Certains en ont conscience. Ils me disent : « Madame, je n’arrive pas à lire en entier le chapitre de ce livre » ou « Je n’arrive pas à écrire une réponse construite. » Cela me rend inquiète pour cette génération. Ce n’est certainement pas un manque d’intelligence, mais c’est un stress, et le stress est un signe de difficulté. Pour m’adapter à eux, j’ai dû ajouter du temps pour enseigner la gestion de cette nouvelle réalité numérique. L’autre effet négatif de ce dérangement permanent, c’est l’impact sur la créativité. Les études récentes montrent que pour être créatif il faut être attentif.