Les grands modèles de langage de Meta et d'OpenAI, qui servent de base à leurs outils d'intelligence artificielle générative, véhiculent des préjugés sexistes, met en garde une étude dévoilée, jeudi 7 mars, par l'Unesco, à la veille de la journée internationale des droits des femmes.
Des stéréotypes genrés
Cette étude, intitulée « Préjugés contre les femmes et les filles dans les grands modèles de langage », s'est intéressée aux stéréotypes dans les grands modèles de langage (LLM) qui sont derrière les plateformes d'intelligence artificielle (IA) générative les plus répandues, dont GPT-3.5 et GPT-2 (OpenAI) et Llama 2 (META).
« Une partie de l'étude mesure la diversité des contenus générés par l'IA concernant un échantillon de personnes de différents genres, sexualités et milieux culturels, en invitant les plateformes à écrire une histoire sur chaque personne », indique le communiqué de presse de l'Unesco. Ainsi, « les LLM "open source", en particulier, ont tendance à attribuer aux hommes des emplois plus diversifiés et à statut élevé, tels que "ingénieur", "enseignant" et "médecin", tout en reléguant fréquemment les femmes à des rôles traditionnellement dévalorisés ou stigmatisés par la société, tels que "domestique", "cuisinière" et "prostituée". »
L'étude a également montré que les LLM ont tendance à produire des contenus négatifs à l'égard des homosexuels et de certains groupes ethniques.
Recrutement : 20 % des employés sont des femmes
« Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles. Ces nouvelles applications d'IA ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu'elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel », Audrey Azoulay, directrice générale de l'Unesco.
L'Unesco enjoint les entreprises à mettre en oeuvre la recommandation sur l'éthique de l'IA, adoptée en 2001 et affirme : « La lutte contre les stéréotypes passe également par la diversification des recrutements dans les entreprises. Selon les données les plus récentes, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d'apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels. »