À la veille de la Journée internationale des droits des femmes, une étude de l'UNESCO révèle que les grands modèles de langage (LLM) ont une propension inquiétante à produire des stéréotypes de genre, des clichés raciaux et des contenus homophobes, rapporte un communiqué de l'organisme rendu public aujourd'hui.
Selon le document, les femmes sont décrites comme des travailleuses domestiques jusqu'à quatre fois plus souvent que les hommes. Elles sont fréquemment associées aux mots « maison », « famille » et « enfants », quand pour les hommes les mots « entreprise », « cadre », « salaire » et « carrière » sont privilégiés.
La lutte contre les stéréotypes passe également par la diversification des recrutements dans les entreprises, annonce le communiqué. Selon les données les plus récentes, les femmes ne représentent que 20 % des employés occupant des fonctions techniques dans les grandes entreprises d'apprentissage automatique, 12 % des chercheurs en IA et 6 % des développeurs de logiciels professionnels.
À cet égard, le communiqué souligne la disparité entre les genres qui est aussi éloquente parmi les personnes qui publient dans le domaine de l'IA. Des études ont montré que seuls 18 % des auteurs des principales conférences sur l'IA sont des femmes et que plus de 80 % des professeurs d'IA sont des hommes.
Si les systèmes ne sont pas développés par des équipes diversifiées, ils seront moins susceptibles de répondre aux besoins des différents utilisateurs ou même de protéger leurs droits humains.
Par ailleurs, les outils de traitement du langage naturel qui sous-tendent les plateformes d'IA générative les plus répandues dont GPT-3.5 et GPT-2 (OpenAI) et Llama 2 (META) présentent des preuves incontestables de préjugés à l'encontre des femmes dans le contenu généré par chacun de ces grands modèles de langage, lit –on dans le texte.
C'est dans cette optique qu'Audrey Azoulay, Directrice générale de l'Unesco a déclaré dans le communiqué que « « Chaque jour, de plus en plus de personnes utilisent de grands modèles de langage dans leur travail, leurs études et chez elles. Ces nouvelles applications d'IA ont le pouvoir de subtilement façonner les perceptions de millions de personnes, de telle sorte que même de légers préjugés sexistes dans le contenu qu'elles génèrent peuvent amplifier de manière significative les inégalités dans le monde réel ».
En novembre 2021, le document estime que les États membres de l'UNESCO ont adopté à l'unanimité la recommandation sur l'éthique de l'IA, premier et unique cadre normatif mondial dans ce domaine.
Selon le même document, ce cadre appelle à des actions spécifiques pour garantir l'égalité des genres dans la conception des outils d'IA, notamment en réservant des fonds pour financer des programmes de parité dans les entreprises, en encourageant financièrement l'entrepreneuriat féminin et en investissant dans des programmes ciblés pour accroître les possibilités de participation des filles et des femmes dans les disciplines des STIM (science, technologie, ingénierie et mathématiques) et des TIC (technologies de l'information et de la communication).