Il a considéré ces erreurs comme « totalement inacceptables »
La génération d'images basée sur l'IA a été un bond en avant pour de nombreuses personnes, leur permettant de recréer des scènes, des personnages ou des moments historiques qu'ils avaient dans leur imagination. Cependant, dans toute cette affaire, il y a eu une série de problèmes qui ont suscité une grande controverse, principalement aux États-Unis.
Cela est dû aux problèmes de représentation que l'application Gemini aurait montrés lors de certaines demandes auxquelles on s'attendait à une certaine vraisemblance. Voyons ce qui s'est passé.
Sundar Pichai affirme que c'est inacceptable
Google Gemini fonctionne vraiment bien, il est puissant, offre des réponses très rapides et en général un niveau de précision assez élevé.
Certaines réponses ont offensé nos utilisateurs et ont montré des partis pris – Sundar Pichai, PDG de Google.
Cependant, un problème lors de la génération d'images historiques a mis en colère la communauté américaine. Cela est survenu après qu'une demande de recréation des pères fondateurs des États-Unis n'ait montré que des personnages racialisés et amérindiens. Cela est inexact, car les fondateurs de l'État américain étaient tous blancs et d'origine anglo-saxonne et protestante.
.@Google corrige son grand modèle de langage Gemini après que de nombreux messages sur les #𝐫𝐞𝐝𝐞𝐬𝐬𝐨𝐜𝐢𝐚𝐥𝐞𝐬 ont alerté sur des erreurs historiques d'images, par exemple, des femmes et des personnes de couleur parmi les pères fondateurs des États-Unis.
📰 @Siecledigital.
📸 @PanAmPost_es. https://t.co/dtrtEXRxvw pic.twitter.com/1ffYj3ykZB— DeLaGús (@de_la_gus) 24 février 2024
Pendant des jours, les accusations de vouloir changer l'histoire et les attaques constantes contre Google ont été récurrentes. Cependant, depuis l'entreprise de Mountain View, ils ont affirmé qu'il s'agissait d'une erreur qu'ils s'efforçaient de résoudre.
Dans une note interne que Sundar Pichai, PDG de Google, a adressée à l'entreprise et que The Verge a recueillie, on peut constater la préoccupation du directeur de Google concernant cette question qu'il considère comme inacceptable, car l'objectif de l'entreprise est de fournir du contenu fiable :
Notre mission d'organiser les informations du monde et de les rendre universellement accessibles et utiles est sacrée. Nous avons toujours travaillé pour fournir aux utilisateurs des informations utiles, précises et impartiales dans nos produits. C'est pourquoi les personnes leur font confiance. C'est ainsi que nous devons aborder tous nos produits, y compris ceux basés sur l'IA.
C'est pourquoi Sundar Pichai considère que cette erreur est totalement inacceptable et souhaite garantir qu'elle sera résolue le plus rapidement possible.
Un problème qui n'est pas nouveau, mais qui n'avait jamais été aussi notable
Si la génération d'images par des IA telles que Midjourney ou DALL-E 3 donne généralement de bons résultats pour des choses imaginatives, elles ne sont pas particulièrement bonnes pour représenter le passé.
Nous ne savons pas – et ne saurons jamais – quelles quantités d'informations sont fournies aux IA pour réaliser leurs dessins, mais il est clair qu'elles mélangent différents types d'informations sans obtenir des résultats acceptables de manière générale.
En réalité, la génération de ces images est assez problématique, car elle peut servir à générer de la désinformation ou à créer des imaginaires et des lieux communs de choses qui n'ont pas réellement existé.
La polémique a éclaté en raison du changement de genre et de lieu d'origine de personnages historiques spécifiques, mais le problème va bien au-delà et devrait être amélioré d'urgence à l'avenir.