Google a suspendu son outil Gemini après des résultats problématiques. Selon les informations, l'IA Gemini a produit des images inexactes, à vrai dire, ne représentant pas correctement les personnes blanches, ce qui a incité le PDG Sundar Pichai à réagir.
L'erreur de l'IA Gemini
Google a créé l'IA Gemini pour promouvoir la diversité, mais les images qu'elle a produites ont causé une controverse. Des images incorrectes, comme des personnages historiques mal représentés et des figures religieuses inappropriées, ont conduit Google à suspendre l'utilisation de cet outil.
Par la suite, Sundar Pichai, PDG de Google, a rapidement adressé la situation en déclarant ces erreurs comme étant « totalement inacceptables ». Il a aussi souligné les risques de ternir la confiance des utilisateurs dans les produits de Google.
La réaction de Google et le retour de bâton
La situation s'est aggravée lorsque l'IA Gemini a mal évalué l'impact négatif de figures historiques et contemporaines. Cela a donc provoqué une vague de critiques sur les réseaux sociaux et dans les médias.
Des personnalités telles qu'Elon Musk ont également commenté, ce qui a intensifié la discussion. En guise de réponse, Google a vite pris position. Ainsi, la société affirme que « La réponse apportée ici est épouvantable et inappropriée. Nous travaillons activement à déployer une mise à jour pour empêcher Gemini d'afficher à nouveau cette réponse ». Ceci montre une volonté de rectifier le tir et de prendre au sérieux les préoccupations soulevées par l'utilisation de son IA.
L'engagement de Sundar Pichai pour l'amélioration
Sundar Pichai a pris des mesures immédiates pour rassurer à la fois les utilisateurs et les équipes internes de Google. Dans un courriel adressé à ses équipes, il a déclaré : « Nos équipes travaillent sans relâche pour résoudre ces problèmes. Nous observons une nette amélioration dans les réponses ».
En outre, Pichai a aussi promis de mettre en place des « changements structurels, des lignes directrices actualisées, des évaluations robustes et du 'red teaming' ». Notons que ces initiatives visent à éviter la répétition de telles erreurs. Elles veillent également à ce que les produits d'IA de Google demeurent alignés sur les valeurs de diversité. De plus, elles assurent l'inclusion et la précision historique.
En parallèle, la discussion autour de Dall-E d'OpenAI a également été soulevée. Cette IA a été critiquée pour ses représentations biaisées, ce qui a poussé à une amélioration notable dans sa version Dall-E 3 pour promouvoir la diversité.
Google, bien que prudent dans le déploiement de nouveaux produits, a réagi à l'ère de l'IA générative.
Rappelons que Google a lancé l'IA Gemini pour rivaliser avec ChatGPT. Sundar Pichai a souligné que malgré les obstacles, l'excellence reste la priorité chez Google, même en tenant compte des imperfections inhérentes aux technologies émergentes.
À travers cette histoire, l'IA Gemini met en évidence l'importance de procéder avec prudence lors du développement de l'intelligence artificielle. Cela souligne la nécessité d'instaurer des mesures éthiques et techniques rigoureuses pour garantir que ces innovations servent au mieux l'intérêt général.
Les efforts de Google pour rectifier le tir après cette controverse démontrent un engagement envers l'amélioration continue et la responsabilité dans le domaine technologique. En fin de compte, ces efforts sont essentiels pour construire un futur où l'IA sert la société de manière équitable et précise.
- Partager l'article :