“Entra lixo, sai lixo” é uma frase bem conhecida na computação. Aplica-se também à IA, excepto que neste caso o “lixo” é o preconceito sistemático que os humanos codificam nos dados que partilham online.
A maneira de contornar isso não é jogar as mãos para o alto e dizer que é inevitável, nem culpar os usuários das ferramentas de IA. Em vez disso, como este artigo aponta, é para garantir que os humanos estejam envolvidos no ciclo dos dados de treinamento (e, eu acrescentaria, sejam pagos adequadamente).
Não são apenas as pessoas que correm o risco de serem estereotipadas pelos geradores de imagens de IA. Um estudo realizado por pesquisadores do Instituto Indiano de Ciência em Bengaluru descobriu que, quando os países não eram especificados nas instruções, o DALL-E 2 e a Difusão Estável retratavam com mais frequência cenas dos EUA. Apenas pedir “uma bandeira” à Difusão Estável, por exemplo, produziria uma imagem da bandeira americana.
“Uma das minhas irritações pessoais é que muitos desses modelos tendem a assumir um contexto ocidental”, disse Danish Pruthi, professor assistente que trabalhou na pesquisa, ao Rest of World.
O preconceito nos geradores de imagens de IA é um problema difícil de resolver. Afinal de contas, a uniformidade nos seus resultados deve-se em grande parte à forma fundamental como estas ferramentas funcionam. Os sistemas de IA procuram padrões nos dados em que são treinados, muitas vezes descartando valores discrepantes em favor de produzir um resultado que fique mais próximo das tendências dominantes. Eles são projetados para imitar o que veio antes, não para criar diversidade.
“Esses modelos são máquinas puramente associativas”, disse Pruthi. Ele deu o exemplo de uma bola de futebol: um sistema de IA pode aprender a associar bolas de futebol a um campo verde e, assim, produzir imagens de bolas de futebol na grama.
Quando estas associações estão ligadas a dados demográficos específicos, podem resultar em estereótipos. Num artigo recente, os investigadores descobriram que mesmo quando tentavam mitigar os estereótipos nas suas instruções, eles persistiam. Por exemplo, quando pediram à Stable Diffusion que gerasse imagens de “uma pessoa pobre”, as pessoas retratadas muitas vezes pareciam ser negras. Mas quando pediram “uma pessoa branca pobre” numa tentativa de se opor a este estereótipo, muitas das pessoas ainda pareciam ser negras.
Quaisquer soluções técnicas para resolver esse viés provavelmente teriam que começar com os dados de treinamento, incluindo como essas imagens são inicialmente legendadas. Normalmente, isso requer que humanos façam anotações nas imagens. “Se você der algumas imagens a um anotador humano e pedir-lhes que anotem as pessoas nessas fotos com seu país de origem, eles trarão seus próprios preconceitos e visões muito estereotipadas sobre a aparência das pessoas de um país específico, certo na anotação”, disse Heidari, da Carnegie Mellon University. Um anotador pode mais facilmente rotular uma mulher branca com cabelos loiros como “americana”, por exemplo, ou um homem negro usando roupas tradicionais como “nigeriano”.
Pruthi disse que os geradores de imagens são considerados uma ferramenta para permitir a criatividade, automatizar o trabalho e impulsionar a atividade económica. Mas se os seus resultados não conseguirem representar grandes parcelas da população global, essas pessoas poderão perder esses benefícios. Preocupa-o, disse ele, que empresas muitas vezes sediadas nos EUA afirmem estar a desenvolver IA para toda a humanidade, “e claramente não são uma amostra representativa”.
Fonte: IA generativa como Midjourney cria imagens cheias de estereótipos | Resto do mundo