Nova Zelândia lidera iniciativa pedindo transparência em algoritmos - Olhar Digital
Olhar Digital > Notícias > Nova Zelândia lidera iniciativa pedindo transparência em algoritmos
Leticia Riente 10/08/2020 22h04, atualizada em 11/08/2020 22h23
O governo da Nova Zelândia lançou no mês passado o que está sendo chamado de "Primeira Carta de Algoritmos do Mundo". O objetivo é demonstrar o valor da transparência sobre processos algorítmicos que afetam a vida diária. O documento indica uma série de princípios e regras a serem observadas pelos países signatários da Carta.
No cotidiano, a solução baseada em algoritmos é utilizada extensivamente – esses sistemas ajudam empresas privadas e governos a tomarem decisões – e automatizá-las completamente exige o uso de IA. Entre os compromissos estabelecidos pelo documento, está o de garantir que seus algoritmos não perpetuem o preconceito e permitir uma revisão por pares para evitar "consequências indesejadas". A Carta também prevê que os países participantes disponibilizem um canal de contato para que o público possa sanar dúvidas sobre algoritmos, bem como sobre qualquer decisão por eles tomada.
Carta abrirá caminho para moradores entenderem processo de algoritmos e contestá-los quando se sentirem prejudicados. Créditos: Unsplash/Reprodução
Enviesamento de IA
Para entender a importância da iniciativa de revelar o que há na "caixa preta" dos algoritmos, é necessário saber o que realmente significa "enviesamento de IA". O termo "viés" refere-se à capacidade que o nosso cérebro possui de fazer associações de forma quase que automática, descreve o PrograMaria. Para isso são usados cenários e experiências vividas pela pessoa.
Esta associação também é aplicada na IA com o objetivo de tornar as decisões mais rápidas, assim como a resolução de problemas. Estes algoritmos são criados e nutridos com informações inseridas por humanos, e é ai que está o problema. Esta tecnologia acaba refletindo os valores e pensamentos de quem a está alimentando, podendo fazer com que as ações tomadas por meio dos algoritmos tornem-se parciais e repitam padrões inadequados.
Em uma publicação recente do The New York Times, o jornal destacou como Estados Unidos utilizavam de algoritmos para sentenças de prisão, regras para liberdade condicional, entre outras decisões importantes que poderiam impactar de forma significativa várias vidas. Além disso, o ProPublica descobriu que um algoritmo usado para pontuar grau de risco de pessoas detidas em uma delegacia de polícia pontuava erroneamente negros como mais perigosas em relação aos brancos.
A grande questão é que normalmente não é possível saber quais informações foram usadas na decisão tomada pelo computador, nem se elas foram utilizadas de forma justa. Se o cálculo tomar o rumo em direção ao "viés por proxy", em que não há uma conexão verdadeira entre as informações e decisão, os danos podem ser irreparáveis para várias vidas.
"Primeira Carta de Algoritmos do Mundo"
Na Nova Zelândia, entre os órgãos já signatários da Carta estão o Ministério da Educação, Ministério do Meio Ambiente, Estatísticas da Nova Zelândia, Força de Defesa da Nova Zelândia, entre outros setores. As forças polícias do país e agências de espionagem, como Government Communications Security Bureau, ainda não aderiram aos princípios do documento. Cabe frisar que algoritmos trabalhados com IA tem ganhado bastante espaço no auxílio a rotinas policiais, como na definição de rondas, patrulhamentos e operações, o que torna estas corporações também sujeitas a erros proporcionados pelas decisões de computadores.