Além do erro no reconhecimento, a associação indicou um funcionamento discriminatório no caso de pessoas negras
postado em 28/07/2018 19:12
A fim de avaliar falhas nos procedimentos, a Associação para as Liberdades Civis dos EUA (ACLU, na sigla em inglês) realizou teste com um programa de reconhecimento facial utilizado pela Amazon chamado ;Rekognition;. Entre deputados e senadores, o sistema ;identificou; 28 representantes como criminosos. A ferramenta relacionou as imagens dos políticos a fotos em bancos de dados de pessoas pressas.
;Negros já são prejudicados de maneira desproporcional por práticas de policiais. É fácil ver como o sistema Rekognition pode exacerbar isso;, afirmou a ACLU em comunicado oficial. Um exemplo citado na nota foi o fato de uma senhora negra parada pela polícia na cidade de San Francisco. Ela foi colocada de joelhos, sob a mira de uma arma, porque o sistema dos oficiais havia identificado erroneamente a placa do carro dela como a licença de um veículo roubado.
Em maio, a coalizão de congressistas negros dos EUA (Congressional Black Caucus) havia encaminhado carta ao presidente da Amazon, Jeff Bezos, expressando preocupação com a adoção do Rekognition. ;Estamos preocupados com as consequências não pretendidas que essa forma de inteligência artificial pode ter para americanos negros, imigrantes não registrados e protestantes;, afirmaram os parlamentares.
Após a divulgação do teste da ACLU, três senadores do Partido Democrata ; Ron Wyden, Cory Booker e Ed Markey - cobraram explicações de 39 órgãos públicos do país das mais variadas áreas, de defesa a comércio, incluindo as agências de segurança. No documento, os parlamentares pedem que as instituições relatem o eventual uso de algum sistema de reconhecimento facial, a partir de quais parâmetros, os objetivos, como está se dando essa adoção e como a precisão é garantida ou fiscalizada.
No documento, os senadores admitem que os programas de reconhecimento facial têm ficado mais acessíveis, mas alertam para os riscos de uso inadequado delas. ;Essas tecnologias vêm com riscos inerentes, incluindo o comprometimento do direito de americanos à privacidade, assim como vieses raciais e de gênero;, comentaram.
Estes últimos, acrescentou Matt Wood, devem supervisionar e tomar as decisões. Entretanto, o representante da Amazon defende que as tecnologias de reconhecimento facial já são mais eficientes do que o olhar humano para identificar imagens. ;Não devemos jogar fora o forno porque foi regulado de forma errada e queimou a pizza;, concluiu.