O software Rekognition da Amazon permite que os policiais rastreiem os rostos: Aqui está o que você precisa saber – Dicas.link
8 de abril de 2021 John Doe	0 comentários	#Amazonas, #Cíbersegurança, #IndústriadeTecnologia, #ReconhecimentoFacial, #Sci
A Amazon deseja fornecer software de reconhecimento facial para policiais e empresas. Temos perguntas.
O Amazon Rekognition é o esforço da empresa para criar um software que possa identificar tudo o que está olhando – principalmente rostos.
Organizações empresariais e, sim, agências de aplicação da lei já estão licenciando esse software para seu próprio uso. Isso significa que você não precisa usar o Facebook ou comprar um iPhone com digitalização facial ou uma campainha de vídeo sofisticada da Nest do Google ou do Ring da Amazon para que o reconhecimento facial faça parte de sua vida cotidiana. Com o Rekognition, talvez já seja.
E talvez você não esteja bem com isso. Grupos de liberdades civis, como a ACLU, já levantaram preocupações sobre a rápida adoção da tecnologia de reconhecimento facial entre as agências de aplicação da lei dos EUA e o potencial de seu abuso, especialmente contra imigrantes e pessoas de cor. Muitos – incluindo alguns dos próprios funcionários e acionistas da Amazon – querem que a empresa pise no freio.
A polêmica chamou a atenção do Congresso no ano passado, e agora, com o Senado propondo recentemente um projeto de lei que limitaria as empresas de coletar e rastrear dados de reconhecimento facial sem consentimento, parece que o Rekognition pode ser acertado.
Tudo isso para dizer que é um bom momento para mergulhar e entender melhor o que é o Rekognition, como funciona e para que está sendo usado.
Leia mais: Reconhecimento facial 101: Seu rosto é sua impressão digital
O que exatamente o Amazon Rekognition faz?
Que bom que você perguntou. Vamos começar observando o que a Amazon diz:
Assim como muito do que a Amazon está fazendo atualmente, o Rekognition se concentra na inteligência artificial e no aprendizado de máquina. Se Alexa é o esforço da Amazon para dar ouvidos e voz à IA, então o Rekognition poderia ser visto como o esforço da empresa para dar à IA um senso de visão e inteligência para reconhecer o que está olhando. A diferença é que o Alexa foi criado para consumidores como você e eu, enquanto o Rekognition é uma oferta empresarial destinada a empresas e organizações.
Tudo isso parece bastante simples, certo? É um software de detecção de imagem e rosto que os desenvolvedores podem licenciar da Amazon para seus próprios aplicativos. Mas comece a pensar sobre as maneiras como as empresas e organizações podem estar usando o Rekognition – e algumas das maneiras que podem fazer no futuro – e as coisas ficam mais complicadas.
Como funciona o Amazon Rekognition?
A Amazon afirma que seu software Rekognition é baseado em tecnologia de aprendizagem profunda desenvolvida por cientistas da visão computacional. Na verdade, são duas ferramentas de software separadas, ou conjuntos de API: Amazon Rekognition Image, que analisa imagens, e Amazon Rekognition Video, que analisa vídeos.
Como outros aplicativos de reconhecimento de imagem, o Rekognition procura identificadores estruturais comuns chamados "pontos de referência" em tudo o que está olhando. Com uma maçã, essa pode ser a forma e a cor do fruto, juntamente com características como o caule. Com um rosto, é a forma dos traços e a distância entre eles.
Depois de escanear as evidências, o software avalia o quão confiante está de que sabe o que está olhando. Essa variável de confiança atua como um limite para declarar uma correspondência – um usuário do Rekognition poderia dizer que qualquer coisa acima de 75 por cento de confiança é bom o suficiente para rotular como uma correspondência positiva, enquanto outro usuário com um aplicativo de risco mais alto pode querer definir o número em 99. Quanto mais alto o nível de confiança, mais certo o software precisa estar para declarar uma correspondência.
Grande parte dessa confiança depende da qualidade e do ângulo da imagem em questão, mas softwares como este, programados para reconhecer o que estão olhando, percorreram um longo caminho nos últimos anos. Isso se deve em grande parte ao intenso interesse de pesquisa dos titãs da tecnologia, não apenas da Amazon, mas também da Apple, Facebook, Google, Microsoft, Samsung e outros.
"O Rekognition está sempre aprendendo com novos dados e estamos continuamente adicionando novos rótulos e recursos de reconhecimento facial ao serviço", diz Amazon.
Com o reconhecimento facial, é importante observar que a Amazon não mantém seu próprio banco de dados de rostos para comparar. Em vez disso, cabe ao usuário fornecer uma "coleção de rostos" que ele possui e gerencia. Para um serviço de armazenamento de fotos, essa coleção de rostos pode ser as fotos que os usuários carregam. Para uma agência de aplicação da lei, a coleção de rostos poderia ser um banco de dados existente de fotos fotográficas.
Quanto custa o Amazon Rekognition?
As empresas não pagam um custo inicial para usar o Rekognition. Eles pagam conforme o uso, com base em quanto o usam.
"Com o Amazon Rekognition, você paga pelas imagens e vídeos que analisa e pelos metadados de rosto que armazena", explica a empresa, acrescentando que os clientes podem analisar 5.000 imagens e 1.000 minutos de vídeo por mês gratuitamente durante o primeiro ano de uso do serviço .
Depois disso, as taxas variam de acordo com a região, mas nos EUA, os clientes da Rekognition pagam 10 centavos para cada minuto de vídeo analisado e US $ 1 para cada 1.000 imagens processadas. Os clientes também pagam para armazenar os metadados de imagens e vídeos que analisam nos servidores da Amazon. As taxas de desconto em massa se aplicam a clientes que processam mais de 1 milhão de imagens.
Para que o Amazon Rekognition está sendo usado?
Isso realmente depende de quem o está usando (mais sobre isso em breve), mas a Amazon lista os seguintes casos de uso como exemplos:
Outros usos incluem a análise da composição demográfica ou mesmo do estado emocional de quem quer que o software esteja olhando, bem como algo que a Amazon chama de "People Pathing". Como parece, People Pathing usa Rekognition para rastrear pessoas específicas conforme elas se movem dentro do quadro de um feed de vídeo. De acordo com a Amazon, é capaz de rastrear:
A Amazon não respondeu quando perguntamos se havia algo impedindo qualquer empresa, organização ou agência de aplicação da lei de usar qualquer uma das diferentes APIs para os diferentes casos de uso do Rekognition. A suposição justa é que todas as ferramentas da Rekognition estão à disposição para todos os clientes que agem de acordo com a política de uso aceitável da Amazon Web Services (AWS).
Essa é uma boa pergunta, e vai ao cerne do que torna o Rekognition controverso.
Embora a empresa tenha destacado o uso do Rekognition por organizações sem fins lucrativos como Thorn e o Centro Internacional para Crianças Desaparecidas e Exploradas para encontrar possíveis pistas sobre crianças desaparecidas e vítimas de tráfico humano, a Amazon não divulga seus clientes Rekognition sem seu consentimento – e não faria Não me diga o número total de clientes Rekognition. De acordo com documentos obtidos pela American Civil Liberties Union em maio de 2018, a lista inclui várias agências de aplicação da lei dos EUA. (Temos mais relatórios sobre algumas das maneiras como as agências de aplicação da lei em lugares como Oregon e Flórida já estão usando o Rekognition, sobre o qual você pode ler aqui).
A polícia ao redor do mundo usa a tecnologia de reconhecimento facial há anos, mas a divulgação ainda foi suficiente para levantar questões sobre as capacidades do Rekognition, sobre como ele poderia ser usado e sobre quem exatamente o estava usando. Em pouco tempo, a ACLU estava pedindo que a Amazon parasse de vender seu software Rekognition para governos e agências de aplicação da lei.
"Os direitos dos imigrantes, comunidades de cor, manifestantes e outros serão colocados em risco se a Amazon fornecer este poderoso sistema de vigilância para agências governamentais", disse Shankar Narayan, diretor de tecnologia e liberdade da ACLU de Washington.
Algumas dessas preocupações vieram até da própria Amazon. Em junho do ano passado, um grupo de funcionários da Amazon divulgou uma carta ao fundador e CEO da Amazon, Jeff Bezos, conclamando a empresa a implementar fortes medidas de transparência e responsabilidade e a parar de vender serviços Rekognition para agências de aplicação da lei.
"Já sabemos que em meio à militarização histórica da polícia, a renovação de alvos de ativistas negros e o crescimento de uma força de deportação federal atualmente envolvida em abusos dos direitos humanos – esta será outra ferramenta poderosa para o estado de vigilância e, em última instância, servirá para prejudicar os mais marginalizados ", diz a carta.
A Amazon se recusou a comentar em resposta na época e também não respondeu a um pedido de comentário antes deste artigo.
Onde estão as coisas agora?
A polêmica não diminuiu. A ACLU continua a pressionar seu argumento de que a Amazon não deveria vender o Rekognition para agências governamentais de aplicação da lei, mesmo divulgando um relatório mostrando que o software identificou erroneamente 28 membros do Congresso como criminosos quando o nível de confiança foi definido para 80%. As combinações falsas afetaram desproporcionalmente as pessoas de cor, observa o relatório.
A Amazon contestou esse relatório, emitindo a seguinte repreensão impaciente por meio de uma postagem no blog:
Mesmo assim, em novembro de 2018, oito membros democratas do Congresso expressaram suas preocupações com o Rekognition em uma carta à Amazon:
"A tecnologia de reconhecimento facial pode um dia servir como uma ferramenta útil para os policiais que trabalham para proteger o público americano e nos manter seguros", escreveram eles: "No entanto, neste momento, temos sérias preocupações de que este tipo de produto tenha uma precisão significativa questões, impõe fardos desproporcionais às comunidades de cor e pode sufocar a disposição dos americanos de exercer seus direitos da Primeira Emenda em público. "
O problema não está indo embora. Em janeiro deste ano, um grupo de acionistas da própria empresa instou a Amazon a parar de vender software Rekognition para agências de aplicação da lei. Mais recentemente, em março, um grupo de proeminentes pesquisadores de IA, incluindo especialistas da Microsoft, Google e Facebook, bem como o vencedor do prestigioso Prêmio Turing de 2018, redigiu uma carta aberta alertando sobre preconceitos inerentes ao Rekognition e apelando à Amazon para pare de vendê-lo para a polícia.
Talvez para complicar as coisas, a Amazon detém a Ring, fabricante de uma linha popular de campainhas de vídeo inteligentes. Patentes recentes da empresa apresentam uma visão para campainhas de vídeo com detecção de rosto que mantêm um olho atento a criminosos condenados, criminosos sexuais e similares, e então transmitem as informações diretamente à polícia. A Amazon já começou a permitir que os proprietários de sua linha popular de alto-falantes inteligentes Echo usem as coisas como dispositivos de segurança improvisados ​​que detectam problemas sempre que estão fora de casa.
"A Amazon está sonhando com um futuro perigoso", disse Jacob Snow da ACLU em um comunicado, "com sua tecnologia no centro de uma enorme rede de vigilância descentralizada, executando reconhecimento facial em tempo real de membros do público por meio de câmeras instaladas nas campainhas das pessoas . "
"Estamos sempre inovando em nome dos vizinhos para tornar nossos bairros lugares melhores para se viver, e esta patente é uma das muitas idéias para aprimorar os serviços que oferecemos", disse um porta-voz da Ring em um comunicado. "No entanto, as patentes não refletem necessariamente os desenvolvimentos atuais de produtos e serviços, e esta patente certamente não implica implementação. A privacidade é de extrema importância para nós, e sempre projetamos nossos serviços para incluir fortes proteções de privacidade."
O que a Amazon diz sobre tudo isso?
A Amazon não ofereceu nenhum comentário sobre Rekognition antes da publicação desta história.
Em fevereiro deste ano, em meio às críticas, a Amazon escreveu longamente sobre o assunto em um blog da empresa. Junto com a defesa da Rekognition, a Amazon pareceu se juntar a empresas como a Microsoft, que já pediram maior supervisão e transparência com relação às formas como a tecnologia de reconhecimento facial está sendo usada.
"Nos mais de dois anos que oferecemos o Amazon Rekognition, não recebemos um único relatório de uso indevido por parte da polícia", escreveu o vice-presidente de políticas públicas globais da Amazon Web Services, Michael Punke. "Mesmo com esse forte histórico até o momento, entendemos por que as pessoas querem que haja supervisão e diretrizes estabelecidas para garantir que a tecnologia de reconhecimento facial não seja usada para discriminar. Apoiamos os apelos por uma estrutura legislativa nacional apropriada que proteja civis individuais direitos e garante que os governos sejam transparentes no uso da tecnologia de reconhecimento facial. "
A postagem do blog continua apresentando alguns padrões sugeridos para reconhecimento facial, que listarei aqui:
"As novas tecnologias não devem ser banidas ou condenadas por causa de seu potencial uso indevido", conclui o blog. "Em vez disso, deve haver um diálogo aberto, honesto e sincero entre todas as partes envolvidas para garantir que a tecnologia seja aplicada de forma adequada e continuamente aprimorada."
"Continuaremos a trabalhar com parceiros da indústria, governo, academia e grupos comunitários neste tópico porque acreditamos fortemente que o reconhecimento facial é uma ferramenta importante, até mesmo crítica, para uso comercial, governamental e policial."