Veja como um sistema de IA classifica você com base em sua selfie « Reviltec
Veja como um sistema de IA classifica você com base em sua selfie
A inteligência artificial moderna é frequentemente elogiada por sua crescente sofisticação, mas principalmente em termos de doômeros. Se você está do lado apocalíptico do espectro, a revolução da IA ​​automatizará milhões de empregos, eliminará a barreira entre a realidade e o artifício e, eventualmente, forçará a humanidade à beira da extinção. Ao longo do caminho, talvez tenhamos mordomos de robôs, talvez sejamos empacotados em embriões embrionários e colhidos para obter energia. Quem sabe.
Mas é fácil esquecer que a maioria das IA no momento é terrivelmente estúpida e útil apenas em domínios de nicho estreitos para os quais seu software subjacente foi especificamente treinado, como jogar um jogo de tabuleiro chinês antigo ou traduzir texto em um idioma para outro.
Peça ao seu bot de reconhecimento padrão para fazer algo novo, como analisar e rotular uma fotografia usando apenas o conhecimento adquirido, e você obterá resultados absurdamente engraçados. Essa é a diversão por trás da ImageNet Roulette uma ferramenta da web bacana criada como parte de uma exposição de arte em andamento sobre a história dos sistemas de reconhecimento de imagem.
A Roleta ImageNet fará suposições maravilhosamente aleatórias e extremamente incorretas sobre você
Como explicou pelo artista e pesquisador Trevor Paglen que criou a exposição Training Humans com a pesquisadora da IA ​​Kate Crawford, o objetivo não é fazer um julgamento sobre a IA, mas envolver-se com sua forma atual e sua complicada história acadêmica e comercial, por mais grotesca que possa ser.
"Quando começamos a conceber esta exposição há mais de dois anos, queríamos contar uma história sobre a história das imagens usadas para 'reconhecer' os seres humanos na visão computacional e nos sistemas de IA. Não estávamos interessados ​​na versão comercializada da IA ​​nem nos contos do futuro dos robôs distópicos ", Crawford antigo no Museu Fondazione Prada, em Milão, onde Training Humans é apresentado. "Queríamos nos engajar com a materialidade da IA ​​e levar a sério essas imagens do cotidiano como parte de uma cultura visual mecânica em rápida evolução. Isso exigiu que abríssemos as caixas pretas e observássemos como esses 'motores de visão' atualmente operam. "
É uma busca digna e um projeto fascinante, mesmo que a Roleta ImageNet represente o lado mais ridículo dela. Isso ocorre principalmente porque o ImageNet, um renomado conjunto de dados de treinamento em que os pesquisadores da IA ​​confiaram na última década, geralmente é ruim em reconhecer pessoas. É principalmente um conjunto de reconhecimento de objetos, mas possui uma categoria para "Pessoas" que contém milhares de subcategorias, cada uma tentando valorosamente ajudar o software a executar a tarefa aparentemente impossível de classificar um ser humano.
E adivinhem? A Roleta ImageNet é muito ruim nisso.
Eu nem fumo! Mas, por alguma razão, a ImageNet Roulette pensa que sim. Também parece acreditar que estou localizado em um avião, embora, para seu crédito, os layouts de escritórios abertos sejam apenas um pouco menos sufocantes do que tubos estreitos de metal suspensos a dezenas de milhares de pés no ar.
A Roleta ImageNet foi montada pelo desenvolvedor Leif Ryge, trabalhando com Paglen, como uma maneira de permitir que o público se envolva com os conceitos abstratos da exposição de arte sobre a natureza inescrutável dos sistemas de aprendizado de máquina.
Aqui está a mágica dos bastidores que o faz funcionar:
A ImageNet Roulette usa uma estrutura de aprendizado profundo de código aberto da Caffe (produzida na UC Berkeley) treinada nas imagens e etiquetas nas categorias "pessoa" (atualmente "em manutenção"). Substantivos e categorias apropriados com menos de 100 figuras foram removidos.
Quando um usuário carrega uma imagem, o aplicativo executa primeiro um detector de rosto para localizar qualquer rosto. Se encontrar algum, envia-os para o modelo de Caffe para classificação. O aplicativo retorna as imagens originais com uma caixa delimitadora, mostrando a face detectada e o rótulo que o classificador atribuiu à imagem. Se nenhum rosto for detectado, o aplicativo envia a cena inteira para o modelo Caffe e retorna uma imagem com uma etiqueta no canto superior esquerdo.
Parte do projeto também deve destacar as maneiras fundamentalmente falhas e, portanto, humanas, pelas quais o ImageNet classifica as pessoas de maneira "problemática" e "ofensiva". (Um exemplo interessante que aparece no Twitter é que alguns homens que carregam fotos parecem ser aleatoriamente marcados como "suspeitos de estupro" por razões inexplicáveis.) Paglen diz que isso é crucial para um dos temas que o projeto está destacando, que é a falibilidade dos sistemas de IA e a prevalência do viés de aprendizado de máquina como resultado de seus criadores humanos comprometidos:
O ImageNet contém várias categorias problemáticas, ofensivas e bizarras – todas extraídas do WordNet. Alguns usam terminologia misógina ou racista. Portanto, os resultados retornados pela ImageNet Roulette também se basearão nessas categorias. Isso ocorre por design: queremos esclarecer o que acontece quando os sistemas técnicos são treinados em dados de treinamento problemáticos. As classificações de IA de pessoas raramente são visíveis para as pessoas que estão sendo classificadas. A Roleta ImageNet fornece uma visão geral desse processo – e mostra como as coisas podem dar errado.
O ImageNet é um dos conjuntos de treinamento mais significativos da história da IA. Uma grande conquista. Os rótulos vêm do WordNet, as imagens foram raspadas nos motores de busca. A categoria 'Pessoa' raramente foi usada ou comentada. Mas é estranho, fascinante e geralmente ofensivo.
– Kate Crawford (@katecrawford) 16 de setembro de 2019
Embora a Roleta ImageNet seja uma distração divertida, a mensagem subjacente de Training Humans é obscura, mas vital.
" Training Humans explora duas questões fundamentais em particular: como os seres humanos são representados, interpretados e codificados por meio de conjuntos de dados de treinamento e como os sistemas tecnológicos colhem, rotulam e usam esse material", lê a descrição da exposição "As as classificações de seres humanos pelos sistemas de IA se tornam mais invasivas e complexas, seus preconceitos e políticas se tornam aparentes. Dentro da visão computacional e dos sistemas de IA, formas de medição facilmente – mas sub-repticiamente – se transformam em julgamentos morais. "