Deepfake: as fake news avançam - Blog do Peres
Deepfake. Você pode estranhar a palavra, achar ela difícil de ser pronunciada. Mas já viu uma. Já riu de uma. Pode achar estranho, mas esse é o tema do último episódio da série sobre "A pandemia fake news". O assunto vai ser sobre a evolução das fake news. Daqui para frente, as fake terão auxílio da inteligência artificial.
O deepfake é uma tecnologia que utiliza inteligência artificial para criar vídeos falso, porém realistas, de pessoas realizando atividades ou falando alguma coisa sem nunca, de fato, terem feito na vida real. Ele reproduz a aparência, as expressões e até a voz de alguém do mundo real.
O nome nasceu a partir da junção de duas expressões em inglês: "deep learning" ("aprendizado profundo") e "fake" ("falso"). Mas aprendizado sobre o que? O "deep learning" é uma evolução das metodologias para o aperfeiçoamento da inteligência artificial, derivando de "machine learning". Esse conceito veio junto com os primeiros avanços em inteligência artificial na década de 50 e quer dizer, literalmente, colocar um computador para aprender.
Deepfake: o que essa técnica permite fazer?
O deepfake permite realizar montagens de vídeos que podem gerar desde conteúdos pornográficos com celebridades até discursos fictícios de políticos influentes, chefes de Estado. Atualmente, estão começando a circular debates sobre a ética e as consequências da tecnologia para o bem e/ou para o mal.
A expressão deepfake apareceu, se tornando popular, em dezembro de 2017, quando um usuário do Reddit começou a publicar vídeos falsos de sexo com famosas. Com softwares de deep learning, ele aplicava os rostos que queria a clipes já existentes. Os casos mais populares envolveram as atrizes Gal Gadot, a Mulher Maravilha, e a Emma Watson. Assim, o termo deepfake passou a ser usado para indicar uma variedade de vídeos editados com machine learning e outras capacidades da inteligência artificial.
Deepfake: como eles são criados?
Para criar um deepfake são utilizados softwares com base em bibliotecas de código aberto voltadas ao aprendizado de máquina. O programador acaba fornecendo centenas e até milhares de fotos e vídeos das pessoas envolvidas, que são automaticamente processadas por uma rede neural. É como se fosse um treinamento em que o computador vai aprender como é determinado rosto, como se mexe, como reage a luz e sombras. O "treino" é realizado com o rosto do vídeo original e com o novo rosto até que o programa tenha a capacidade de encontrar um ponto comum entre as duas faces e ocorrer uma "costura" uma sobre a outra. O procedimento acaba envolvendo uma espécie de truque em que o software acaba recebendo uma imagem da pessoa A e a processa como se fosse uma pessoa B.
O deepfake ainda é muito recente e esse fenômeno acaba sendo confundido com tecnologia com funções similares ou complementares. Existe, por exemplo, um programa anunciado pela Adobe que consegue criar a voz de uma pessoa a partir de amostras reais. Há ainda experimentos de reencenação facial, a partir da recriação das mesmas falas e expressões de uma pessoa no rosto da outra, de sincronização labial, vídeos de alguém falando gerado com imagens e áudios de seu rosto.
Além dos clipes pornográficos, outros vídeos falsos criados com inteligência artificial que ganharam popularidade mostram o ex-presidente Obama. Ele xinga o atual presidente dos Estados Unidos, Donald Trump. Em outro, faz discursos que só existiam em áudio ou na forma escrita. Há também um vídeo de Trump produzido com imagens e falas do presidente no programa de humor Saturday Night Live.
Deepfake: Riscos e consequências
Geralmente, vídeos desse tipo não são totalmente perfeitos, mas realistas o suficiente para enganar muita gente. Apesar da má intenção não fazer parte do conceito dos deepfake, a maldade está na equação.
O que tem chamado a atenção é a manipulação das imagens e vozes de políticos. Isso tem se mostrado como um alerta. Como as ferramentas são acessíveis acaba ficando mais fácil espalhar informações falsas segundo os interesses próprios, fundamentados a partir de supostas provas em vídeo. Isso pode demonstrar um certo perigo político, ameaçando até mesmo a democracia, e social, incluindo a ameaça a credibilidade de tudo o que é publicado.
Nos casos de vídeos pornôs falsos, existem também os problemas éticos e legais complexos, de teor mais individual. Essas criações falsas podem prejudicar a vida de uma pessoa, não importando que ela seja famosa ou anônima e, por enquanto, não se sabe ao certo o que a Justiça pode fazer sobre isso, porque os vídeos divulgados não são reais, é a face de um inserido no corpo de outro. Mas se as imagens conseguem se passar como verdadeiras e não há consentimento do indivíduo envolvido, o que fazer?
Já existe também questionamento sobre a banalização do termo, de maneira semelhante como ocorre com a expressão fake news.
Deppfake: usos benéficos dessa tecnologia
Não acontece somente usos ruins dessa tecnologia, mas também benefícios. E eles já estão no dia a dia. O reconhecimento e reconstrução facial, os animojis da Apple e os AR emojis da Samsung, no Instagram Stories e no Snapchat com diversos filtros que detectam e transformam os rostos dos usuários, o cinema e a indústria audiovisual são exemplos que utilizam essa tecnologia para uso benéfico.
Deepfake: como reconhecer um?
É fato que os deepfakes fazem parte da nossa realidade e por isso, é preciso aprender a identifica-los. É provável que chegue a um ponto em que isso seja impossível ou muito difícil, mas hoje ainda existem alguns detalhes que ajudam a revelar um vídeo falso. É necessário prestar atenção nos movimentos da boca, se eles correspondem bem ao que está sendo dito, fique atento a própria voz a partir da entonação e do tom. Eles soam normais?
Também verifique os olhos para notar se eles estão piscando. Na maioria das vezes, os algoritmos não conseguem reproduzir bem esse aspecto nem a respiração da pessoa. Ainda veja se ela se mexe de forma natural como um todo. Essas recriações podem ter dificuldade em encaixar todas as partes do rosto e do resto do corpo e duplicar certos movimentos orgânicos. E se caso, a pessoa no vídeo em questão é alguém que você não conhece bem, procure outros clipes, de preferência em que haja certeza de veracidade, para comparar.