Fake News, Deepfakes e Eleições - Fake News, Eleições E Democracia - Fake News - Ed. 2020
Fake News - Ed. 2020
Fake News, Deepfakes e Eleições - Fake News, Eleições E Democracia
Fake news, eleições e democracia
Advogado, sócio na Consultoria Jurídica Diogo Rais. Doutor e Mestre em Direito Constitucional pela PUC-SP, com cursos de extensão em Justiça Constitucional pela Université Paul Cézanne (Aix-en-Provence, França). Colunista na área eleitoral para o jornal Valor Econômico durante as eleições de 2016 e da Folha de S. Paulo para as eleições de 2018. Coordenador do Observatório da Lei Eleitoral da FGV-SP Direito SP para as eleições de 2016. Professor de Direito Eleitoral da Universidade Presbiteriana Mackenzie e um dos diretores do Instituto Liberdade Digital. Professor da FGVLaw. Um dos membros fundadores da Academia de Direito Eleitoral e Político – ABRADEP. Coordenador do livro Direito eleitoral digital da editora Revista dos Tribunais.
Stela Rocha Sales
Pesquisadora do Laboratório de Direito Digital e Democracia. Mestranda em Direito Político e Econômico da Universidade Presbiteriana Mackenzie. Uma das diretoras do Instituto de Liberdade Digital. Advogada na área de Direito Digital.
Sumário: Introdução. 1. Fake news e o direito. 2. As fake news e seus elos de difusão e eixos de impacto. 3. Deepfake: uma nova geração de fake news. 4. Passividade x Interatividade. 4. Como combater as fake news. Conclusão. Referências bibliográficas.
A conexão entre a política, as eleições e a tecnologia tende a avançar cada vez mais, exigindo de todos os atores não apenas o preparo para lidar com novos desafios, mas também a capacidade de autotransformação para fazer frente às mudanças e inovações tecnológicas, tanto diante de seus melhores efeitos quanto diante de eventuais efeitos colaterais. 1
Hoje, podemos conversar com qualquer pessoa em qualquer lugar do mundo, podemos conhecê-la, vê-la e ouvi-la sem sair de casa. E, se quiser sair de casa, é possível solicitar, pelo smartphone, um táxi ou até um carro particular dirigido por alguém que você nunca viu, que o levará até o local solicitado, sendo guiado por um GPS inteligente capaz de calcular o trânsito, buscar rotas alternativas e informar um acidente na via, mesmo que a colisão tenha ocorrido há apenas alguns minutos.
Se a internet é capaz de fazer tudo isso, e muito mais, por que não estaria no centro do debate político-eleitoral?
A internet mudou as referências sobre o tempo e o espaço fundindo o mundo virtual ao real e, com suas vantagens e desafios, queira ou não queira, é esse o cenário e o produto do nosso tempo.
Partindo dessa premissa, pretende-se neste artigo desafiar o tema iniciando pelo cenário digital eleitoral para avançar no estudo da desinformação como um dos efeitos colaterais nesse cenário, pretendendo alcançar a busca por conceitos ou "contra conceitos" de fake news, contextualizando com os possíveis impactos e seus elos de disseminação, identificando, ainda, algumas iniciativas para combatê-las sem se descolar da realidade eleitoral e dos pontos de contato com a normatização eleitoral existente.
1.Fake news e o direito
Vivemos 2 em um estado de liberdade e, como tal, tudo o que não for proibido está permitido. Portanto, nesse cenário, enquanto o silêncio permite, somente a palavra, ou seja, a lei, pode proibir.
Por isso, para proibir uma prática é preciso, antes de tudo, defini-la. Mas como definir fake news, sobretudo em um momento em que tudo parece ser fake news?
Somos mentirosos, em maior ou menor medida, e isso, querendo ou não, está no campo da ética, e não do direito.
O direito não se preocupa, isoladamente, com a mentira, mas sim com o dano efetivo ou potencial; com a culpa ou com a vontade do agente em praticar aquele ato.
As populares fake news vêm ocupando cada vez mais espaço no cenário político, em especial durante a realização das campanhas eleitorais.
E, ao menos dessa vez, não é algo exclusivamente brasileiro. Sua fama e ameaça se espalha por diversos países que, após a realização das eleições, vêm descobrindo cada vez mais "novas armas" na guerra da desinformação.
É claro que a desinformação polui o debate e cria uma atmosfera de incertezas e desconfiança, mas talvez o que parece ser ainda mais perigoso é a capacidade que essa poluição tem de alimentar e ampliar a polarização de opiniões na sociedade. Talvez a polarização seja a infecção, enquanto a desinformação seja apenas uma de suas febres.
No dia a dia, na ânsia de provar que estamos certos, costumamos nos apoiar em qualquer material que reforce aquilo que já pensamos, e assim, baseado em uma notícia que sequer foi checada, mas que caiu como uma luva para a nossa prévia convicção, compartilhamos ansiosamente esse conteúdo, que pode ser uma desinformação, contribuindo, assim, para poluir ainda mais o cenário político nacional.
A polissemia aplicada à expressão fake news confunde ainda mais o seu sentido e alcance, ora indica como se fosse uma notícia falsa, ora como se fosse uma notícia fraudulenta, ora como se fosse uma reportagem deficiente ou parcial, ou, ainda, uma agressão a alguém ou a alguma ideologia.
Daí uma das críticas ao uso da expressão fake news: a impossibilidade de sua precisão. Fake news têm assumido um significado cada vez mais diverso, e essa amplitude tende a inviabilizar seu diagnóstico, afinal, se uma expressão significa tudo, como identificar seu adequado tratamento? Não é possível encontrar uma solução para um desafio com múltiplos sentidos.
Partindo da premissa de que a mentira está no campo da ética, sendo que o mais perto que a mentira chega no campo jurídico é na fraude e, talvez, uma boa tradução jurídica para fake news seria "notícias ou mensagens fraudulentas".
Enfim, talvez um conceito aproximado do direito, porém distante da polissemia empregada em seu uso comum, poderia ser identificada como uma mensagem propositadamente mentirosa capaz de gerar dano efetivo ou potencial em busca de alguma vantagem.
A grande dificuldade em conceituar fake news atendendo a todas as expectativas foi um dos motivos pelo qual o High Level Group – HLEG (Grupo Independente de Alto Nível sobre as notícias falsas e a desinformação on-line) da União Europeia recomendou que se abandone o termo fake news, pois ele foi "apropriado e usado de maneira enganadora por participantes poderosos para desconsiderar reportagens que não são de seu interesse" 3 .
A análise apresentada nesse Relatório parte de um entendimento uniforme de que a desinformação é um fenômeno que vai muito além do termo 'fake news'. Esse termo foi apropriado e usado de maneira enganadora por participantes poderosos para desconsiderar reportagens que não são de seu interesse.
A jornalista Claire Wardle 4 criou uma lista de sete tipos de notícias falsas que podemos identificar e combater nas redes, são elas:
1. Sátira ou paródia: sem intenção de causar mal, mas tem potencial de enganar;
2. Falsa conexão: quando manchetes, imagens ou legendas dão falsas dicas do que é o conteúdo realmente;
3. Conteúdo enganoso: uso enganoso de uma informação para usá-la contra um assunto ou uma pessoa;
4. Falso contexto: quando um conteúdo genuíno é compartilhado com um contexto falso;
5. Conteúdo impostor: quando fontes (pessoas, organizações, entidades) têm seus nomes usados, mas com afirmações que não são suas;
6. Conteúdo manipulado: quando uma informação ou ideia verdadeira é manipulada para enganar o público;
7. Conteúdo fabricado: feito do zero, é 100% falso e construído com intuito de desinformar o público e causar algum mal.
Assim, o tema vem sendo tratado como um problema ainda mais abrangente, a chamada desinformação.
A desinformação foi definida no mencionado relatório, como "todas as formas de informações falsas, imprecisas ou enganadoras criadas, apresentadas e promovidas para causar prejuízo de maneira proposital ou para fins lucrativos" 5 .
2. Deepfake: uma nova geração de fake news
A preocupação com a desinformação tem tomado contornos cada vez mais sofisticados com o desenvolvimento de inteligência artificial. Uma versão inovadora de fake news denominada deepfake surgiu nos últimos anos. O termo é uma junção das expressões "deep learning" (aprendizado profundo, ligado ao termo machine learning, acúmulo de conhecimento por parte de um banco de dados, possibilitando sua tomada de decisão por inteligência artificial) e "fake", de falso. 6 Assim, deepfake (falsificação profunda – em tradução livre) significa um modo profundo e refinado de propagação de desinformação, por meio de vídeos, em sua grande maioria de personalidades, cuja imagem e áudio são adulterados com o intuito de manipular a população.
Com uma pequena amostra da voz de uma pessoa e imagens de sua face, um algoritmo é capaz de criar um vídeo com um discurso falso, mas com timbre e entonação quase que 100% semelhantes ao da vítima do vídeo, tornando cada vez mais difícil distinguir a realidade da manipulação digital. 7
Há pouco tempo, a criação de vídeo com adulteração de voz e imagem de alguma pessoa tinha um custo elevado e poucos detinham esse tipo de tecnologia. Atualmente, com o ritmo acelerado da inovação, já estão disponíveis no mercado softwares com preços acessíveis e altíssima qualidade de edição de vídeos e voz com sistema operacional bastante intuitivo, o que facilita a propagação desse tipo de desinformação. 8
Com apenas uma foto, o algoritmo da Samsung consegue criar um vídeo fake, mas, para deixar o vídeo mais preciso e próximo da realidade, ele permite inserir até 32 imagens. Essa nova tecnologia se diferencia das anteriores porque não há necessidade de analisar diversas imagens e vídeos de uma determinada pessoa, como é preciso nos demais vídeos. Ele se utiliza de um grande banco de dados com diversas faces para mapear expressões gerais e desenvolve uma espécie de "protótipo", utilizando a base de dados da VoxCeleb , que é um banco de dados público com mais de 7 mil imagens e vídeos de celebridades. Assim, depois do rosto programado, basta inserir uma imagem por cima. 9
Recentemente, um caso de deepfake tomou as manchetes dos jornais, quando foi compartilhado um vídeo supostamente do governador do Estado de São Paulo, João Dória, em momentos íntimos, indicando uma suposta traição conjugal. O governador alegou que o vídeo era falso, mas até o presente momento houve respostas inconclusivas, o que demonstra o quão sofisticadas estas ferramentas estão e quão difícil é a prova em contrário.
Tomando esse exemplo, é importante refletir sobre o impacto das deepfakes em ambiente eleitoral e, especialmente, com relação a pronunciamentos importantes em vésperas de eleições, podendo inclusive impossibilitar o candidato ofendido de esclarecer os fatos a seus eleitores ou de conseguir esclarecer o fato, por não haver tempo hábil de que o vídeo-resposta se propague e tenha a mesma escalabilidade do vídeo falso.
Para facilitar a compreensão da relevância do tema, vamos pensar hipoteticamente em um vídeo falso, que tenha chegado ao sistema de inteligência americana, em que um líder muçulmano extremista convoca cidadãos para um ataque terrorista de proporções maiores que o ataque do 11 de setembro, no prazo de uma semana. A atitude americana seria a de (a) reforçar a segurança; (b) executar o líder muçulmano ou as duas alternativas?
Outra situação seria um vídeo falso, de uma autoridade brasileira, convocando a população para não sair de casa por uma ameaça à saúde pública, como o coronavírus, na véspera das eleições. A população brasileira estaria apta a discernir o conteúdo enganador do vídeo? Esse discurso teria capacidade de influenciar o pleito? Quais as consequências democráticas para o afastamento dos cidadãos das urnas? Quais as consequências democráticas para a descrença dos cidadãos nos meios de comunicação?
Muito mais perigosos que vídeos em que aparecem as imagens são os áudios veiculados nesses vídeos, com a imitação quase que perfeita da voz de determinados candidatos ou de figuras públicas importantes como Presidentes, ex-presidentes, ministros, deputados, senadores, entre outros.
O momento atual em que vivemos e o modo como nos comunicamos e relacionamos é um terreno fértil para as deepfakes. Basta perceber a quantidade de vídeos caseiros produzidos diariamente pelas pessoas e disponíveis em ambiente público, sem filtros de privacidade, somado ao fato de que, atualmente, há uma infinidade de aplicativos de edição de vídeos, e outras ferramentas tecnológicas como Instagram, YouTube, que estimulam a criação de vídeos e a exposição de rostos e voz.
As ferramentas de criação e edição de vídeos por si só não trazem dano à população e até contribuem para o ambiente democrático, considerando que são instrumentos de liberdade de expressão e acesso facilitado à educação, inclusive educação política. Todavia, em era de Big Data em que há uma infinidade de dados pessoais produzidos e tratados diariamente, com o objetivo de extrair informações relevantes, o mau uso dos recursos tecnológicos disponíveis toma proporções incontroláveis.
Importante ponderar que o acesso à câmera de foto e vídeo e a produção de grande quantidade de material audiovisual não é fenômeno recente. Todavia, essas informações não eram combinadas, tratadas e depuradas, como acontece hoje. A coleta e o armazenamento dessas imagens eram mantidos em ambiente físico e, quando armazenadas em ambiente virtual, eram isoladas de outros dados pessoais, e, portanto, não possuíam o poder de manipulação que hoje é possível. Afinal, diante de uma deepfake, imagine a dificuldade de convencer as pessoas de que devam acreditar no que você diz, e não no que os seus próprios olhos veem.
3.As deepfakes, fake news e seus elos de difusão e eixos de impacto
Não 10 faz sentido descolar as fake news do interesse econômico ou político na sua produção e profusão.
Há verdadeiras fábricas de fake news espalhadas pelo mundo cujo objetivo, por mais variado que seja, converge, no final, para a obtenção de alguma vantagem.
É muito comum o uso das primeiras...
3 de Dezembro de 2021Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1153090681/fake-news-deepfakes-e-eleicoes-fake-news-eleicoes-e-democracia-fake-news-ed-2020