O que vem depois de nós, disse Harari, são entidades que são mais diferentes de nós do que éramos de nossos predecessores, os neandertais. No entanto, essas espécies não serão o resultado da evolução orgânica dos genes humanos, explicou Harari, mas o resultado de humanos aprendendo a projetar corpos, cérebros e mentes. "Este será o principal produto da economia do século XXI."
Mas como essas espécies surgirão e como elas se parecerão?
O poder residirá nos dados
"Aqueles que controlam os dados controlam o futuro não apenas da humanidade, mas o futuro da própria vida", disse Harari. "Porque hoje, os dados são o ativo mais importante do mundo."
No passado, o controle e a propriedade da terra e, posteriormente, da maquinaria industrial dividiam os humanos em diferentes classes, aristocratas e plebeus, capitalistas e proletários.
"Agora, os dados estão substituindo as máquinas como o ativo mais importante. E se muitos dados se concentrarem em poucas mãos, a humanidade não se dividirá em classes – ela se dividirá em espécies", alertou Harari.
Hoje, das dez empresas mais poderosas do mundo, seis são empresas de tecnologia que lidam com grandes quantidades de dados (Apple, Alphabet, Microsoft, Amazon, Facebook e Tencent). E a maioria deles tem menos de duas décadas.
Por que os dados são tão importantes? "Porque chegamos a um ponto em que podemos hackear não apenas computadores – podemos hackear seres humanos e outros organismos", explicou Harari.
São necessárias duas coisas para hackear seres humanos: poder de computação e dados, os quais estão se tornando abundantemente disponíveis. O poder de processamento de nossos telefones celulares supera o dos computadores mais poderosos de algumas décadas atrás. Enquanto isso, a criação de informações digitais está explodindo. Estudos mostram que geramos 2,5 milhões de terabytes de dados por dia e esse número está aumentando, porque apenas 10% dos dados disponíveis datam de antes de 2016. Os avanços na tecnologia de sensores e na internet das coisas (IoT) nos permitiram coletar dados de tudo e qualquer coisa do mundo físico.
Leia também - Pelayo e a Batalha de Covadonga
Entendendo os humanos por meio de algoritmos
A combinação de dados e computação cria um poder que supera o das agências de espionagem mais poderosas dos séculos passados, como a KGB soviética ou a Inquisição espanhola, disse Harari. "Eles não tinham o poder de computação e o conhecimento biológico necessários para entender o que estava acontecendo dentro de seu corpo e cérebro, e para entender como você se sente, o que pensa e o que deseja."
Isso está mudando graças à ascensão do aprendizado de máquina e aprendizado profundo, software inteligente de inteligência artificial que pode explorar enormes conjuntos de dados e encontrar padrões significativos que passariam despercebidos às mentes biologicamente limitadas dos seres humanos. Atualmente, a inteligência artificial e o aprendizado de máquina tocam muitos aspectos da vida humana, como saúde e medicina, transporte, educação, distribuição de notícias e informações e muito mais.
Harari também aponta os avanços na biologia e na ciência do cérebro como um fator determinante na compreensão e hacking da mente humana. "Organismos são algoritmos", disse Harari. "Esta é a grande visão das ciências da vida modernas." Os humanos são apenas algoritmos bioquímicos, e estamos aprendendo a decifrar esses algoritmos.
A evolução dos sensores biométricos, que traduzem processos bioquímicos no corpo e no cérebro em sinais eletrônicos que um computador pode armazenar e analisar. Vimos grandes saltos nesse campo, desde dispositivos médicos e wearables até o hardware mais avançado que pode ler ondas cerebrais, como a próxima interface cérebro-computador do Facebook e o Neuralink de Elon Musk. Também vimos avanços na interseção da neurociência e da inteligência artificial, onde uma compreensão mais próxima da mecânica da mente humana está ajudando a criar algoritmos mais eficientes.
Com a quantidade certa de dados e poder de computação, você pode criar algoritmos que conhecem as pessoas melhor do que elas mesmas. "E os humanos realmente não se conhecem muito bem", disse Harari, citando como exemplo sua própria percepção de sua homossexualidade após anos de negação.
Já existem algoritmos de visão computacional que podem detectar se você é hétero ou gay com um alto nível de precisão analisando sua foto. Em alguns anos, com os sensores corporais se tornando onipresentes, essas tecnologias se tornarão ainda mais precisas – e mais difíceis de evitar.
"Mesmo que você continue se escondendo de seus colegas de classe ou de si mesmo, não poderá se esconder da Amazon, do Alibaba ou da polícia secreta", disse Harari. "Enquanto você navega na internet, assiste a vídeos ou verifica seu feed social, os algoritmos estarão monitorando seus movimentos oculares, sua pressão arterial, sua atividade cerebral e eles saberão."
O mecanismo por trás disso é de fato bastante simples. Essas empresas comparam seus dados com seus dados históricos e o perfil digital de milhões e bilhões de outras pessoas que possuem e, ao encontrar padrões comuns, podem entender suas preferências conhecidas e ocultas, mesmo que você ainda não as conheça.
A ascensão das ditaduras digitais
"Uma vez que temos algoritmos que podem entender melhor do que eu me entendo, eles podem prever meus desejos, manipular minhas emoções e até mesmo tomar decisões em meu nome", disse Harari em seu discurso. "E se não tomarmos cuidado, o resultado será o surgimento de ditaduras digitais."
A democracia funciona distribuindo informação e poder de decisão entre muitas instituições e indivíduos, enquanto a ditadura concentra tudo em um só lugar. No século 20, o processamento distribuído de dados superou o processamento centralizado de dados, que é uma das principais razões pelas quais a democracia prevaleceu sobre a ditadura em geral, explicou Harari. Mas isso pode não ser o caso no futuro.
"No século 21, novas revoluções tecnológicas, especialmente IA e aprendizado de máquina, podem balançar o pêndulo na direção oposta", disse ele. "Eles podem tornar o processamento centralizado de dados muito mais eficiente do que o processamento distribuído de dados. E se a democracia não puder se adaptar a essas novas condições, os humanos passarão a viver sob o domínio das ditaduras digitais".
Estamos vendo evidências disso em empresas que competem para coletar e armazenar cada vez mais dados para obter uma fatia maior dos mercados em que competem. Também estamos vendo o aumento da vigilância governamental baseada em dados em diferentes países. O caso mais notório é o programa de crédito social da China, no qual o governo está em conluio com grandes empresas de tecnologia para acompanhar as atividades e os cidadãos chineses analisando seus dados. Mas casos semelhantes aconteceram em países democráticos como os EUA, onde a NSA aproveitou os grandes bancos de dados centralizados de empresas como Facebook e Google para estabelecer um enorme programa de vigilância. Mais recentemente, estamos vendo algoritmos de aprendizado de máquina e tecnologia de reconhecimento facial se tornando a nova ferramenta para controlar os cidadãos.
Mas a ditadura digital não se limita a uma vigilância altamente precisa das ações dos cidadãos. Ele se tornará ainda mais perigoso quando começar a direcionar essas ações a seu favor. Já vimos o que big data e IA podem fazer nos escândalos de notícias falsas que surgiram nas eleições dos EUA e da Europa, em que atores maliciosos manipularam os algoritmos de feed de notícias das redes de mídia social para tentar influenciar a opinião pública em uma direção específica.
Isso pode piorar à medida que os usuários geram mais e mais dados e os governos tentam concentrar todos esses dados sob seu controle. Em um ponto, podemos alcançar a noção de computação persuasiva, na qual os governos usam pequenos pedaços de informações direcionadas para manipular as mentes das pessoas de maneiras pretendidas. Nesta nova era de ditadura digital, os déspotas não precisarão mais apontar armas para as pessoas para forçá-las a cumprir suas ordens. Eles terão muitos dados para atingir seus objetivos sem derramar uma gota de sangue.
A era da evolução pelo design inteligente
"O controle de dados pode permitir que as elites humanas façam algo ainda mais radical do que apenas construir ditaduras digitais", disse Harari. "Ao hackear organismos, a elite pode ganhar o poder de reprojetar o futuro da própria vida. Porque uma vez que você pode hackear algo, normalmente você também pode criá-lo. Esta será a maior revolução da biologia desde o início da vida."
Nos últimos 4 bilhões de anos, a evolução de todas as formas de vida foi governada pela simples regra da seleção natural e pelas leis da bioquímica orgânica.
"A ciência está substituindo a evolução pela seleção natural pela evolução pelo design inteligente", disse Harari. As forças motrizes por trás desses novos projetos serão as empresas proprietárias dos dados e algoritmos. Também podemos ver a vida saindo dos limites dos compostos orgânicos, acrescentou Harari.
Embora o professor não tenha descompactado esses comentários (provavelmente porque as ideias ainda são muito vagas), já estamos vendo vislumbres de como será o futuro da vida. Tecnologias como a edição de genes CRISPR e outras ferramentas que ajudam a aumentar as capacidades humanas podem criar novas maneiras de os humanos ultrapassarem os limites de suas conchas mortais. Mas também criarão as bases para uma maior desigualdade. Embora a evolução orgânica fosse algo que todos os humanos desfrutassem igualmente, os avanços tecnológicos, as ferramentas e os dados de IA não são acessíveis de maneira uniforme em toda a população humana. Assim, podemos ver o surgimento de espécies supremas e inferiores de humanos no futuro.
Leia também - Kokeshi, a Bonequinha dos Desejos
Como regular a propriedade dos dados
"É por isso que a propriedade dos dados é tão importante", disse Harari. "Se não o regularmos, uma pequena elite pode vir a controlar não apenas o futuro das sociedades humanas, mas a forma das formas de vida no futuro."
Regulamentar a propriedade de dados é muito mais difícil do que terra e maquinário, explicou Hariri, porque "os dados estão em toda parte e em nenhum lugar ao mesmo tempo". Os dados são efêmeros. Ele pode ser transferido e copiado em velocidades incríveis. Posso manter uma cópia exata (ou mil cópias) de um documento que você possui e afirmar que é o espécime original.
Atualmente, grandes empresas como Google, Amazon e Facebook possuem uma quantidade desproporcional de dados de usuários, e as pessoas estão legitimamente preocupadas com as implicações. Mas entregar os dados aos governos – ou nacionalizá-los, como diz Harari – também não é uma solução porque apenas transferirá o poder das grandes corporações para as ditaduras digitais. "Eu certamente não acho que [os governos] estão prontos para serem encarregados do futuro da vida e do universo", disse Harari, "especialmente porque muitos políticos e governos parecem incapazes de produzir visões significativas para o futuro".
Todas essas preocupações de privacidade sobre as empresas saberem para onde vamos e o que compramos é apenas a ponta do iceberg. "Há coisas muito mais importantes em jogo. A discussão mal começou," Hariri disse, "e não podemos esperar respostas instantâneas."
Teria sido bom ouvir Harari discutir a devolução da propriedade dos dados aos usuários, as pessoas reais a quem todas essas informações pertencem. Existem soluções que nos ajudarão a avançar em direção à regulamentação descentralizada de dados, como o uso de blockchain, o livro-razão distribuído que inaugurou a era das criptomoedas. Também estamos vendo o surgimento de plataformas que nos ajudam a avançar para algoritmos de IA descentralizados, que ajudarão a humanidade a se beneficiar coletivamente dos avanços científicos enquanto se protege contra qualquer entidade que se torne muito poderosa.
Ainda não se sabe se essas soluções ajudarão a resolver a questão do enigma da propriedade de dados. Mas, como Harari disse em sua declaração final, "o futuro da própria vida pode depender da resposta a essa pergunta".