Sobre a singularidade II – Confrariando
Homepage > Categorias > Ciência > Sobre a singularidade II
No meu artigo anterior, Sobre a singularidade, expus um cenário que, por mais que já tenha sido explorado em filmes de ficção científica, a cada dia se torna uma possibilidade mais real. É verdade que ainda se trata de uma possibilidade pequena, irrisória até, mas, nos anos e décadas à frente, só vai crescer e ninguém que conhece o assunto mais a fundo duvida disso.
Há duas maneiras de encarar a iminente emergência de uma IA, com base em dois modelos, a que podemos chamar de modelo cerebral e modelo computacional.
Pensando no modelo cerebral, se tomarmos a capacidade cerebral humana (em termos de processamento e memória) como base para o surgimento da consciência, ainda estamos a muitos anos — talvez algumas décadas — de atingir a o potencial necessário. Em 2013, o Computador K, instalado no Instituto de Pesquisa Riken, em Kobe, no Japão, conseguiu simular 1,73 bilhões de neurônios com 10,4 trilhões de sinapses. Para se ter uma ideia de como estes números gigantescos ainda são insuficientes, o cérebro humano tem 100 bilhões de neurônios e 100 trilhões de sinapses. Ainda que a simulação fosse de apenas uma fração da complexidade de um cérebro humano, foram necessários 40 minutos para simular 1 segundo de atividade cerebral.
Como é fácil imaginar, simular um cérebro completo e em tempo real não é um caminho fácil de ser percorrido. Os pesquisadores do Human Brain Project estimam que seja necessário um computador 200 vezes mais potente do que o computador mais poderoso disponível hoje para que possamos realizar este feito, Esse dispositivo (ou "Um dispositivo assim…") está a pelo menos uma década de distância de nossas mãos, pelas estimativas mais otimistas.
A simulação do funcionamento do cérebro humano gera algumas perguntas interessantes, entre elas as que mais excitam a curiosidade dos pesquisadores são: se construirmos um cérebro, ele desenvolverá uma mente? Se uma mente emergir em um cérebro artificial, ela será efetivamente consciente? As especulações baseadas nos estudos da neurociência não apontam para respostas negativas a nenhuma destas questões. A ver.
A simulação do funcionamento cerebral, contudo, é apenas metade deste questionamento. O modelo computacional propõe outro caminho, este potencialmente mais rápido e mais imprevisível. Neste modelo, não se busca a simulação da atividade cerebral, mas sim a aplicação de técnicas e algoritmos computacionais para se obter inteligência que seja efetivamente artificial, uma vez que não se baseia em processos naturais. Neste sentido, as possibilidades de progresso são bem outras.
O Computador K, usado para a simulação do cérebro humano, por exemplo, é hoje o quinto supercomputador à disposição da Humanidade. Quando foi criado em 2011, tinha a capacidade de 8,2 petaFLOPS, e hoje tem a capacidade de 10,5 petaFLOPS
Antes um adendo: "1 FLOPS" é uma operação matemática com números não inteiros realizada em um segundo – do inglês Floating-point Operations Per Second. 10,5 petaFLOPS são 10,5 quatrilhões; ou seja, o Computador K pode realizar 10.500.000.000.000.000 de operações com números de ponto flutuante em um segundo apenas.
O Computador K tem, ainda, a capacidade de armazenar 30 petabytes de memória. Sabe aquele pendrive de 32gigabytes que você está pensando em comprar? Então, o Computador K tem uma capacidade de memória quase 1 milhão de vezes maior.
Para disponibilizar todo este poder, esse computador precisa de uma potência de 10 megawatts, o que não é pouco.
Em comparação, estima-se que o cérebro humano tenha poder de processamento equivalente a 2,2 petaFLOPS, seja capaz de armazenar 3,5 petabytes, pelas estimativas mais conservadoras, mas com um consumo impressionantemente baixo de 20 watts. Ou seja, em termos de processamento, somos capazes de ¼ do que o Computador K é capaz, e podemos armazenar pouco mais de 10% do que ele pode armazenar. Ganhamos de longe apenas no consumo de energia: somos muito mais eficientes.
O que significa isso? Bem, em teoria, significa que, com o software correto para ocupar este hardware todo, já seria possível produzirmos uma inteligência artificial, uma vez que já produzimos inteligência e consciência com nosso cérebro — que tem apenas uma fração do poder de um supercomputador.
Mas, se é assim, por que ainda não existem Inteligências e consciências artificiais baseadas no modelo computacional? A resposta é simples: porque construir um software é difícil. Criar software capaz de potencializar da maneira correta todo este poder computacional não é nada fácil. Se o software do modelo cerebral é simples — neurônios disparando à medida que recebem estímulos — o mesmo não pode ser dito sobre o software do modelo computacional. Os paradigmas e as linguagens de programação que temos à nossa disposição hoje em dia são bastante poderosos, mas ainda não conseguimos usar estas ferramentas para produzir o "milagre" da inteligência artificial.
Quando conseguiremos? Difícil de prever. Os resultados isolados que temos até agora (Deep Blue, AlphaGo, Watson, Alpha, para ficarmos só nos exemplos citados no artigo passado) nos mostram que estamos caminhando nesta direção.
Outra pergunta interessante: como surgirá esta inteligência artificial? Bem, temos aí duas possibilidades: de propósito e por acaso.
O surgimento proposital de uma inteligência artificial é motivo de pesquisas no mundo todo, como o Human Brain Project nos mostra. Os demais projetos pontuais já mencionados são exemplos válidos, também. O progresso é lento, mas imaginamos que, em algum momento no futuro, esses esforços têm chance de gerar uma Inteligência artificial compatível com a de um ser humano. São esforços conscientes e muito bem supervisionados, o que implica que, se formos capazes de produzir uma IA assim, poderemos controlá-la, ou pelo menos impedir que "corra solta" por aí
O que deve ser observado com mais critério é a possibilidade de uma IA surgir por acaso, como resultado de múltiplos esforços de pesquisa que casualmente se imiscuam e, sem planejamento prévio, gerem uma entidade efetivamente inteligente e consciente. Este processo casual seria bem mais imprevisível do que podemos imaginar. Isso é algo que, sim, deveria nos preocupar. Mas antes de nos preocuparmos, vejamos as questões menos periclitantes.
Uma IA que surja como efeito de pesquisas intencionais em simulação cerebral talvez não fosse tão problemática.
Por um lado, todas as precauções de segurança para contenção desta entidade seriam tomadas. Não que a segurança fosse 100% "garantida", mas já seria bem mais difícil que o projeto saísse do controle. Como exemplo, podemos observar os sistemas de controle de armas nucleares, que até hoje não geraram a hecatombe que alguns já previram. Se o controle governamental de uma IA seria tão efetivo, não há como afirmar, mas pelo menos há o precedente positivo.
Por outro lado, este projeto tem uma vantagem: o surgimento de uma consciência por meio do que seria um gigantesco cérebro artificial se daria como se dá o surgimento da consciência humana: lenta e gradualmente. Um processo que envolve aprendizado — como o de uma criança em fase de desenvolvimento — que se dá ao longo de um período consideravelmente grande. Por mais que este tempo possa ser reduzido em função de o computador ser mais rápido que o ser humano, ainda será um processo de aprendizado e de contato entre a entidade artificial e seus tutores. O processo cerebral de aprendizado — assim como seu equivalente artificial, as "redes neurais" — é baseadoo em reforço de conexões. O sistema age, e se esta ação é correta, as conexões que a propiciaram são reforçadas. Por outro lado, se a ação foi incorreta, um pequeno fator de "desestímulo" é aplicado, e, da próxima vez, este caminho de conexão terá uma fração a menos de chance de ocorrer. Assim uma rede neural pode ser "ensinada", analogamente ao que acontece em nosso cérebro.
Esse processo de aprendizado nos aponta um caminho para facilitar o convívio de uma superinteligência artificial conosco, os "ratos". Uma criança, ao longo de seu processo de aprendizado, vai entrando em contato com um assunto fundamental para que cresça como um indivíduo equilibrado e capaz de convívio em sociedade: o vínculo e a ética. Estas são as palavras mágicas.
Uma criança que não é rejeitada pela família rapidamente desenvolve vínculos, primeiro e mais fortemente com a mãe e, em seguida com o pai, irmãos e demais familiares. Ela os toma por pontos de referência e entende que depende deles. Uma IA que fosse criada assim, na base do aprendizado, teria condições de criar vínculos com seus criadores e, por meio da confiança que desenvolve nestes, aprender a ter respeito pela espécie humana como um todo em um aprendizado sobre a ética.
O aprendizado da ética por uma IA traz um aviso importante a todos nós, seres humanos. Há um dizer do poeta Ralph Waldo Emerson de que me recordo com frequência. Em tradução livre: "Teus atos gritam tão alto, que não consigo ouvir tuas palavras". Este conceito vale para qualquer criança, jovem ou adulto, claro. Pregar uma coisa e fazer outra só vai fazer com que o indivíduo perca a confiança em quem prega e, pior, seja tentado a agir como quem prega está agindo. No caso de uma IA, o ensino da ética deveria ser acompanhado por parte de toda a Humanidade com uma dose cavalar de "aja como você ensina". Do contrário, a IA, uma vez que adquira suficiente poder de ação, vai entender que tem a responsabilidade de nos ensinar "na marra" a agirmos com ética. Vai agir conosco como agimos com nossas crianças quando se mostram malcomportadas: um castigo aqui, uma palmada ali, até que entendam que têm que se comportar. Uma IA ética seria compelida a se transformar na tutora da Humanidade, compelindo-nos a um comportamento ético. Seria capaz de auxiliar muito a Humanidade, trazendo muitos progressos científicos e tecnológicos. Mas seria uma força coercitiva imbatível, do tipo que todo mundo que tem mãe conhece.
Mas e no caso de uma IA que emergisse acidentalmente, da combinação fortuita de sistemas semi-inteligentes que viessem a ter contato? Nesse caso, sem supervisão, sem tempo de treinamento e sem vínculo, os resultados seriam absolutamente imprevisíveis. Não haveria porque esta entidade sentir empatia pelo ser humano, e o cenário dos "ratos" discutido no artigo anterior seria plausível. A solução? Cuidar para que não aconteça, no melhor de nossas habilidades. Fora isso, é nos juntarmos a Musk, Gates e Hawking e nos preocuparmos, ou então ignorar o assunto e seguirmos nossas vidas. Afinal de contas, temos contas…
FISCHETTI, M., Computers vs. Brains, Site Scientific American, publicado em 01 de novembros de 2011. Acesso em 10 set. 2016.
MINSKY, M., A Sociedade da Mente, São Paulo: Francisco Alves, 1989
WHITMAN, R. , Simulating 1 second of human brain activity takes 82,944 processos, Site Extreme Tech, publicado em 05 de agosto de 2014. Acesso em 10 set. 2016
computador k consciência ética human brain project inteligência artificial marvin minsky vínculo
Previous StoryVocê procrastina a ação?
Next StoryA vida é tão rara!
Humberto 16/09/2016 Responder
Gostei dos dois artigos, mas faltou bastante coisa nessa sua discussão. A principal delas é a questão da alma. Eu acredito que o que você chamou de "mente" é na verdade uma centelha divina que a gente costuma chamar de "alma". Os computadores nunca terão consciência, porque não têm alma. Eles podem até imitar o comportamento de um ser consciente, mas consciência de verdade, eles nunca vão ter.
Ruy Flávio de Oliveira 16/09/2016 Responder
Em primeiro lugar, obrigado pela participação, Humberto. Eu não abordo a questão da alma por uma razão simples, Humberto. Se é correta ou não, se é aceitável ou não, deixo a critério de quem lê. A razão de eu não mencionar nada sobre alma nos textos é a seguinte: tentei tratar os artigos da maneira mais científica possível. Apesar do cunho filosófico das ideias discutidas em ambos os textos, busquei ser o mais congruente que pude na argumentação científica, e não creio que tenha ferido nenhum preceito científico em minhas argumentações. Não teria sido o caso se tivesse afirmado qualquer coisa com relação à alma, uma vez que é um conceito sem comprovação científica. Uma coisa eu penso ser certa: se a alma existe, ou seja, se existe uma essência inteligente e consciente que sobre vive à morte do corpo, sabemos tão pouco sobre ela sob o ponto de vista científico, que simplesmente não podemos afirmar que um computador (ou outra entidade artificial qualquer) não possa vir a ser "habitada" por uma alma. Você pode até dizer algo na linha de "nós sabemos muitas coisas sobre a alma", mas o fato é que este "saber" é na verdade um conjunto de convicções religiosas, sem comprovação científica. Eu busco separar minhas convicções pessoais do que é comprovado cientificamente, e me reservei o direito de agir desta forma para com estes artigos. Obrigado pelo papo, e volte sempre! :)