A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças
Fonte unsplash - Andy Kelly
Helder Coelho
Imagem cedida por HC
“A IA precisa de controlo humano.”
Catelijne Muller, Público, 5 dezembro 2017
O debate, em volta da Inteligência Artificial (IA), tem aquecido nos meios de comunicação social com poucas ruturas na comunidade dos cientistas e num mundo cada vez mais dominado pelas desigualdades sociais, baixos salários e pelo alto desemprego científico jovem (22% em janeiro de 2018).
Na Web Summit 2017 Stephen Hawking comentou que o crescimento da IA podia ser “o pior ou a melhor coisa que tinha acontecido à humanidade”. E, nada a opor, pois é claro que a responsabilidade não é só dos programadores, mas sim de todos nós cientistas, professores, projetistas (designers), técnicos do desenvolvimento, governos, membros da sociedade em geral, e todos os restantes seres humanos. Não nos podemos alhear desta questão que não é só tecnológica. As ciências e as técnicas misturam-se também e ninguém se deve colocar de fora. A cultura está também ameaçada pela distração obsessiva (a manipulação frequente de um telemóvel).
Podemos dizer que a Informática também era, no passado, a nossa responsabilidade. Lembro que uma vez, nos anos 80, não consegui levantar dinheiro da minha conta num banco em Lisboa. Um empregado disse-me que “era por causa da Informática, dos computadores”, devia ter respondido que essa situação não devia ter ocorrido, e que a causa era devido a quem programara o sistema de automatização bancária, totalmente dependente do funcionamento dos computadores. E, com certeza dos administradores desse banco que tinham permitido uma tal escolha. Logo, os responsáveis pelas diversas escolhas eram os seres humanos e não as máquinas.
De novo, em redor da IA, quer sejam robôs cirurgiões, carros (comboios) sem condutor, assistentes digitais (para idosos, tribunais, bancos, seguradoras, hospitais, governos), ou drones (na guerra e nas cidades), os responsáveis somos nós, que temos de regulamentar estas ferramentas de modo a que sejam consideradas éticas (completamente aceitáveis, normais e regulares).
Tal como no passado, onde se prometiam futuros com mais lazer, também agora a IA aparece não como fator de benefício, mas como um sinal de perigo para substituir os postos de trabalho. No entanto, o uso e exploração desta tecnologia pertence aos seres humanos, uns mais gananciosos do que outros.
A IA está a formatar o nosso futuro e é um agente de mudança na nossa sociedade, e no presente afeta a forma como trabalhamos, o desemprego que temos, o que nos diverte, e as perturbações de atenção que provocam, sobretudo em crianças. O tempo e a vida atravessa isto tudo.
Assim devemo-nos lembrar que a tecnologia da IA distingue-se da Informática em geral, pois os seus sistemas possuem níveis mais altos de cognição e emoção, o que exige articulações entre os dados e a experiência humana, equidade, prestação de contas e previsão dos efeitos a longo prazo. O brexit do Reino Unido, afastamento da Europa, não tem só vantagens (quais?): e o peso dos prejuízos e das consequências? Vale a pena a separação do continente se existirem argumentos convincentes e benefícios reais para o Reino Unido? Há quem tenha medo de descobrir esses benefícios, e por isso os esconde!
Existem observadores que exigem que a IA precisa de controle humano. A Accenture defende que a regulamentação ética é hoje urgente. Outros apontam para a possibilidade de colaboração entre os seres humanos e a IA, dando como exemplo o diagnóstico do sistema Watson (IBM), em saúde pública, o qual tem só um erro de 7.5%, enquanto o de um médico humano é de 3.5%. Mas em conjunto (artificial e natural), o erro cai para 0.5%!
Esta necessidade de toque humano reflete-se na automação em geral, muito orientada para o trabalho analítico (norma dos sistemas computacionais), enquanto os seres humanos colocam mais valor na empatia e na sensibilidade social. Será que a nossa educação e treino deve estar mais focada na comunicação e no modo como interatuamos uns com os outros em sociedade?
Quanto à responsabilidade é óbvio que ela deve ser partilhada, e que os agentes de IA devem ser mais justos e éticos. No entanto, toda a Informática tradicional se desenvolveu em redor de um utilizador individual e isolado (mundo fechado). Só mais tarde os agentes de IA (a partir da década de 90) herdaram um estilo conversacional, homem/computador/homem, mais aberto, que evoluiu para uma sociedade distribuída e descentralizada, para facilitar a confiança (note-se que na aviação civil, a presença do piloto e do copiloto no cockpit é obrigatória).
Revendo as discussões nos últimos anos sobre a IA, a ideia da superinteligência (super-homem) e da frieza dos comportamentos dos agentes artificiais, quando comparados com os seres humanos, concluímos que o medo à IA só será ultrapassado com uma nova postura da IA, virada para a enfâse nos benefícios.
Os preconceitos humanos só serão ultrapassados com uma maior confiança (preconceitos com a correção dos dados, a privacidade, a segurança) e a responsabilidade ética, o que exige um código ético global, que afaste o pânico pela falta de trabalho e por comportamentos altamente reprováveis (a desigualdade cada vez maior entre as pessoas, as vantagens só para alguns, enfim a ganância).
Dar muito poder à IA neste momento não é assim razoável, pois o seu desempenho pode ser uma desilusão, como o dos robôs (Sophia e Einstein) no Web Summit 2017! No entanto, se a escolha fosse o AlphaGo, da Deep Mind para o jogo do Go, teríamos uma agradável surpresa se abrissemos a caixa preta! A sua aprendizagem é mais potente e natural, e isso é algo de muito interessante.
Texto por Helder Coelho, professor do Departamento de Informatica de Ciências ULisboa
Email de Contacto info.ciencias@ciencias.ulisboa.pt
Tags
No Campus com Helder Coelho
Ensaio
Informática
Inteligência Artificial
21-06-2021
Investigadores do BioISI Ciências ULisboa investigam a ação de compostos de molibdénio na redução de dióxido de carbono
Os compostos alílicos de Mo(II) têm sido estudados na Ciências ULisboa há vários anos, tendo sido demonstrada a sua atividade como precursores de catálise na oxidação de olefinas.
17-06-2021
Controlo da pandemia durante o processo de vacinação
Num estudo recentemente publicado na revista Nature Communications uma equipa de investigadores liderada por Ganna Rozhnova, professora na University Medical Center Utrecht e colaboradora do Instituto de Biossistemas e Ciências Integrativas (BioISI) na Ciências ULisboa, analisou diferentes cenários de relaxamento das medidas de contenção da pandemia enquanto progredia o processo de vacinação para o SARS-CoV-2 em Portugal.
14-06-2021
“A estatística desempenha um papel essencial na Física”
A 1.ª edição do concurso à Bolsa Fulbright para Investigação com o apoio da FLAD – Fundação Luso-Americana para o Desenvolvimento para o ano académico de 2021/2022 selecionou quatro candidatos. Entrevista com José Cordeiro, mestrando em Estatística e Investigação Operacional na Ciências ULisboa.
11-06-2021
Hidrografia, desenvolvimento e progresso
"A Hidrografia sofreu drásticas mudanças de desenvolvimento e progresso desde o advento do posicionamento por satélite (GPS) e dos sistemas acústicos de varrimento (multifeixe)", escreve Carlos Antunes, professor do DEGGE Ciências ULisboa, por ocasião das comemorações do centenário do curso de Engenharia Geográfica/Geoespacial.
07-06-2021
Lições de Professores Cientistas
As professoras Ana Nunes e Ana Simões apresentam em entrevista os objetivos do repositório digital de cursos e apontamentos de antigos professores da Ciências ULisboa, nomeadamente João Andrade e Silva, Noémio Macias Marques, José Vassalo Pereira, António Almeida Costa e José Sebastião e Silva.
07-06-2021
Estudo mais preciso da composição e crescimento do Universo até ao momento conta com participação de investigador do IA Ciências ULisboa
Andrew Liddle, investigador do Departamento de Física da Ciências ULisboa e do Instituto de Astrofísica e Ciências do Espaço, integra a colaboração internacional Dark Energy Survey (DES), que catalogou quase um oitavo de todo o céu, ao longo de seis anos, com o intuito de revelar a natureza da energia escura, responsável pela expansão acelerada do Universo.
01-06-2021
Importante contributo para a compreensão da resposta imunitária humana
Um grupo de investigadores utilizou gânglios linfáticos, amígdalas e sangue para mostrar como as células que controlam a produção de anticorpos são formadas e atuam. Estes dados permitirão desenhar estratégias que controlem a regulação do sistema, podendo contribuir para a resolução de doenças autoimunes ou alergias.
31-05-2021
Radar Tec Labs #16
Décima sexta rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade.
31-05-2021
A agenda setting e os gatekeepers
A agenda temática avalia a importância que os meios de comunicação de massas têm quando distribuem determinados temas, dando atenção a certos assuntos e esquecendo outros.
26-05-2021
Águas residuais podem ser usadas para ajudar a melhorar a resposta a novos surtos da COVID-19
As águas residuais podem ser usadas para identificar precocemente novos surtos da COVID-19 e investigar a diversidade dos genomas do vírus SARS-CoV-2 que circulam numa comunidade, segundo comunicado de imprensa emitido pela Águas de Portugal. Os resultados do projeto de investigação COVIDETECT foram apresentados a 26 de maio.
25-05-2021
Geodesia e sociedade
"Um dos marcos interessantes da contribuição da Geodesia para a sociedade foi a definição do metro formulada em 1791 , que teve como base a medição do arco de meridiano entre Dunkerque e Barcelona, efetuada ao longo de sete penosos anos (em plena revolução francesa)", escreve Virgilio de Brito Mendes, professor do DEGGE Ciências ULisboa, por ocasião do centenário do curso.
20-05-2021
Fluviário de Mora apresenta painéis interativos sobre sons de peixes
A exposição permanente do Fluviário de Mora inclui “Sons dos Peixes” produzida no âmbito do projeto de investigação “Deteção de Peixes Invasores em Ecossistemas Dulciaquícolas através de Acústica Passiva - Sonicinvaders”, liderado pelo polo da Faculdade do MARE – Centro de Ciências do Mar e do Ambiente.
19-05-2021
Equipa portuguesa avança rumo à implementação do espectrógrafo MOONS
Portugal colidera o projeto do Espectrógrafo Multiobjetos no Ótico e Infravermelho próximo, ou MOONS, assim como alguns dos seus grupos de trabalho. Um dos componentes principais do MOONS é o corretor de campo e foi desenhado por uma equipa do Instituto de Astrofísica e Ciências do Espaço.
18-05-2021
Luzes, câmaras, ação: O fascínio das plantas não tem fronteiras
A fenotipagem (medição sistemática de caracteres fenotípicos, i.e., do corpo das plantas) foi eleita, depois dos grandes avanços verificados na fenotipagem nas últimas décadas, como um grande desígnio atual da comunidade da ciência das plantas. Leia a crónica da autoria de Jorge Marques da Silva, professor do DBV Ciências ULisboa e presidente da SPBP.
13-05-2021
Serão as florestas de mangal importantes fontes diretas de carbono para as cadeias alimentares das zonas entremarés?
O estudo da autoria de Mohamed Henriques, José Pedro Granadeiro, Theunis Piersma, Seco Leão, Samuel Pontes e Teresa Catry realizado no ecossistema influenciado por mangal será publicado em julho deste ano no Marine Environmental Research, volume 169.
12-05-2021
Cartas com Ciência
O conhecimento e a empatia não têm fronteiras, prova disso é o projeto Cartas com Ciência, que parte das palavras dos cientistas para criar laços e encurtar distâncias no que à educação diz respeito.
12-05-2021
Cem anos de Engenharia Geográfica/Geoespacial
"Com a Engenharia Geográfica/Geoespacial sabemos de onde vimos, para onde vamos, qual o melhor caminho e ainda o que vamos encontrar", escreve Paula Redweik, professora do DEGGE por acasião do centenário do curso.
11-05-2021
Ciência e arte: uma relação com futuro
Catarina Pombo Nabais coordena o SAP Lab - Laboratório Ciência-Arte-Filosofia do Centro de Filosofia das Ciências da ULisboa e em entrevista dá conta da importância da relação interdisciplinar entre ciência e arte e dos projetos futuros.
06-05-2021
Os pepinos do mar
Os pepinos do mar - espécies de equinodermes ainda muito desconhecidas - cumprem uma importante função ecológica: reciclam a matéria orgânica dos sedimentos e redistribuem nutrientes. O grupo de Pedro Félix, investigador do Centro de Ciências do Mar e do Ambiente (MARE) e da Ciências ULisboa, é o único atualmente a trabalhar na ecologia e aquacultura de pepinos do mar em Portugal.
05-05-2021
O DI Ciências ULisboa na celebração do Dia Mundial da Língua Portuguesa
O Grupo de Fala e Linguagem Natural dedica-se à Inteligência Artificial com enfoque especial no Processamento de Linguagem Natural e é o coordenador da PORTULAN CLARIN Infraestrutura de Investigação para a Ciência e Tecnologia da Linguagem.
04-05-2021
Spin-off da Ciências ULisboa financiada pela Portugal Ventures
Maria Helena Garcia, professora do DQB Ciências ULisboa e Andreia Valente, investigadora do DQB Ciências ULisboa, lideram A Something in Hands – Investigação Científica, Lda, uma spin-off desta Faculdade, que recebeu 100 mil euros da Portugal Ventures e que visa desenvolver novos medicamentos para o tratamento dos cancros metastáticos.
01-05-2021
Um ano do Centro de Testes Ciências ULisboa
O Centro de Testes Ciências ULisboa recebeu o primeiro lote de 110 zaragatoas a 1 de maio de 2020, provenientes de um conjunto de cinco lares de terceira idade do concelho de Mafra, no que viriam a ser os primeiros de várias dezenas de milhar de testes de diagnóstico molecular da COVID-19.
30-04-2021
Radar Tec Labs #15
Décima quinta rubrica Radar Tec Labs, dedicada às atividades do Centro de Inovação da Faculdade. A empresa em destaque volta a ser a Nevaro.
30-04-2021
Direitos de autor
Há um conjunto de normas e princípios legais que regulam as relações dos indivíduos em sociedade. O direito de autor é um deles. Todo o conteúdo produzido e publicado em órgãos de comunicação social é considerado conteúdo editorial. Estas obras coletivas estão protegidas pelos direitos de autor.
30-04-2021
Iris Silva vence pela segunda vez Best Young Investigator Award da Sociedade Europeia de Fibrose Quística
Iris Silva, investigadora do Instituto de Biossistemas e Ciências Integrativas (BioISI) na Ciências ULisboa, venceu pela segunda vez o Best Young Investigator Award da Sociedade Europeia de Fibrose Quística (ECFS), segundo comunicado de imprensa emitido esta sexta-feira pela Faculdade. O galardão será atribuído durante o 44th European Cystic Fibrosis Conference, que se realiza online entre 9 e 12 de junho de 2021.