Smart cities: Os enviesamentos da IA e uma preocupação liberal - Notícias de Aveiro
Inicio Aveiro Smart cities: Os enviesamentos da IA e uma preocupação liberal
Smart cities: Os enviesamentos da IA e uma preocupação liberal
Fonte da imagem: https://www.cetax.com.br
Sobre atuais projetos autárquicos que omitam o tema da "cidade inteligente" saberemos que, na melhor hipótese, se orientam rumo ao passado. Na pior hipótese, estarão a abrir a porta a interferências dos detentores dos cargos executivos, sejam políticos ou técnicos, nas vidas da generalidade dos munícipes e visitantes dos concelhos, a um ponto que nos aproxime do 1984 de George Orwell. É com este risco que nos pre-ocuparemos nestas linhas.
Por Miguel Soares de Albergaria *
Antes do "abrandamento" estival do NA, adotei aqui a definição das cidades inteligentes como a "imersão nas estruturas urbanas (…) de sistemas de sensores (…) que permanentemente recolham informação, a qual será classificada por inteligência artificial [IA], investida da responsabilidade de tomada de decisões".
Mas, como bem questionou João Moniz também nestas páginas já há pouco mais de 2 anos, "quem é que vai definir os critérios de recolha de dados, e posteriores algoritmos de análise?" (Um "algoritmo" é uma sequência de instruções de procedimentos, p. ex. a regra de 3 simples, as receitas de culinária etc. Os algoritmos que constituem a IA distinguem-se por poderem ter muito mais passos e, principalmente, por trabalharem conjuntos incomensuravelmente maiores de dados à entrada).
Da inteligência e da artificialidade da IA
Talvez carregando demasiado nas teclas mas de forma significativa, numa recente entrevista ao The Guardian, a investigadora Kate Crawford disse que a IA não é propriamente "artificial" ou não natural – pois o seu processamento implica muito trabalho humano, recursos naturais etc. – nem "inteligente" no sentido humano do termo – que (lembremos desde Howard Gardner e António Damásio até Aristóteles) é bem mais complexo e abrangente do que a mera computação de dados. Na qual, então, os artefactos eletrónicos são muitíssimo mais poderosos do que os cérebros animais.
De qualquer modo, são possíveis enviesamentos humanos da IA em quaisquer destes seus momentos: i) os tipos de dados relevantes para cada caso são escolhidos por seres humanos; ii) a rotulação dos dados obtidos, i.e. a interpretação do seu significado, é feita por seres humanos (em IA com capacidade de aprendizagem, apenas no modo dito com "supervisão"); tal como somos nós, na IA sem aprendizagem autónoma, que iii) desenhamos os algoritmos e iv) os "treinamos" (os desenvolvemos ou apuramos); enfim, v) a avaliação dos resultados de qualquer tecnologia é ainda (!) humana.
Em alternativa, a IA com capacidade de aprendizagem desenvolve por si própria algoritmos complexos na base de algoritmos elementares. Mas então não se dirá que os resultados são objetivos ou neutros, dir-se-á apenas que as suas regras escapam ao controlo e mesmo à compreensão humana – como o AlphaGo Zero no jogo do go.
Daí decorrem intervenções humanas e/ou equívocos técnicos no funcionamento de cidades inteligentes, como nestes dois casos: no exercício de algoritmos que calculam a probabilidade de crime em determinados contextos e que podem espoletar o envio preventivo de polícia, além de haver testemunhos de preconceitos na seleção dos dados que serão significativos de situações de perigo, a IA tem falhado em interpretações como a de certos comportamentos como dança ou como combate – cf. entrevista de Crawford sobre leitura facial de emoções, classificação racial etc. Os algoritmos de gestão do tráfego escolhem as melhores rotas, mas estas diferem conforme o valor primordial escolhido pelos operadores humanos seja ou a maior rapidez da deslocação, ou a menor emissão de CO2 etc.
De tudo isso decorre a imperiosidade de uma reflexão ético-política sobre a utilização de IA em estruturas urbanas e do acompanhamento crítico desta utilização, por todos nós que pretendemos salvaguardar algum nível de liberdade individual na utilização das estruturas urbanas, e assim sustentamos a democracia liberal.
O "espectro de Berlin"
O nosso problema – dos democratas liberais – nessa salvaguarda, é que "liberdade" parece ser o nome de um campo de posições políticas onde nos encontramos, mas onde também nos diferenciamos. Para nos concertarmos nesse campo, podemos usar o seu mapa delineado por Isaiah Berlin no célebre ensaio Two Concepts of Liberty (1969). Nomeadamente, os conceitos de liberdade "negativa" e liberdade "positiva". A primeira é constituída pela mera ausência de imposições humanas externas sobre cada indivíduo. A segunda é constituída pelas condições de possibilidade da abertura de um leque de alternativas, e da capacidade pessoal de escolha e implementação de alguma delas.
Mas tomemos o caso do limite institucional da velocidade na estrada: a liberdade negativa da sua ausência reduz a liberdade positiva das vítimas dos acidentes causados por altas velocidades; assim como a preservação desta segunda liberdade, pela imposição de um limite, reduz a anterior.
Entretanto, qualquer liberdade, nomeadamente a negativa, implica alguma liberdade positiva – sem alternativas, ou sem escolha, ou sem implementação da alternativa escolhida, não fará sentido usar a palavra "liberdade". Assim como não diremos que um tal empoderamento pessoal que oriente absolutamente o agente constitui este último como "livre".
Entre essas duas noções estende-se, pois, um espectro ao longo do qual todos quantos tomamos a liberdade individual como valor político último – aquele que em caso nenhum poderá ser violado – de cada vez escolhemos onde nos posicionar.
Em relação a projetos estruturantes como os das cidades inteligentes, cabe-nos então procurar alguma condição que todos possamos admitir qual mínimo múltiplo comum aos valores da liberdade negativa e da liberdade positiva.
Mas este texto já vai longo para a procurarmos aqui. Hoje registemos que a construção das cidades inteligentes – que certamente cada vez mais constituirão o habitat construído das sociedades mais poderosas – requer a participação crítica da generalidade dos seus habitantes, para que possamos conviver nelas usufruindo todos do melhor da sua "inteligência". Brevemente voltarei a estas páginas para um esboço daquele mínimo múltiplo comum.
Nota – Abriu recentemente no Porto a exposição 'Totalitarismo na Europa', que alerta para as brutais consequências dos totalitarismos comunista, fascista e nazi. Em boa hora o Instituto +Liberdade e a Associação Comercial do Porto a trouxeram a Portugal! Recuando do séc. XX, na Europa incluiríamos o totalitarismo do Antigo Regime… Mas, numa prospeção antes do futuro próximo no séc. XXI, teremos de nos preocupar também com a novidade civilizacional facultada por tecnologias como a que abordamos acima.
* Autor do blogue 'Tecnologia, ser humano e mundo – Aberturas'
Smart cities: Impactos sobre os habitantes
Artigo anteriorRoteiros/ Vindimas: Propostas para rumar à Bairrada
Próximo artigoAnadia: Revelados os projetos vencedores do concurso municipal de jovens empreendedores