Armas autônomas – realidade ou imaginação?
Quão autônomas são as armas autônomas? Eles existem na realidade? E de que forma personagens fictícios como o Exterminador do Futuro moldam a forma como pensamos sobre essa tecnologia? Estas questões estiveram no centro da conferência Autonomous Weapon Systems – Realities and Imaginations of Future Warfare. Christoph Ernst (Universidade de Bona) e o investigador do HIIG Thomas Christian Bächle dão uma visão geral do que podemos aprender sobre autonomia técnica ao olhar para estes sistemas de armas.
Mais sobre este assunto em nosso podcast com Frank Sauer:
Os drones tornaram-se emblemáticos de um desenvolvimento que mantém os militares, a política, a indústria e a sociedade civil no limite: a autonomização dos sistemas de armas. Este termo pesado denota o plano de equipar armas com capacidade para realizar missões de forma independente. Há uma contradição óbvia na garantia dos militares de que os humanos podem manter o controlo sobre as chamadas armas autónomas em todos os momentos: estes sistemas podem não só navegar de forma independente, mas também podem realizar acções militares que são independentes da capacidade humana de tomada de decisão, tais como como lançar um míssil. Em princípio, são capazes de ferir e matar pessoas, razão pela qual a abreviatura AWS (para “sistemas de armas autónomos”) é frequentemente precedida por um L (para letal; LAWS), destacando as suas funções mortais. As decisões tomadas por sistemas informáticos baseados na chamada inteligência artificial podem ter consequências graves. O quão importantes eles podem ser em combate está sujeito a debates controversos. Ao mesmo tempo, isto levanta uma série de questões não resolvidas.
É surpreendente que não haja consenso sobre quando as armas devem ser consideradas autónomas e em que aspectos diferem das armas automáticas. Há muito tempo existe um grande número de sistemas de armas altamente automatizados. Os exemplos mais citados incluem o sistema Phalanx americano (ver ilustração) ou o sistema Mantis alemão, ambos usados ​​para defesa de curto alcance. Essas armas são projetadas para destruir ou incapacitar mísseis que se aproximam rapidamente com um sistema de disparo rápido que é acionado automaticamente. Ambos são sistemas estacionários que executam processos predefinidos. Um sistema técnico é denominado autônomo quando o controle humano não é necessário e pode se mover e se adaptar a ambientes dinâmicos e não estruturados por um longo período de tempo após ter sido ativado. As definições do que é uma AWS são indeterminadas e, na melhor das hipóteses, vagas. O que é certo, porém, é que a autonomia das armas tem pouco a ver com a autonomia humana, que alude antes à capacidade de se impor regras e, como resultado, obter a liberdade.
Mas, apesar da inadequação da comparação, nenhuma discussão especializada sobre a AWS deixa de se referir ao conceito de autonomia humana. Por exemplo, um documento de posição publicado em Abril de 2018 pelo grupo chinês de peritos governamentais da Convenção das Nações Unidas sobre Certas Armas Convencionais afirma que a autonomia de tais sistemas deve ser entendida, entre outras coisas, como uma completa “ausência de intervenção humana”: de acordo com as caracterizações deste artigo, estas armas são impossíveis de desligar e devem mesmo ser capazes de “evoluir, o que significa que através da interação com o ambiente o dispositivo pode aprender de forma autónoma, expandir as suas funções e capacidades de uma forma que excede as expectativas humanas”. Estas definições estabelecem explicitamente associações com a autonomia humana. A sua relevância política não resulta do apelo ao desenvolvimento de sistemas que sejam autónomos neste sentido. Pelo contrário, esta compreensão particular da autonomia visa presumivelmente desviar a atenção dos sistemas de armas já existentes que – embora não cumpram os critérios da autonomia humana – podem muito bem agir de forma independente.
As frequentes referências a cenários de ficção científica, como a autonomia do robô assassino nos filmes Terminator, moldam de forma muito eficaz as noções colectivas sobre armas autónomas. Eles são enganosos e comumente rejeitados em debates de especialistas. Ainda assim, mesmo nessas discussões entre especialistas, as avaliações sobre o que é viável ou real no contexto das LAWS são muito mais ofuscadas por especulações fictícias sobre cenários potenciais, mesmo quando os especialistas expressam o desejo de evitar tais comparações. Neste sentido, o conceito de autonomia ajuda a reunir os dois aspectos muito contraditórios: por um lado, oferece a possibilidade de classificar sistemas de armas factuais (autonomia técnica) e, por outro lado, de indicar as expectativas puramente ficcionais em relação tecnologia de armas (autonomia pessoal e humana).
É por isso que as discussões sobre as LAWS e a sua regulamentação são apenas uma pequena parte de um debate muito mais amplo sobre a autonomia técnica em geral: o desenvolvimento contínuo da autonomia técnica – na qual pode adquirir capacidades que são realmente interpretadas como características da autonomia humana – é atualmente percebido como um curso inevitável de desenvolvimento futuro. A atenção especial que é dada atualmente aos sistemas de armas letais autónomos, tanto nas comunidades de especialistas como no público em geral, é o resultado desta circunstância. Pode ser atribuído à expectativa duvidosa de que os sistemas técnicos inteligentes serão capazes de aprender e serão equipados com livre arbítrio e consciência própria.
Um sistema de armas real – o sistema de armas aproximado PHALANX (esquerda) – pode ser transformado de forma imaginativa em um terminador passo a passo (centro, o terminador T-1; à direita, o T-800, captura de tela obtida do Terminator 2 de James Cameron; EUA 1991). A transformação de um sistema de armas, que ficou conhecida no início da década de 1980, é narrada ficcionalmente por meio de representações visuais. A ficção científica é fundamental na formação das ideias culturais atuais sobre LEIS. Estas só podem ser plenamente compreendidas se for tida em conta a antecipação moldada pela imaginação sobre as possibilidades técnicas.
A realidade do LAWS é permeada por expectativas sobre o que é possível. Os seus significados sociais, políticos, jurídicos ou éticos devem ser vistos como uma expressão de diversos processos imaginativos sociais que são igualmente influenciados pelos discursos dos especialistas e pela cultura popular. A principal tarefa destes imaginários é dar forma a um futuro antecipado: ele pode tornar-se a base dos esforços para realizá-lo tecnicamente e, ao mesmo tempo, orientar os debates críticos. Além das realidades da funcionalidade técnica, ou seja, da factualidade das LEIS, é sempre necessário questionar a imaginação sobre as LEIS. Que meios retóricos são usados? Que medos são abordados? Quais são as intenções e propósitos?
Somente analisando estas imaginações seremos capazes de compreender plenamente a realidade de uma tecnologia que ainda não foi realmente concretizada.
Os autores: PD Dr. Christoph Ernst é cientista de mídia na Universidade de Bonn com foco em diagramática, visualização de informações, conhecimento implícito, mídia digital (especialmente interfaces), bem como mudança de mídia e imaginação. Dr. Thomas Christian Bächle é chefe do programa de pesquisa sobre a sociedade digital em evolução no HIIG.
Altmann, Jürgen/Sauer, Frank (2017): »Sistemas de armas autônomos e estabilidade estratégica«, em: Survival 59, 5, S. 117-142.
Ernst, Christoph (2019): »Além do controle humano significativo? – Interfaces und die Imagination menschlicher Kontrolle in der zeitgenössischen Diskussion um autonome Waffensysteme (AWS)«, em: Caja Thimm/Thomas Christian Bächle (Hg.): Die Maschine: Freund oder Feind? Mensch und Technologie im digitalen Zeitalter, Wiesbaden: VS Verlag für Sozialwissenschaften, S. 261-299. DOI: 10.1007/978-3-658-22954-2_12
Suchman, Lucy A./Weber, Jutta (2016): »Autonomias Homem-Máquina«, em: Nehal Bhuta u. a. (Hg.): Sistemas de Armas Autônomas. Lei, Ética, Política, Cambridge e Nova York, NY: Cambridge Univ. Imprensa, pp. 75-102.
Referências às ilustrações
Ilustração 1: Falange; proveniente de: https://en.wikipedia.org/wiki/Phalanx_CIWS#/media/File:Phalanx_CIWS_USS_Jason_Dunham.jpg| Último acesso em 14.08.2019
Ilustração 2: Terminador T-1; proveniente de: https://terminator.fandom.com/wiki/File:14989_0883_1_lg.jpg | Último acesso em 14.08.2019
Ilustração 3: Captura de tela de Terminator 2 – Judgment Day (1991); proveniente de: https://terminator.fandom.com/wiki/Minigun | Último acesso em 14.08.2019
Esta postagem representa a visão do autor e não representa necessariamente a visão do próprio instituto. Para obter mais informações sobre os tópicos destes artigos e projetos de pesquisa associados, entre em contato com email@example.com.
Explore o problema de pesquisa em foco
Inscreva-se no resumo mensal do HIIG
e receba nossos artigos mais recentes do blog.
Dado que os trabalhadores são constantemente incentivados a requalificar-se, como podem determinar em que competências investir? Aprendizados de uma das maiores plataformas de freelancer online do mundo.
As empresas dominam os espaços digitais, impactando o debate público. Poderiam os Conselhos de Plataforma tornar a comunicação online mais democrática?