quinta-feira, 2 de agosto de 2018

Army of None


Paul Scharre (2018). Army of None: Autonomous Weapons and the Future of War. Nova Iorque: W.W. Norton.

Debatemos a automação e robótica como uma inevitabilidade, dando como adquirido um futuro próximo onde os robots, sob as mais variadas formas, de grandes máquinas industriais a algoritmos de inteligência artificial, irão dominar a indústria e serviços. A discussão sobre os impactos económicos e sociais está acesa, com diferentes visões de futuros prováveis em análise. Um pouco de fora deste debate estão as aplicações militares desta tecnologia. Nalgumas vertentes, estão mais avançadas do que as civis, e já em uso.

A imagem que a FC nos legou de robótica militar são robots armados a digladiar-se nos campos de batalha, ou a exterminar soldados impotentes perante o seu poderio. A realidade é mais complexa, com um misto de tecnologias adaptadas e concebidas para serem letais. Drones com comportamento de enxame, veículos autónomos, armas automatizadas, mísseis com autonomia para localizar alvos são algumas das tecnologias que hoje estão a ser testadas. Já em funcionamento estão sistemas capazes de reagir em situações de decisão imediata com vários graus de automação. Dificilmente a imagem de robots bípedes a fazer continência, mas são tecnologias em uso e desenvolvimento que levantam enormes problemas éticos.

À partida, a questão de substituir soldados humanos por robots nos campos de batalha parece um passo lógico de humanismo. Destrói-se material, não vidas. Mas as guerras de hoje não são simétricas, com adversários bem delineados. São ambientes complexos onde é difícil distinguir quem combate ou não. Junte-se a isso a tendência da automação de fazer exatamente aquilo para o qual é programada, e o panorama torna-se gravoso. Um soldado pode sempre optar por não disparar, quando a situação é confusa. Um robot segue a sua programação, indiferente à situação.

O espaço militar é um ambiente complexo de tensões, onde ações inócuas mal entendidas podem ter consequências catastróficas. A automação, sem humanos na cadeia de decisão, exacerba este problema.  Outro pormenor ético do uso de armas automatizadas tem a ver com a perda de sensibilidade. Se o inimigo é reduzido a pixels num ecrã, ou pontos de dados num gráfico, a consciência da tragédia que é a perda de vida humana dilui-se.

São estes os temas deste Army Of None. Escrito por um antigo soldado que se dedica a estudar armas autónomas, dá-nos uma visão panorâmica geral do estado da arte neste campo, e aprofunda as questões sobre ética, legalidade e usabilidade deste tipo de armamento.

Sem comentários: