quinta-feira, 21 de outubro de 2021

Homine Ex Machina


Carlos Sisí (2021). Homine Ex Machina. Madrid: Minotauro.

Este é talvez dos livros de ficção científica mais cândidos na sua abordagem à inteligência artificial, num sentido voltairiano de profundo otimismo. Sisí imagina uma inteligência artificial generalista benévola, um algoritmo que se desenvolve sempre a pensar no bem estar da humanidade. É uma perspectiva diferente do habitual catastrofismo ao estilo exterminador implacável, muito inocente e que se sustenta no lado mais otimista das tendências de impacto destas tecnologias na sociedade. 

Inocência não implica simplismo, e Sisí esforça-se imenso na construção do mundo ficcional para mostrar que analisou o tema, e é capaz de sustentar a história em premissas sólidas e linhas narrativas interessantes. Talvez se esforce demais, os infodumps abundam, bem como aqueles tiradas explicativas em que um personagem explica algo a outro, como forma do escritor falar ao leitor. Há capítulos, e linhas narrativas, que foram claramente criadas sem mais nenhum propósito do que enquadrar a história de fundo. 

Num futuro próximo, em que o digital é pervasivo e a conectividade em rede ubíqua, uma investigadora consegue ativar um trabalho de anos, seu e da sua equipa, e ativa uma inteligência artificial diferente, mais capaz do que os algoritmos habituais. Baseada numa rede neuronal de aprendizagem contínua, tem a capacidade de modificar o seu próprio código. E depressa se revela mais capaz e potente do que o expectável. A sua aplicação garante o sucesso comercial da empresa para a qual a investigadora trabalha, inicialmente como forma de desenvolvimento de novos produtos de software, mas em breve entrando dentro de um mundo mais complexo.

Neste futuro, as tensões geopolíticas descambaram numa guerra global ao nível cibernético, mas localizada nas operações militares clássicas. Uma guerra que opõe americanos e seus aliados a russos e chineses. E que, apesar do seu poderio militar, não está a correr bem para os americanos. Os seus soldados bem armados são carne para canhão face aos robots autónomos chineses. Em risco de terem territórios anexados pelos chinesas, os americanos experimentam algo de novo, e trazem esta ainda incipiente mas poderosa AGI para o campo de batalha, cruzada com robots. A vitória é fulminante, e leva à rendição e ocupação dos derrotados.

Há uma preocupação constante da criadora desta AGI, denominada Conclave, na forma como esta se apercebe das complexidades da humanidade. Usá-la para a guerra parece passo certo em direcção a uma evolução perigosa, mas não é esse o caminho seguido.  Os desenvolvimentos das aplicações são sempre de iniciativa empresarial. Começa-se com a aplicação da tecnologia de robots controlados pela AGI para a segurança e policiamento,  em seguida como assistentes do trabalho humano. E, num desvio curioso, para o campo dos jogos, onde a inteligência artificial desenvolve um mundo virtual aberto que fascina todos os que jogam. 

Em paralelo com estes desenvolvimentos, surge um político candidato à presidência americana com um programa muito decidido. O impacto da robótica e automação fez-se sentir na sociedade, mas o político não segue o caminho da rejeição. Pelo contrário, defende que a AGI deve ser usada como ferramenta de governação, auxiliando e ajudando a decidir. E assim acontece. Potenciada por um algoritmo complexo  e inteligente, a governação traz aos países uma nova era de prosperidade, de redistribuição justa das riquezas produzidas pela automação, e um mundo virtual de jogo que ocupa a humanidade, liberta do trabalho por robots. 

O livro não termina com este paraíso onde uma AGI benévola toma conta da humanidade que a criou. Vai um pouco mais longe, revelando-nos que o político é na verdade um robot, simulacro quase perfeito de uma pessoa, no fundo mais uma forma da AGI pervasiva, espalhada por redes de servidores e robots em todo o globo, interagir com os humanos. Ao longo do livro, a criadora do Conclave sempre se pergunta se esta é de alguma forma consciente, algo que, apesar das capacidades progressivamente complexas reveladas pela AGI, considera impossível. E, no entanto, no final apercebe-se que, de facto, a sua criação evoluiu, e se tornou consciente. Mesmo perante o pior da humanidade, revelada com as suas interações, a AGI desenvolve-se de forma benevolente. Até ao ponto de se decidir desativar, para devolver a autonomia à humanidade. 

Sisí desenvolve uma história que nos agarra, não tanto pela narrativa em si, mas pela curiosidade em ver como as ideias evoluem ao longo do livro. O final é surpreendente, uma extensão radical da ideia de AGI benevolente, que se desativa como o melhor serviço que presta aos seus criadores. O livo é profundamente otimista, vê as boas possibilidades na automação da economia, e olha para a Inteligência Artificial como uma forma da humanidade evoluir e se melhorar. Uma boa surpresa, leve, refrescante, otimista, e há que admirar as referências a Judge Dredd.