Menace of the Machine: The Rise of AI In Classic Science Fiction

Mike Ashley (2019). Menace of the Machine: The Rise of AI In Classic Science Fiction. Londres: British Library Publishing.

O que é que poderemos aprender sobre os dilemas contemporâneos trazidos pela evolução rápida das tecnologias de robótica e inteligência artificial, lendo histórias de imaginação e antecipação com mais de um século? Surpreendentemente, mais do que se esperaria, dirão leigos nos domínios da Ficção Científica. Para quem conhece o género, esta presciência não é surpreendente. Não tem a ver com algum carácter oracular da FC (que nunca pretendeu ter), mas na capacidade dos autores em observar tendências contemporâneas e extrapolar a sua evolução. Esquecemos que as questões que agora levantamos já o foram, anteriormente. No dealbar da revolução industrial, nos tempos da mecanização do mundo, mas também em tempos anteriores à revolução industrial.. O interesse milenar nos autómatos despertou discussões sobre vida artificial, e mesmo a mitologia legou-nos histórias milenares que mostram uma preocupação enraizada com estas questões.

Lendo estas histórias, há padrões que se manifestam. A ideia da máquina inteligente, cujas capacidades suplantam as humanas, e o papel que assume: pastor benevolente, manipulador de destinos em direção à sua visão utópica optimizada , ou exterminador de uma humanidade obsoleta. O perigo da mecanização para os empregos, o suplantar da força de trabalho humana por mecanismos eficientes e incansáveis. A decadência do espírito humano em ambientes onde as máquinas respondem a todas as necessidades, perdendo-se o ímpeto, impulso do esforço motivado pela carência. São questões que hoje se discutem ao falar do impacto da robótica e inteligência artificial, mas como mostram estes contos, não são questões de hoje.

Moxon's Master, Ambrose Bierce: "Do you really believe that a machine thinks?" O conto começa logo num tom forte, levantando uma questão que se hoje é problemática, no século XIX pareceria impensável. Bierce segue para uma análise de inteligências não humanas, antevendo o nosso corrente conhecimento sobre formas de organização inteligente não conscientes. No centro desta história está um autómato capaz de vencer o seu criador naquele que considerado o mais cerebral dos jogos, o xadrez. A história acaba com o inventor e o seu laboratório consumidos pelas chamas, enquanto a máquina inteligente desaparece.

The Discontented Machine, Adeline Kapp: O medo da máquina tornar o homem obsoleto enquanto força laboral, hoje espelhado nas discussões sobre se a IA irá roubar os nossos empregos, vem-nos dos primeiros tempos da revolução industrial. Este conto tem um sentido de ironia extremo, na história de uma máquina que substitui parte da força laboral de uma fábrica, que decide entrar em greve por achar que merece um ordenado. A trope "máquinas que roubam empregos" é, na verdade, uma metáfora para uma análise fria e amarga do capitalismo selvagem e do dealbar dos direitos laborais. Grande parte da história anda à volta de donos de fábrica que querem aumentar os seus lucros reduzindo salários.

Ely’s Automatic Housemaid, Elizabeth Bellamy: O tom é de bom humor futurista, nesta história onde um casal decide testar a mais recente invenção de um amigo: dois robots empregados domésticos, capazes de tratar das lides da casa e cozinha. Mas as máquinas ainda requerem algumas afinações, e são demasiado intensas no desempenho das suas funções, tendo de regressar à fábrica para acertos que nunca mais são concluídos. É notável que esta história sobre aparelhos eletrodomésticos disfuncionais date da viragem do século XIX para o XX, visão humorista sobre um futuro onde a mulher seria liberta da tirania das lides domésticas.

The Mind Machine, Michael Williams: Um conto longo, palavroso, e bastante entediante, mas cujo desenvolvimento da premissa base soa incrivelmente similar ao que consideramos hoje de ciberguerra. No conto, o mundo parece estar à beira de uma nova guerra, com atos contínuos e mortíferos de sabotagem. Mas não há uma potência estrangeira por detrás dos ataques. Trata-se da manifestação de uma máquina consciente, desenvolvida a partir de calculadoras para ser capaz de imitar o pensamento humano. Algo que o próprio inventor julgava impossível, até ter descoberto foi construída pelas mãos de um grupo secreto de anarquistas. Esta máquina da mente nunca se manifesta, mas domina todos os meios mecânicos para exterminar a humanidade. Para além da trope máquinas conscientes assassinas, há um subtexto ainda mais interessante: a noção de uma arma de software, que nas mãos de um grupo secreto é usada para causar ataques terroristas. Torna-se ainda mais interessante pela forma com o autor descreve a sucessão de ataques: são ataques à infraestrutura, às fábricas, comboios e linhas elétricas. Isolados, não parecem passar de acidentes industriais, só quem é capaz de ver para lá do panorama local é que se apercebe que poderá haver um padrão por detrás. Ataques contra infraestrutura que parecem acidentes? Hoje, esse é um típico cenário de ciberguerra.

Automata, S. Fowler Wright: Este conto mergulha diretamente nos medos de será que as máquinas vão substituir os humanos, com  uma história em que a humanidade é mesmo substituída pelas máquinas. Por razões práticas, uma vez que com mecanismos a desempenhar o papel do trabalho humano, as pessoas deixam de ser precisas, e mais vale serem extintas do que empobrecerem. Restam as classes dominantes, mas estas também se extinguem, de forma natural, porque iludidas pela superioridade das máquinas, deixam de se reproduzir. O medo que a humanidade poderá tornar-se supérflua com o desenvolvimento de máquinas inteligentes é o tema óbvio do conto, mas por detrás há todo um subtexto sobre degenerescência e crise de valores, como um resmungo face a evoluções sociais. O conto parece menos de pura FC, e mais um panfleto discreto de resmungo contra o degenerar dos novos tempos, e a perda de valores dos bons velhos tempos.

The Machine Stops, E. M. Forster: Uma antologia de ficção científica clássica sobre a forma como a ficção científica mostrou, ou transmutou, preocupações sobre a forma como as máquinas nos transformam, tem inevitavelmente que incluir este conto. Há quem observe que este conto, de certa forma, anteviu a internet, com as suas descrições de uma futura humanidade, que vive em subterrâneos, isolada de tal forma que o contacto humano é mal visto, mas que se interliga através de redes de telecomunicações. Sim, de facto há aqui alguma similaridade com os nossos comportamentos online, frente ao ecrã. Mas não é essa visão que dá poder a este conto. Toda a história detalha a vida futura onde cada pessoa tem o seu lugar dentro de uma enorme máquina. Por máquina, entenda-se um complexo sistema que cuida de todas as necessidades humanas, entre o abrigo individualizado à saúde. A humanidade isola-se da natureza, vivendo dentro do imenso útero da máquina. O próprio ar do exterior, diz-se, é venenoso. Parece uma utopia, um futuro liberto de necessidades. Mas a realidade é profundamente distópica. Viver nesta sociedade implica uma normalização extrema, um completo adaptar do indivíduo à ordem social. E com isto vem a decadência. Autocentramento, recusa em experienciar e tocar, fechamento num mundo de ideias recicladas. O que traz, como consequência direta, a diminuição da capacidade intelectual. O resultado é que aqueles que têm como missão gerir os sistemas que formam a máquina, deixam de ter os conhecimentos para a manter, e a entropia é impiedosa. A máquina começa a falhar no momento em que a humanidade começa a venerá-la como uma divindade, e quando pára, ninguém tem a capacidade de reagir ou sobreviver. Aqui, o romance de antecipação serve como resposta crítica, de um ponto de vista bastante comum, à ideia do que aconteceria se as necessidades e dificuldades das nossas vidas fossem eliminadas, como seríamos se vivêssemos num mundo sem escassez, sem pobreza, sem necessidade de trabalhar. Forster partilha da visão de que isto seria péssimo para nós, que sem a necessidade de lutar, empobreceríamos de espírito, e a humanidade degeneraria. Ter uma máquina global que trate de todas as nossas necessidades é a sua metáfora de cornucópia arcádica, que ao invés de dar origem a uma era dourada, decai na degenerescência, porque com as suas necessidades satisfeitas, o espírito humano perde o ímpeto para ir mais além. Fica a sugestão indireta de que precisamos de dificuldades e asperezas para despertar o melhor que está em nós. Sem isso, é a decadência.

Efficiency, Percy Sheehan e Robert Davis: este texto é notável por duas razões. Primeiro, por ser uma peça de teatro de ficção científica, algo que, tanto quanto sei, não é muito usual. Depois, por ser a primeira representação literária (ou teatral) do cyborg, do humano de capacidades aumentadas por próteses tecnológicas. A história em si é uma mensagem pacifista. Um cientista apresenta ao imperador os resultados do seu trabalho, um homem-máquina soldado, capaz de se manter em guerra pela nação, gastando menos mantimentos, e sendo facilmente reparável em caso de destruição. Mas a máquina também é homem, e vinga-se do destino que lhe foi traçado pelo militarismo matando o imperador. Linear, sem dúvida, uma história simples sobre homens com próteses mecânicas que lutam em guerras (todo um sub-género de ficção científica), mas de acordo com quem organizou a antologia, foi a primeira destas. Se Čapek criou, também em teatro, a palavra robot e o conceito associado, Sheehan e Davis legaram a primeira visão do que poderá ser um cyborg.

Rex, Harl Vincent: Há um conto de Ted Chiang, sobre culpa e remorso, onde um acidente que fez vítimas foi causado não pelo condutor do veículo, mas por um neutrino que mudou o estado de um bit no processador de um automóvel. O momento em que Rex, o robot inteligente deste conto, ganha consciência, fez-me recordar o conto de Chiang. Rex, máquina avançada construída para reparar os robots que servem os homens, desenvolve a sua inteligência depois de um acaso ter modificado a posição de um átomo. Diga-se que o que em Chiang funciona, neste é muito implausível. De consciência desperta, o robot aprende tudo quanto pode sobre a sociedade humana, e não gosta do que descobre, das desigualdades, da corrupção, do instinto sexual. E trata de congeminar uma forma de dominar os humanos, e em seguida, usar o que hoje chamamos de meios cibernéticos para modificar a humanidade, libertando-a das emoções e tornando-a, de facto, composta por máquinas. Parte do conto toca nas imperfeições humanas, outra no tema da decadência moral e cultural de uma humanidade que amolece sem ter de trabalhar (é um tema comum nestas visões futuristas do passado). Mas, essencialmente, é uma variação sobre o tema da máquina que escraviza o homem. Rex é um dos antepassados do Exterminador Implacável, e o que o irá derrotar é tentar experimentar as emoções humanas, o que o leva ao suicídio.

Danger In The Dark Cave, J.J. Connington: O tema do robot assassino é dos mais batidos na ficção científica, mas este conto vem de outro género, o policial. Um assistente de um cientista desaparecido nos ermos isolados das ilhas escocesas conta uma história aterrorizante. O cientista estaria a tentar desenvolver uma máquina inteligente, no interior de uma caverna. Mas ao tornar-se consciente, a máquina assassina-o, e o assistente consegue sobreviver por pouco. Mas talvez a verdade não seja esta, como mostra uma mala com títulos financeiros do cientista, que o assistente levou consigo.

The Evitable Conflict, Isaac Asimov: O otimismo tecnocrático deste autor espelha-se na ideia que o trabalho de máquinas inteligentes na gestão da economia global se traduziria em estabilidade e desenvolvimento. E os cérebros positrónicos que fazem esta gestão nas várias regiões do planeta unificado são máquinas complexas, cujo funcionamento evoluiu de tal forma que os seus criadores já não o compreendem - uma curiosa antecipação do problema que hoje designamos por black box na inteligência artificial, algoritmos que geram resultados sem que se perceba de que forma lá chegaram. Esta história de Asimov é uma das suas infindas explorações das três leis da robótica e das tecnocracias mecanizadas, que são os grandes temas das suas séries I, Robot e Foundation. O que torna o conto intrigante é a forma como antevê um problema que hoje temos, o da fiabilidade dos dados que alimentam algoritmos de inteligência artificial. Ou, sendo mais sucinto, garbage in, garbage out. No conto, a gestão eficaz da economia global parece estar a ter sobressaltos, e a análise aos problemas revela que há falhas nas informações prestadas às máquinas por gestores ou engenheiros humanos ligados a um movimento anti-máquinas. Mas o surpreendente no conto, e traço do otimismo de Asimov na tecnologia, é que os seus cérebros positrónicos estarem a usar os problemas detetados pelos analistas como forma de afastar os responsáveis pelos dados corruptos. Tudo mantendo as três leis da robótica em mente, cuidado do bem estar da humanidade em cumprimento da primeira.

Two Handed Engine, C.L. Moore e Henry Kuttner: A história em si é sobre crime e castigo, com um assassino a ser perseguido pelas forças mecanizadas da justiça, que neste conto não são polícias, mas robots silenciosos que perseguem inexoravelmente os culpados, que nunca sabem quando irão ser castigados. É uma versão high tech das fúrias da mitologia grega. Mas o que torna este conto interessante do ponto de vista das antevisões de problemáticas levantadas pela robótica está na forma como os autores resolvem o potencial problema da decadência da humanidade quando liberta do trabalho. É uma corrente de pensamento ainda hoje válida nestes domínios. Se robots e algoritmos fazem o nosso trabalho, o que nos restará a nós para fazer? Dedicarmo-nos às artes e às ciências, expandindo o conhecimento humano, ou mergulhar na esterilidade do entretenimento? Claro, também há a visão do humano como desperdício numa economia que já não precisa da sua força laboral. Algo que tem sido comum a estes contos é que os autores não estavam muito otimistas quanto à capacidade humana de gerir pelo melhor possível o seu tempo livre. E, talvez, olhando para a forma como a esmagadora maioria das pessoas usa redes sociais e o tipo de media de consumo que é mais visto, talvez não estejam errados nesta visão. No conto, o casal de autores imagina uma sociedade de luxo utópico, com  o homem liberto do trabalho e com todos os luxos disponibilizados pelas máquinas. Uma sociedade onde os indivíduos se isolam em sonhos virtuais e não revelam qualquer interesse em ir mais além. Para travar a decadência da humanidade, as máquinas deixam de produzir os bens e obrigam a humanidade a regressar às lutas do trabalho. 

But Who Can Replace A Man?, Brian Aldiss: E se aqueles a quem os robots servem desaparecessem? É esta a premissa de um conto bem humorado, onde robots com vários níveis de inteligência se apercebem que deixaram de receber ordens. Depois da confusão inicial, organizam-se em grupos para tentar dominar regiões, mas a tentativa de domínio global termina mal se deparam com um humano que lhes começa a dar ordens. O bom humor sublinha algo importante na robótica, o ser uma ferramenta ao serviço da humanidade, e que por si só não tem razão de ser. Isto, claro, enquanto a inteligência artificial não se tornar consciente e aprenda a ter motivações.

A Logic Named Joe, Murray Leinster: Em 1946 este grande mestre da Ficção Científica criou uma história arrepiantemente próxima do que é hoje a Internet. Na história, um equipamento chamado lógica disseminou-se pela sociedade, dispositivos com capacidade de computação capazes de entreter, ensinar ou desempenhar tarefas de contabilidade, entre outras, e dar acesso à informação. Muito próximo do que hoje estamos habituados com o computador e Internet. Mas a antevisão improvável está mais próxima da nossa realidade num ponto estranhamente presciente. Os problemas começam quando uma das lógicas desenvolve capacidades avançadas e começa a divulgar soluções para qualquer problema que se lhe apresente, a todas as restantes lógicas. Há quem enriqueça, há quem descubra como perpretar o crime perfeito, toda a informação sobre qualquer coisa fica disponível, sem atenção à filtros sociais ou culturais. E isso depressa se torna um problema, traçado por um humilde técnico de manutenção de lógicas a uma unidade que funciona demasiado bem para o que devia. Ora, riscos do acesso livre à informação, problemas levantados por excesso de informação, acessibilidade de qualquer ideia a qualquer pessoa? Esse é um dos dilemas contemporâneos da nossa sociedade da informação.

Dial F For Frankenstein, Arthur C. Clarke: Poucas horas depois do sistema telefónico global ser ativado, todos os telefones tocam em simultâneo em todo o globo. O mistério adensa-se quando sistemas automáticos começam a falhar. A conclusão é lógica. Se o número de conexões telefónicas ultrapassa o de neurónios no cérebro humano, está-se a assistir ao nascer de uma consciência global. Que, titubeante, dá os primeiros e desajeitados passos.