terça-feira, 9 de janeiro de 2018

La chute de l'Empire humain



Charles-Edouard Bouée, François Roche  (20179. La chute de l'Empire humain : Mémoires d'un robot. Paris: Grasset.

A discussão sobre os impactos da inteligência artificial, robótica e automação geralmente termina numa de duas conclusões: ou as do caos nos sistemas sociais, com a redundância do ser humano numa economia automatizada, ou as utopias singularitárias que prometem libertação e transcendência dos limites humanos graças aos avanços tecnológicos. Dado o estado das coisas no início do século XXI, tempos de capitalismo terminal, neoliberalismo alastrante e desastre ambiental global em curso, o espaço de ideias inclina-se mais para as primeiras e mais distópicas opções.

Mas, e se houvesse uma terceira via? Não uma que nos libertasse das agruras e sonhos dos dois pólos clássicos destas discussões. Uma que os une, traçando uma sociedade futura progressivamente definida  pela IA, robótica e automação, conjugando a obsolescência de parte da humanidade, sem emprego possível numa economia automatizada, com a transcendência potenciada pela tecnologia dos limites humanos para aqueles com riqueza suficiente para pagar as tecnologias. Algo que em si já é uma perspetiva pouco animadora, tornada ainda mais distópica por uma característica que já se nota hoje nestes campos.

A inteligência artificial de que hoje já dispomos potentes exemplos distingue-se pelo poder de computação, pela capacidade de analisar enormes quantidades de dados com uma rapidez e eficácia impossíveis aos humanos. É essa a sua grande promessa, de com isso ser capaz de aumentar as capacidades humanas. No entanto, quando olhamos para lá do deslumbre para os sistemas saídos da IA Watson da IBM, com utilização em apoio a actos médicos, para as proezas das IAs específicas que analisam possibilidades e probabilidades concatenadas com sistemas de aprendizagem (IAs como a Alpha Go, que bate os campões deste jogo asiático, ou os algoritmos de redes neuronais de que a Google faz uso), notamos uma singular fraqueza. Ser capaz de analisar quantidades imensas de dados não é equivalente a gerar novos dados. Para isso, é precisa a intuição e conhecimento humanos, todas as nossas dimensões de inteligência que estão para lá do processamento de informação. Analisar dados, com a potência já disponível hoje nos produtos de inteligência artificial, é uma capacidade imensamente útil, capaz de auxiliar humanos na análise e diagnóstico de situações. Resta a questão da origem dos dados a analisar.

Uma ideia que é sublinhada quase na conclusão deste intrigante ensaio. Ao traçar cenários possíveis de evolução social sob impacto de IA, robótica e automação, Bouée faz notar que para além da quasi-religiosidade da transcendência singularitária e da potencial obsolescência de uma humanidade condenada ao desemprego, um futuro dominado por Inteligência Artificial seria eminentemente estável. O imprevisto e o desconhecido não são quantificáveis, e IAs evoluídas a partir de software analítico teriam uma tendência a estabilizar o conhecimento, não produzindo nada de novo, aconselhando os humanos com base em padrões estáveis. A singularidade aqui torna-se uma imensa estagnação do progresso.

Infelizmente, não é esta a conclusão deste longo ensaio. Nele, Bouée começa por nos levar aos primórdios da computação para nos guiar no desenvolvimento potencial da Inteligência artificial, focando-se nas tendências que hoje a caracterizam. IAs de apoio decisório, robótica industrial mas também pessoal e afetiva, automatização da economia, controle de sistemas sociais com base em algoritmos. São elementos que já hoje se fazem sentir. Projectando um futuro próximo, segue o óbvio caminho da aquisição de consciência por parte do software, enquanto sublinha o potencial estagnador da IA. Querendo terminar numa nota optimista, imagina que as instituições políticas e sociais do futuro serão capazes de reagir e travar este progresso, visto como perigoso para a sobrevivência da espécie humana.

Talvez os robots no futuro olhem com nostalgia para memórias de uma humanidade que os criou e eventualmente se extinguiu, como consequência desse acto de criação. Ou talvez nos mesclemos com as máquinas, transcendendo os nossos limites. Talvez nos estejamos a condenar a um futuro de capitalismo automatizado, sustentando com largueza uma minoria de elites, com o resto da humanidade condenada à pobreza, inatividade e obsolescência. Ou talvez o planeta entre em colapso ambiental antes de termos tido tempo para chegar a este ponto de desenvolvimento, quebrando os sistemas complexos de que depende a nossa sociedade global. O melhor deste tipo de livros está em mostrar-nos que o futuro próximo está cheio de desafios, que a evolução tecnológica acelerada irá mudar radicalmente as nossas noções de sociedade, algo para que temos não só de estar preparados para enfrentar mas também, fundamentalmente, modelar. Apesar do título a roçar a distopia e de um final mais cor-de-rosa do que merecia, este ensaio distingue-se pela sobriedade com que traça o passado, presente e prováveis futuros do desenvolvimento da Inteligência Artificial.

Sem comentários: