Magnifica Humanitas

Leão XIV (2026). Magnifica Humanitas: Sobre a salvaguarda da pessoa humana na era da inteligência artificial. Lisboa: Paulinas.

Das coisas que não estavam nas minhas cartas para este ano, e no entanto, aconteceram. Eu, empedernido ateu, a ler, meditar e apreciar uma encíclica doutrinária papal. Se isto vos surpreende, recordem-se: estamos a perder em guerra aberta pelo capitalismo predatório,  e precisamos nas trincheiras de união apesar das diferenças. Mais importante que a diferença entre não acreditar e acreditar em mitos como se fossem reais, é a igualdade do humanismo, a única arma que temos contra aqueles que se estão a apropriar de uma tecnologia fascinante para enriquecer ainda mais. Piorando as condições sociais, ambientais e laborais, extraindo riqueza que fica concentrada nos seus fundos offshore e outros malabarismos fiscais em vez de circular na sociedade. 

Ou não vos dá uma certa vontade de começar a afiar a lâmina da guilhotina sempre que um ceo ou bilionário proclama alegre e orgulhoso que os  benefícios da IA serão tantos que vai já despedir uns  milhares de trabalhadores, sorrindo ao falar-nos de futuros onde áreas laborais inteiras deixem de precisar de mão de obra hunana? E, talvez, com a água racionada, se se levar ä letra a ideia de um certo bilionário que começou por enriquecer a vender livros e agora é dono da infraestrutura que sustenta grande parte da internet, e passar a investir os recursos hídricos escassos no desenvolvimento da IA, que trará ainda mais prosperidade ao seu já gargantuesco bolso, em vez das necessidades básicas dos meros humanos.

Sim, eu sei. Estou a falar do dono do Goodreads. Percebo a ironia. Mas estou a divergir.

Parte desta encíclica lê-se na diagonal. É una encíclica doutrinária, e o seu texto reflete sobre os pressupostos do edifício intelectual da teologia católica. É, certamente, fascinante para crentes, fiéis e teólogos, mas não muito importante para o meu objetivo de leitura.

Apesar da sua origem e destino teológicos, tocou-me o fundo profundamente humanista desta encíclica. Após os necessários rodeios doutrinários, enfrenta o tema de frente: a forma como a IA, e a tecnologia em geral, está a ser apropriada pela elite financeira capitalista para fazer crescer ainda mais desmesuradamente os seus ganhos, em detrimento da sociedade humana, das pessoas, do próprio planeta. Vindas de onde veem, as palavras não têm o tom viva la revolución que lhes coloco, são mais os apelos de um sacerdote sábio ao amor e solidariedade. Mas é isto que se destila da leitura: uma revolta profunda contra a forma como a tecnologia está a ser usada para piorar o mundo em que vivemos.

O texto não é uma negação da tecnologia, ou um apelo à paragem do desenvolvimento da IA. Bem pelo contrário. A importância da ciência e tecnologia é sublinhada, e quanto à IA, é observado o seu potencial. O foco, e aqui o papado entra na trincheira partilhada por todos os críticos conscientes da IA, está na forma como esta tecnologia está a ser apropriada pelas piores forças do capitalismo - as que buscam a primazia do lucro acima de tudo, cilindrando os trabalhadores, as famílias, a sociedade, os recursos naturais, o ambiente, a nossa casa planetária comum. É uma revolta dupla, feita contra o asco perante este novo excesso de desumanidade, mas também pela frustração de ver o potencial libertador da tecnologia a ser cooptado para a opressão, quer a financeira, quer a politico-militar.

É uma encíclica de palavras sábias, que certamente tocarão no âmago dos crentes. Como ateu, não me deixam indiferente, bem pelo contrário. O humanismo do amor ao próximo, o reconhecer que podemos e devemos lutar por um mundo melhor, que a tecnologia deve ser ferramenta para que todos enriqueçamos, mostram que este papa está do lado certo da história. Que, infelizmente, dado o poder dos bilionários, talvez não seja o lado vencedor. Mas pelo menos, estamos do lado dos que procuram lutar pelo mais correto, pelo bem da humanidade. Valha-nos isso.

README: A Bookish History of Computing from Electronic Brains to Everything Machines

W. Patrick McCray (2025). README: A Bookish History of Computing from Electronic Brains to Everything Machines. Cambridge: MIT Press.

Pode parecer contra-intuitivo, olhar para a história da computação sobre a perspetiva dos livros. Afinal, computação é tecnologia, intersectada com impactos sociais, e temos o hábito de pensar mais nos elementos tecnológicos do que na literatura. O que McCray demonstra é o oposto. O venerável livro, como objeto e como meio de arquivo e divulgação de informação, tem sido um companheiro fundamental da evolução da computação. 

A grande razão é a nossa sede de conhecimento, e mesmo nos dias em que o livro como objeto físico se dissolve no digital, continua a ser o meio primordial e privilegiado para concentrar e sintetizar informação, mesmo em campos tecnológicos onde sabemos que o tempo que medeia entre escrever, editar e publicar um livro pode significar que quando chega aos leitores, já está desatualizado sobre a vanguarda da tecnologia que aborda. Mas há algo mais profundo em jogo - primeiro, o livro enquanto analista de grandes tendências. Da minha experiência a ler antigos livros de futurismo tecnológico, é muito interessante perceber que se as tecnologias mudam, a grande novidade futurista de hoje está amanhã obsoleta e esquecida, as tendências estruturais onde as melhores análises tecnológicas se inserem parecem estar continuamente presentes. Se antigamente se falava de computadores inteligentes com misto de deslumbre e preocupação, hoje   fazemos exatamente o mesmo, trocando computadores por inteligência artificial, dando um exemplo muito óbvio de ideias estruturais que se mantém apesar da forma como a tecnologia evolui.

McCray constrói a sua análise bibliográfica de forma cronológica, olhando para as várias etapas da evolução da computação através de obras-charneira que lhes foram contemporâneas. As surpresas começam logo no princípio, no final dos anos 40, tempo do surgimento dos primeiros livros que procuravam explicar o que era o computador para o público em geral. McCray olha em particular para um livro que na ânsia de procurar uma metáfora acessível  que facilitasse a compreensão rápida da essência do mundo da computação, nos legou uma ideia que se tornou perene. O livro foi o Giant Brains de Edmund Berkeley, e não é difícil fazer o salto conceptual  de ter sido a obra que estabeleceu na consciência global uma metáfora tão pervasiva que se hoje pedirem a um qualquer gerador de imagens por IA que mostre como é a IA, sai de certeza uma imagem de uma espécie de andróide de cérebro digital.

Este livro leva-nos a redescobrir outros autores e pensadores fundamentais. Norbert Wiener, que na sua visão de cibernética teve a preocupação de temer o potencial desumanizador da sua visão tecnológica nas mãos de tecnocratas. Joseph Weizenbaum, talvez o primeiro grande crítico da tendência humana para confiar em excesso e atribuir uma falsa humanidade ao output dos computadores. Ted Nelson, o controverso ícone contra-cultural que viu no computador um extraordinário elemento capacitador e libertador do potencial humano.

Mergulha também na importância dos manuais técnicos, coligindo o conhecimento essencial sobre os novos campos da tecnologia, e tornando-se obras de charneira ao permitir disseminação e acesso ao conhecimento. Toca no desenvolvimento da tecnologia de representação textual em ecrãs com o desenvolvimento do LaTex. 

Termina com uma nota algo amarga. Todo o livro foca-se em obras que descreveram ou alicerçaram a revolução computacional, quer entre a visão explicativa, crítica ou pedagógica.  Termina com uma ideia de colapso ideológico, descrevendo na perfeição a bolha da internet nos anos 90, rodeada do hype de autores como George Gilder ou Esther Dyson, que propalaram uma visão de otimismo comercial que colapsou quando a realidade económica não correspondeu às visões de prosperidade digital imediata.

Se  o livro termina aí, não deixa de se questionar sobre o corrente momento, com o impacto das tecnologias de Inteligência Artificial, com aquele sentimento de medo e deslumbre com algoritmos aparentemente capazes de simular consciência e sentido textual, recordando-nos que a história da construção automática de textos antecede a IA e das problemáticas de alucinações, plágio e fraude trazidas pela geração de texto.

Como bibliófilo que sou, não consigo terminar esta leitura sem a perceber como um elogio ao papel do vetusto, mas sempre eficaz, livro. Quer como meio de transmissão de conhecimento, mantendo-se relevante e essencial mesmo na nossa contemporaneidade onde há tantas outras formas de o fazer. Quer, também, como elemento de prestígio, inscrevendo a computação na profunda tradição simbólica do livro.

A Revolução dos Computadores

Nigel Hawkes (1973). A Revolução dos Computadores. Lisboa: Verbo. 

Podemos aprender alguma coisa lendo um livro, generalista, sobre computação escrito nos anos 70? Dada a rápida evolução da tecnologia, o que este livro contém ainda é válido? Claro que sim, a menos que sejam daqueles que só conseguem compreender o lado meramente técnico da tecnologia, e imunes às suas vertentes sociais e culturais.

Claro que, como livro que nos chega, literalmente, de uma outra era, nos fala de tecnologias de computação que estavam nos seus primórdios. Há campos onde o livro nem toca, como o da computação pessoal - naturalmente, nesses tempos creio que se estavam a começar a dar os primeiros passos no que se veio a mostrar a grande democratização da computação. Há uma outra falha que a história explica: o livro aponta o eniac americano como o primeiro computador, parecendo esquecer todo o trabalho de Alan Turing com o Colossus em Bletchley Park. Não é falha, parece-me, é bom recordar que no pós-guerra o desenvolvimento desta tecnologia pelos britânicos foi mantido num segredo que durou até ao final do século XX. Suspeito que no tempo em que o autor fez a investigação de base para este livro, todo o salto computacional dado no Reino Unido durante a II Guerra estivesse ainda sob classificação secreta.

É nas visões do que a computação poderia fazer que se encontra o melhor do livro. Aliás, nestes aspetos, bastaria trocar "computador" por "inteligência artificial" para fazer parecer que o livro foi escrito nos dias de hoje. Está lá o essencial das questões que hoje nos afligem - o potencial produtivo, os riscos de hipervigilância, o medo dos desempregos, os riscos do mau uso ou da apropriação destas tecnologias por elites. 

O livro ainda consegue fazer referência ao potencial criativo da computação, inspirado na lendária exposição Cybernetic Serendipity, falando do que à época eram experiências de vanguarda na música eletrónica, desenho e arte computacional.

A Realidade morreu - Viva a Realidade Aumentada!

Luís Martins (2017). A Realidade morreu - Viva a Realidade Aumentada!. CreateSpace.

É deprimente constatar que um livro destes, novidade em 2017, é agora o tipo de obra que se encontra abandonada em alfarrabistas. A obra é uma visão introdutória abrangente sobre a realidade aumentada, e seria injusto apontar que se tornou obsoleta. Claro, muitas das plataformas e aplicações nomeadas ou já não existem, ou não ganharam a tração esperada. Mas o essencial, a análise das capacidades e potenciais da RA como tecnologia, não perdeu atualidade e é um excelente ponto de partida para a compreender. 

Podcast Ubuntu Portugal #366: Ensino de TIC

Diz que me raptaram para isto. Temo as consequências de confirmar ou desmentir, da próxima em vez do clorofórmio posso ser cooptado com uma pancada. E pancadas na tola já tenho mais que muitas. 

O desafio partiu do Centro Linux, para participar no podcast Ubuntu Portugal. Podem ouvir nesta ligação: Podcast Ubuntu Portugal #368: Ensino de TIC em Portugal (Ubuntu, o sistema operativo de código aberto, não aquele programa educativo que parece ter caído em esquecimento). 

Foi uma oprtunidade de partilhar o que se faz por cá na educação digital com outro mundo, recordando que o que para nós, professores, é normal e bem conhecido é praticamente desconhecido para o resto da sociedade (mesmo que tenham filhos nas escolas ou paritlhem a vida com professoras). Foi uma conversa à solta, vale o que vale, espero não ter sido injusto ou esquecido colegas e projetos que deveria ter referido. Creio que é importante que partilhemos o que se faz na educação fora das nossas bolhas de informação, da mesma forma que é saber o que se passa noutros mundos culturais e profissionais. 

Por curiosidade, importei o registo audio da conversa para o Notebook LM, e fiquei intrigado com o destaque que deu a tudo o que foi conversado. Sobre o infográfico, deixo o caveat lector que sai de conversas e percepções, com todas as incorreções advindas da oralidade solta, não de achismos taxativos.

AI Innovation Garden BPI

 

Não perdi a oportunidade de ir visitar a segunda edição do AI Innovation Garden no BPI. Não esperava muito, este tipo de eventos são muito corporate, reina a vacuidade do marketing, a profundidade e sentido crítico são nulos. A mensagem reinante é de uma discplicência intelectual confrangedora, e de deslumbre com a superficialidade das ferramentas. Por outro lado, não é todos os dias que podemos interagir com um andróide Unitree G1, por isso enfrentei o suplício de aturar o discurso corporate delicodoce.  

"Ou até ter de pagar a alguém para fazer isto", conclui, animado, um jovem guia da exposição. Começou a sua apresentação de ferramentas de AI in business a contar-nos que era filho de donos de um restaurante de bairro e mostrou como usou a IA para recriar o design, criar um site (com críticas falsas, referiu) ou gerar uma apresentação para convencer o banco a emprestar-lhe dinheiro. Tenho por hábito nestes momentos o de não interromper, porque quem está ali a falar connosco está apenas a fazer o trabalho para o qual foi contratado, e apesar da tenra idade, suspeito que a ironia de ser pago para dizer coisas como "não é preciso pagar a ninguém" não lhe escapa, até porque deve estar a ganhar pouco menos do que o salário mínimo. Isto, caso não lhe tenham acenado com a ilusão de um voluntariado para fazer currículo.

Também não me escapou a ironia de estar na sede de um banco a ouvir um representante do banco a mostrar como fazer uma apresentação sem quaisquer dados reais para fazer um pedido de empréstimo.

Confesso, gosto muito de IA, mas é deprimente assistir a todo este discurso de deslumbre e elogio da preguiça. Faz por ti, é só pedir, não tens de te preocupar, fica logo tudo prontinho e nem sequer precisas de pagar a outros para fazer as coisas. É um discurso de profunda desresponsabilização intelectual. Uma pura sociedade do espetáculo, diria Debord, ou uma cultura de fancaria, penso eu com o calão lisboeta. É uma atitude que sempre existiu, mas com a IA, este anti-intelectualismo e cultura do esforço mínimo tornou-se moda.

A cereja em cima do bolo? O grupo onde estava atrasou-se a sair, e assisti a outro guia da exposição a fazer exatamente o mesmo discurso, para outros visitantes. Tudo tão displicentemente falso, e assumido.

Foi também algo doloroso ouvir as guias da exposição a mostrar robots educativos - daqueles que poucos usam, e a referir que já havia umas escolas no norte a trabalhar robótica, mostrando que quem organizou a exposição não se deu ao trabalho de fazer o trabalho de casa. Provavelmente, perguntou ao chatgpt. É um inacreditável tiro ao lado, falar desta forma num país com uma tradição crescente na robótica educativa, com alunos da escola pública que vencem regularmente campeonatos internacionais de robótica.

Vá, até fiquei parecido. Um dos pontos interessantes da AI innovatiion garden é o seu robot que desenha com IA. Tinha de experimentar, quando pediram um voluntário ultrapassei a minha habitual relutância e ofereci-me. 

O processo é bizarramente laborioso - implicou tirar uma foto, incorporar no Gemini para gerar um desenho à linha, que depois teve de ser manualmente editado no photoshop para ser incorporado no software de controle do braço robótico. A imagem resultante não ficou como pretendia à primeira, nem à segunda, e só não houve terceira porque não deixei que a guia da exposição perdesse mais tempo a repetir o prompt. 

Achei um excelente exemplo de como não usar IA, pensando no longo historial de projetos de open source que fazem o mesmo com câmaras, arduino, axidraws e similares, sem ter a trabalheira manual de usar IA. Leva também a refletir na forma como a IA, ou em bom rigor, as ferramentas de interface para interacção com modelos, ajudam a aprofundar o desconhecimento. Quem não conhece, fica a pensar que esta é a maneira de executar um processo. 

Foi uma boa metáfora para os solucionistas da IA, que nos impingem automação às três pancadas de processos que de outra forma funcionariam melhor. Nisto, não conheço melhor exemplo que as labirínticas delícias kafkianas dos sistemas inteligentes de atendimento telefónico, que parecem ter sido concebidos para levar os utentes ao desespero, e são a melhor personificação da expressão de Doctorow - a IA não te tira o emprego, mas o teu patrão convence-se que lucra mais se te despedir e usar uma ia que faz mal o teu trabalho. 

Mas vá, acertou no cabelo hirsuto e barba desgrenhada. 

Apesar dos elogios à displicência, vale a pena visitar a segunda edição da AI Innovation Garden, por duas singelas razões - dá para interagir com dois robots daqueles que nos seria difícil de encontrar no dia a dia.

Homem e Computador

John Kemeny (1974). Homem e Computador. Cia. Gráfica Lux.

Cruzei-me, num daqueles bons acasos, com uma edição brasileira deste livro. Sou grande fã do retrofuturismo, de ir ler o que há décadas atrás se escrevia e especulava sobre o impacto da ciência e tecnologia da época, e das tendências de futuro. São geralmente leituras interessantes, que nos recordam as esperanças que no passado se depositavam nos futuros, nos fazem sorrir com alguma da inocência com que extrapolavam impactos sociais da tecnologia, e nos levam a refletir nos caminhos que o desenvolvimento realmente trilhou. 

Não são leituras para se fazer no espírito de desprezo sardónico, apontando as falhas de previsões e as especulações que se revelaram infundadas. Estas visões de futuro são datadas, dizem-nos muito sobre o espírito da época em que foram escritas. Recordam-nos que as nossas visões contemporâneas, que acreditamos serem as corretas, terão o inevitável destino de parecerem datadas às gerações futuras. O pó dos tempos é implacável a apagar o fulgor epocalista.

John Kemeny não foi um divulgador especulativo, ao estilo de um Asimov ou do casal Toffler. A sua visão do potencial futuro do computador alicerça-se no seu trabalho como co-criador da linguagem de programação BASIC e reitor da universidade de Darthnouth. Aos nossos olhos, salta a vista o pormenor em que o livro se revela realmente desatualizado - a insistência na tecnologia de time-sharing. Kemeny concebia um futuro onde o acesso à informática se democratizaria através da acessibilidade de terminais ligados por linhas telefónicas a computadores centrais. Algo que de facto aconteceu com a Internet,  mas sob o princípio de interligação de computadores autónomos.

De resto, as suas visões (recuso o termo "predições", pois fala-se de tendências e não previsões oraculares) estão muito em linha com as tendências que a computação seguiu. O computador tornou-se, de facto, essencial na sociedade, interligando utilizadores, permitindo novas formas de interação, marcando impacto na economia. Hoje temos o alastrar de telemóveis em vez da proliferação de terminais ligados a mainframes, mas os princípios basiliares estão lá.

Como professor que sou, li com particular atenção a sua visão do impacto do computador na educação. Uma visão que se baseia na sua própria experiência como professor. Para mim, o interessante e significativo é ver que Kemeny partilha ali dois tipos de discurso que hoje são prevalentes na educação. Primeiro, o uso do computador como elemento de aprendizagem instrucionista, como meio de acesso a informação e conteúdos, e treino em exercícios com o potencial de tutoria individual. O grande foco é colocado nesta vertente, e nisso não varia muito das vagas de tecnologia na educação, que sublinham sempre estes aspetos algo redutores da riqueza dos processos de aprendizagem. O intrigante, é Kemeny terminar este capítulo a observar que a influência mais profunda do computador na aprendizagem que viu foi o desenvolvimento da fluência e autonomia em processos complexos quando os seus alunos davam passos na programação, muito mais ricas do que a simples instrução por acesso a informação e treino rotinado de exercícios. Recordou-me a visão de Seymour Papert, subjacante às transformações profundas que o digital pode propiciar na educação - isto, se for usado como ferramenta de apropriação pelos alunos, e não como mero canal de instrução.

Privacidade 404

Filipe Cruz (2024). Privacidade 404. Enough Records.

Escritos com um propósito didático, de alerta para as questões da privacidade, estes contos de Filipe Cruz lidam com um lado especulativo bem informada. Imaginam sociedades onde a perda de privacidade é a norma, comportamento normalizado pelos cidadãos e incentivado pela economia e poder político. Sociedades onde quem quer manter o seu espaço individual é quase pária, e visto como empecilho e eventual criminoso. 

Num dos contos, aborda-se a forma como os sistemas de vigilância socialmente impostos como para bem de todos se tornam intrusivos. Noutro, olhamos para a perspetiva do outro lado, do ponto de vista de um hacker que se esforça por viver à margem de uma sociedade onde tudo é transparente. 

Este livro ainda conta com algumas reflexões e dicas úteis sobre as problemáticas da privacidade na era digital. Pode ser lido, em vários formados, na Enough Records: https://enoughrecords.scene.org/release/enrtxt010.

Inside Cyber Warfare

Jeffrey Caruso (2024). Inside Cyber Warfare: Mapping the Cyber Underworld. Newton: O'Reilly Media.

Confesso que esperava mais profundidade deste livro. Toca em vários aspetos da cibersegurança, especialmente  no que toca ao seu uso como arma nos jogos geoestratégicos. Aí o livro deixa imenso por falar, é muito superficial, o que intriga dado ter sido publicado numa editora mais técnica. No entanto, faz uma interessante desmontagem da cibersegurança como indústria, mostrando a sua falta de regulação, a maneira como opera em pressupostos questionáveis que seriam inaceitáveis noutras áreas, e as consequências sociais e financeiras desta forma de trabalhar.

Literary Theory for Robots

Dennis Yi Tenen (2024). Literary Theory for Robots: How Computers Learned to Write. Nova Iorque: W.W. Norton & Company.

Um livro que nos recorda a importãncia das ciências sociais para melhor se compreender a tecnologia. Mergulha a fundo na história da tecnologia e da literatura para nos levar a perceber as reais capacidades dos LLMs. E quando digo a fundo, vai a primórdios inesperados, como as regras combinatórias místicas de Llul e outros sábios medievais, os primeiros a estruturar sistemas de associação matemática de ideias para encontrar novos significados. Daqui segue para a interpretação da linguagem, e das ideias, com operações estatísticas que permitem automatizar processos de pensamento. Entra no campo dos primórdios da computação com o trabalho de Babbage e Lovelace, e faz um desvio intrigante para a padronização de ações, mostrando como a literatura floresceu com essas técnicas.

Por padronização, entenda-se a organização de métodos de trabalho literário, entre meios de cruzar temas à criação de organigramas, procedimentos que permitem acelerar e, de certa forma, automatizar a criação escrita. Métodos que os escritores comericiais conhecem, e exploram bem.

Tudo isso conflui na nossa noção contemporânea de IA Generativa baseada em texto. Treinada no corpus textual, estruturada pela vectorização estatística de palavras, capaz de gerar textos complexos e convicentes, mas também incapaz de compreender o que gera. Os LLMs não são papagaios estocásticos, isso é uma simplificação extrema, mas a forma matemática como lidam com a linguagem não chega à consciência do seu sentido, o que explica as falhas que se convencionou apelidar de alucinações.  

O livro não é alarmista em relação à IA Generativa, mas foge dos deslumbres que caracterizam muito do discurso sobre este tema. Mostra-nos que é uma tecnologia com imenso potencial, se entendida como ferramenta e não fim em si. E que talvez o seu maior risco seja a sua excessiva antropomorfização, que distorce a forma como a entendemos, bem como desresponsabiliza alguns dos maus usos. 

Electronic Superhighway

Omar Kholeif (2016). Electronic Superhighway: From Experiments in Art and Technology to Art after the Internet. Londres: Whitechapel Gallery

Passou por cá em 2017, no MAAT, esta exposição que reusme de forma antológica diferentes vertentes da arte que se envolve diretamente com tecnologia. Electronic Superhighway trouxe obras de diferentes épocas e artistas, tendo como tema comum a reflexão sobre o mundo tecnológico e a procura de novas experiências estéticas mediadas por tecnologia. Reunia obras e registos representativos vindos de projetos como os Experiments in Art and Technology, que reuniram artistas contemporâneos e engenheiros dos Bell Labs nos anos 60, a lendária exposição Cybernetic Serendipity, trabalhos dos artistas algoristas Vera Molnár e Manfred Mohr, a net art dos anos 90, e as reflexões contemporâneas sobre internet, inteligência artificial e cultura digital. 

O catálogo recorda a exposição, que nos dá um panorama abrangente da forma como criadores enfrentam as implicações culturais e sociais da tecnologia, usando meios tradicionais, multimédia ou a apropriação de mecanismos, programação e robótica para explorar as suas ideias.  

Invention and Innovation

Vaclav Smil (2024). Invention and Innovation. Cambridge: MIT Press.

Um livro excelente para nos ajudar a dicotomia do discurso sobre inovação tecnológica, que geralmente se divide em dois campos: por um lado, o deslumbre absoluto e acrítico sobre as supostas capacidades revolucionárias das tecnologias, mesmo que estas não sejam tão capazes quando o prometido e deixado de lado considerações éticas e sociais; por outro, a sua rejeição também acrírica, alimentada a medos e temores infundados. Pelo meio, esquecido e desprezado (e até mal visto em certos sectores) ficam as verdadeiras visões críticas, que analisam e tentam compreender a inovação como um todo, avaliando e integrando os novos desenvolvimentos tecnológicos, mas também procurando compreender e resolver as problemáticas criadas pelos seus impactos.

Já tenho alguns anitos e acompanhado muitos ciclos de inovação, quer como utilizador quer na sua componente pedagógica, e confesso-me cansado destes discursos de binarismo absoluto, que na grande maioria dos casos apenas parecem servir para propalar a fama de quem os debita. Então no caso do impacto da inovação tecnológica na educação, não cessa de me surpreender a quantidade de experts que apregoam bem alto o credo inovatório, sem terem conhecimentos elementares sobre as tecnologias que defendem como revolucionárias e essenciais (também, diga-se de forma amarga, não precisam de o ter, falam em eventos onde basta acenar o credo da inovação de forma generalista, sem ter de explicar o que uma dada tecnologia faz, realmente serve ou como pode ser usada a favor das crianças e jovens) (estou a excluir disto o lado de investigação académica, claro, ou os esforços sustentados de professores e associações que procuram criar bases de formação mais crítica).

O antídoto vem da visão crítica e culta de Smil. Profundo conhecedor da história da tecnologia, não só da mais superficial evolução da descoberta e invenção, mas também dos impactos sociais mais amplos, traz-nos neste livro histórias de tecnologias vistas como revolucionárias mas que falharam nos seus impactos prometidos. As razões são múltiplas. Umas, porque ficaram associadas a falhas catastróficas que geraram trauma coletivo persistente na memória, mesmo que o seu desenvolvimento demonstre serem tecnologias seguras. Esse é o exemplo dos dirigíveis, uma tecnologia que não pega precisamente porque estará para sempre associada ao acidente do Hindenburg. Outras, porque a complexidade dos desafios científicos que representam não se ajustam a visões temporais mais curtas, e passam décadas num estado de desenvolvimento, dando origem àquela ideia que serão revolucionárias sempre daqui a 20 anos. Talvez o melhor exemplo disso seja a energia nuclar de fusão, esse objetivo sempre tão elusivo.

Outras falham porque os problemas que causam a médio prazo se revelam mais graves do que os que resolviam quando surgiram, caso de pesticidas com efeitos nocivos sobre o ambiente, saúde humana e animal, ou da energia nuclear. E há aquelas que não se podem resumir a soluções mágicas generalistas trazidas pela ciência, que é o caso das abordagens aos combates ao cancro e ao aquecimento global e alterações climáticas.

Smil não nos traça um quadro de absolutos. Através da análise crítica da história de tecnologias que falharm pelos seus impactos inesperados, ou incapacidade de cumprir as promessas deslumbradas, mostra-nos os ciclos de fascínio, aplicação social e económica e luta contra os seus impactos. 

Numa cultura mediática saturada por discursos de deslumbre por novas tecnologias em múltiplos ciclos de projetos, tecnologias e produtos (e tendo em conta que boa parte destes discursos são marketing para vender gadgets ou financiar empresas), precisamos de vozes equilibradas que nos coloquem a refletir. Este é um livro perfeito para isso.

Artificial Women

Julie Wosk (2024). Artificial Women: Sex Dolls, Robot Caregivers, and More Facsimile Females. Bloomington: Indiana University Press.

Uma visão sociológica da forma como interpretamos o feminino na tecnologia. O livro cruza a ficção científica literária, cinematográfica e televisiva com os correntes desenvolvimentos na robótica e Inteligência Artificial, analisando a perpetuação de esterótipos de género através das projeções ficcionais. 

A forma como entedemos e imaginamos os robots entrecruza-se com visões do feminino, especialmente em ideias de suavidade, subserviência e disponibilidade sexual. Algo que é muito visível no campo das bonecas sexuais, que agora são robotizadas e, graças à IA, apresentam simulacros de personalidade subserviente. Em menor grau, estes aspetos também estão presentes noutras vertentes, como a robótica aplicada aos cuidados sociais ou os assistentes digitais. Há razões sociais e culturais para que as Siri, Alexa e outos interfaces de IA tenham generalizado o uso de suaves vozes femininas, que este livro analisa muito bem.

A lente da ficção é uma forma interessante de analisar estas questões, uma vez que as obras ficcionais permitem olhar para modos, comportamentos e atitudes que, sob a capa ficcional, se tornam mais empáticas. Aí o livro vai bem a fundo, e mostra como as representações de seres artificiais (robots ou IAs espelham pressupostos e preconceitos, mas também como é possível desafiar a sua aparente inevitabilidade através da desconstrução, fazendo-nos olhar para os reversos da projeção de estereótipos.

Este ensaio está mais na ótica da cultura do que na tecnologia, mas isso não o torna menos pertinente. A tecnologia não vive isolada, não está isenta dos preconceitos de quem a desenvolve, e o seu cruzamento com as forças de marketing que a trazem aos mercados exacerbam estes aspetos.

Medieval Robots

E.R. Truitt (2015). Medieval Robots: Mechanism, Magic, Nature, and Art. Filadélfia: University of Pennsylvania Press.

Robótica e Idade Média não são dois conceitos que estejamos habituados a ver inteligados. Este livro muda isso, mostrando-nos como na Idade Média foram férteis os ideários que conduziram à robótica de hoje. Claro, não falamos aqui dos robots complexos que nos estimulam a imaginação e revolucionam a sociedade. A visão medieva era diferente, combinava mito e saber artesanal.

Este livro cruza diversas vertentes. Uma é eminentemente mítica e mística, com uma análise à literatura medieva que nos mostra muitas referências a seres artificiais e artefactos mecânicos maravilhosos. Textos que se encontram em obras religiosas ou no imenso manancial de gestas cavaleirescas, que descrevem maravilhas mecânicas, das quais o trono mecânico de Bizâncio é o mais icónico.

Para mostrar que há uma raiz nos mitos e fantasias, Truitt vira-se para a história da ciência, recordando-nos da tradição de criação de elaborados mecanismos que nos vem da antiguidade clássica, dos tratados mecânicos que preservaram o saber grego e romano, e o ampliaram, no mundo árabe. Fala-nos do costume oriental de criar elaborados autómatos cujo movimento simulava vida, para maravilhar os visitantes das cortes como símbolos da sabedoria, costume esse também adotado pela nobreza europeia como forma de mostrar a sua riqueza, como relatos de elaboradas decorações do que hoje consideramos animatrónica nos palácios. 

Mitos, cruzados com a evolução do saber científifico e tecnológico, que acabam por ter a sua maior expressão num objeto que raramente relacionamos com a robótica, mas que está na sua origem direta: o relógio. Primeiro, como expressão e aplicação do saber mecânico no estabelecimento de métodos de registo da passagem do tempo, mas também como artefacto de maravilha, com o desenvolvimento de dioramas animados progressivamente mais elaborados, que representavam cenas das tradições locais ou mitos religiosos. Algo que hoje ainda nos deslumbra, nos famosos relógios mecânicos que para além de registar a passagem do tempo, nos maravilham com os seus autómatos, condenados a repetir os mesmos gestos mecanizados a cada marco temporal.

A história não termina aqui, os mecanismos de relojoaria encontraram a sua máxima expressão nos autómatos do século XVII e XVIII, onde a sofisiticação evoluiu até tocar nos rudimentos do que hoje designamos por programação. Se os cartões perfurados do tear de Jacqard são considerados os antecessores do computador programável, que dizer dos autómatos de Jacquet e Drosz, com intricados mecanismos que permitiam programar diferentes ações? Mas estas, são outras histórias. Truitt detém-se na idade média, nos seus mitos, visões de maravilha, mas também na forma como o saber mecânico evoluiu nesses tempos.

88 Vozes sobre Inteligência Artificial

(2023). 88 Vozes sobre Inteligência Artificial. Lisboa: ISCTE/Oficina do Livro.

Quando um formando me chega à sessão com este matacão debaixo do braço e me diz "toma lá, já tinhas visto...?", percebi que estava feito. Lá tive de ir a uma livraria (oh, que enorme suplício) e trazer esta obra documental (ordálio, deveras).  Não fico particularmente impressionado por livros cheios de nomes opinativos sonantes, mas suspeito que será um bom livro para a minha coleção de retro-futurismo. Um daqueles para voltar a pegar daqui a alguns anos e perceber se as tendências nele identifcadas evoluíram, ou se tornaram becos sem saída. 

A quantidade de pontos de vista sobre o tema é assinalável, o número 88 não é uma figura de estilo. Vindo de onde vem, a diversidade de pontos de vista não é muita, a maior parte das 88 vozes estão ligadas à economia ou a empresas. E daí já sabemos que tipo de discurso vem, muito deslumbrado, polvilhado com laivos de techbro, com bases técnicas algo duvidosas. E, nalguns casos, um nível intelectual confrangedor. Não são muitos, mas surpreende ver que responsáveis por empresas e organizações possam ser tão superficiais nas suas análises e pensamento. Destaco, pela positiva, os responsáveis ligados à saúde, com uma visão clara da forma como estas tecnologias podem ser aplicadas para melhorar a prestação de cuidados.

Os deslumbres são temperados pela vertente mais técnica daqueles que trabalham e investigam em Inteligência Artificial. Destes, lemos uma posição crítica mas otimista, que aponta as problemáticas da tecnologia, as suas possibilidades, e o potencial português nesta área. Complentam as visões ligadas às Artes e Ciências Sociais, muito focalizadas no potencial criativo mas também disruptivo da Inteligência Artificial, centrando-se também nas questões da ética e legalidade.

Dos ensaios, destaco "A Inteligência Não É Só Isto", de Emília Ferreira, diretora do MNAC. Ensaio erudito e assertivo, vai direto ao cerne de uma das questões mais propaladas pelos deslumbrados da IA, a criatividade intríseca dos sistemas e a visão da arte ao carregar de um prompt, mostrando que o criar vai muito  para além destas dimensões redutoras, mas não descartando o potencial enorme da IA Generativa nas mãos de artistas.

Arriving Today

Christopher Mims (2021). Arriving Today: From Factory to Front Door-Why Everything Has Changed About How and What We Buy. Nova Iorque: Harper Business.

Um livro excelente para percebermos os mecanismos das cadeias de produção e distribuição da economia global. Seguindo o rasto de um objeto eletrónico de consumo desde a manufatura até à chegada a casa do comprador final, o autor leva-nos um périplo pelos sistemas que interligam o globo. Ao longo deste livro, somos levados às redes de transpores terrestres que levam os produtos dos fabricantes para os portos. Mergulhamos na logística rigorosa do transporte naval, nos complexos canais globais da navegação. Descobrimos a complexidade das operações portuárias, hoje semi-automatizadas, e as redes de distribuição do grande comércio. Analisam-se as teorias de organização laboral e gestão que sustentam a rapidez e eficiência das cadeias de distribuição, que atingem ritmos desumanos na sua busca pela plena eficiência. Um livro que nos dã um potente vislumbre da enorme rede de infraestruturas que sustenta a economia global.

Teaching Machines: The History of Personalized Learning

Audrey Walters (2021). Teaching Machines: The History of Personalized Learning. Cambridge: MIT Press.

Confesso que me senti um pouco defraudado ao longo desta leitura. Esperava uma história das várias vertentes do uso de tecnologia na aprendizagem, entre software e hardware. Mas o foco do livro é mais estreito, contando-nos a história das máquinas de aprendizagem, dispositivos (analógicos, convém sublinhar) inicalmente desenvolvidos por Sydney Pressey nos anos 20, e posteriormente por B.F. Skinner (se o nome vos é familiar, é esta figura que os Simpsons parodiam com a personagem do diretor Skinner). 

Estas máquinas eram essencialmente dispositivos analógicos de feedback automatizado para tarefas rotinadas. E é aí que reside o mais interessante neste livro, o mostrar-nos a filosofia de aprendizagem que está por detrás deste tipo de equipamentos, bem como as percepções sociais sobre educação que os sustentam. O método é sempre o de reduzir as aprendizagens a unidades essenciais, que o aluno tem de completar para ser bem sucedido. É uma forma redutora e mecanicista de encarar a aprendizagem, apesar de, claro, também ser um método com utilidade. Isto da aprendizagem não se deixa domar por visões unicistas, e quando alguém apregoa que encontrou a chave do sucesso educativo com base numa vertente, geralmente está a fazê-lo ignorando as outras vertentes possíveis.

O papel de Skinner aqui é especialmente inquietante, percebendo-se o seu princípio de condicionamento operativo aplicado aos sistemas educativos como algo essencialmente repressivo, negador de liberdades e diversidade individual.

Estas máquinas falharam, em parte pelas suas limitações tecnológicas, em parte por serem redutoras, e também por serem um tédio para os pobres alunos. A extrema mecanização educativa costuma ser contraproducente, e não é muito fácil convencer administradores escolares a comprar equipamentos cujo uso se esgota depressa. O que não significa que estas máquinas tenham sido um ramo decaído das tecnologias educativas. Bem pelo contrário, com mostra a autora, no seu capítulo final onde liga a história desta tecnologia esquecida com o panorama geral das aplicações tecnológicas educativas.

O legado destas máquinas de aprendizagem está vivo e de boa saúde, quer na tecnologia educativa, quer na sociedade digital. Muitos dos modernos sistemas de aprendizagem seguem os princípios de divisão do conhecimento em pequenas parcelas incrementais, e reforço positivo das aprendizagens. Nem o trabalho de Seymour Papert, que tem uma base conceptual totalmente oposta, o construcionismo, escapa na sua aplicação a este tipo de determinismo, primeiro na linguagem logo e agora no ambiente Scratch (embora a autora não refira que se a base de aprendizagem papertiana era, necessariamente, fragmentada, a abertura do que se faz com as ferramentas que inspirou é incomparavelmente maior ao mecanicismo da esmagadora maioria do software educativo, demasiado do qual se centra na ideia de treinar competências). Em termos sociais mais abrangentes, o behaviourismo skinneriano, com todo o seu cinismo e visão redutora do humanismo, é o que sustenta a corrente economia digital. A competição pela atenção, o constante reforço positivo dos utilizadores através de likes e outros mecanismos, que se torna aditivo e tem como objetivo último maximizar os lucros da empresa, não trazendo nada de enriqueceder à pessoa, são decalcados dos métodos de Skinner. E todos já vimos como a tirania dos likes está a correr bem, em termos psicológicos do indivíduo e na progressiva fragmentação social trazida por bolhas de informação cada vez mais extremadas.

O Computador Criativo

Donald Michie, Rory Johnston (1984). O Computador Criativo. Lisboa: Editorial Presença.

Valerá a pena prestar atenção a uma obra sobre o estado da arte da inteligência artificial e computação criativa escrita nos anos 80 do século XX? O campo da tecnologia caracteriza-se por evoluções vertiginosas, e a ferramenta de ponta de hoje está condenada ao esqucimento obsoletista do amanhã. Isto, claro, se alinharmos pelas estéticas do deslumbramento com a novidade, talvez o mais recorrente tipo de discurso sobre tecnologia e os seus impactos, entre o otimismo sillycon valley (não, não é erro ortográfico) à apologia da IA generativa. 

Este livro surpreende, em duas vertentes. Por um lado, ao falar do estado da arte em 1984 no que respeita à automação e IA, mostra-nos o quanto evoluímos nessas áreas, muito por causa de novas técnicas de IA (aprendizagem mecânica) que colocaram de parte técnicas menos eficiantes, como a programaçáo prévia de decisões e possibilidades. Se bem que esse tipo de desenvolvimento é aboradado no livro, precisamente ao falar da complexidade excessiva desse tipo de abordagens. 

Por outro lado, reparamos que há questóes que são estruturais nestas tecnologias. Questóes sobre impactos sociais, culturais e económicos, que hoje debatemos como se fossem novidade, já o eram antes. É revelador de uma certa miopia cultural das estéticas de deslumbramento tecnológico. No que respeita à questão que me levou a pegar neste livro, a ligação entre computação e criatividade, logo desde início que a posição assumida é a de que há uma ligação forte entre estas áreas, assumindo o computador não como uma mera máquina de manipulação de dados, mas através desta manipulação, um sistema de produção de novo conhecimento. 

Na aplicaçáo ao domínio mais artístico que conotamos com a ideia de criatividade, o livro mostra-nos projetos, à época a ponta de lança da exploração da criatividade digital, que criaram as bases de aplicações que hoje consideramos novidade, deste a inteligência artificial generativa aos metaversos. É refrescante ler sobre projetos de criação artística com sistemas hoje vistos como primitivos de inteligência artificial, a procura por algoritmos de arte generativa, o desenvolvimento de imagens de síntese que veio da origem ao realismo nosso contemporâneo da modelação 3D, ou a criaçao de ambientes virtuais tridimensionais com interação (o que chamaos hoje de realidade virtual ou metaverso). 

Mostra que esta questão da criatividade computacional já levava a trabalho, pesquisa e experimentação desde a segunda metade do século XX. E que a ambiguidade das respostas, a intuição da possibilidade de criatividade a partir do que são sistemas mecânicos, ou programados, mas cujos resultados excedem os limites conceptuais da mecanização ou programação, também já era sentida nos anos 80. Ou seja, a discussão acesa que temos hoje, sobre se as produções da IA Generativa podem ser consideradas criativas ou não, já existiam muito antes dos correntes desenvolvimentos em IA.

Há achados de alfarrabista que são fortuitos, e quando mergulhei na pilha de livros não imaginava que saísse de lá com uma leitura tão provocatória. Lida décadas depois do seu período de máxima relevância, percebe-se como documento histórico, documentando um estado da arte já passado nos domínios da tecnologia.  Mas continua atual nas questões levantadas, mostrando o quão estruturais são quando se reflete nos impactos sociais e culturais da tencnologia computacional.

Near+Futures+Quasi+Worlds

Refik Anadol, Melting Memories.

So Kanno & Takahiro Yamaguchi, Senseless Drawing Bot.

Egor Kraft, Content Aware Studies.

Etsuko Yakushimaru, I’m Humanity.

Julia Koerner, Sunset Butterfly. 

Evelina Domnitch, Dmitry Gefland, Hilbert Hotel.

Alguns detalhes da exposição NEAR + FUTURES + QUASI + WORLDS, integrante da Trienal de Arquitetura de Lisboa. Patente no palácio Sinel de Cordes, mesmo ao lado da Feira da Ladra. É um intrigante mergulho nos cruzamentos entre tecnologia e arte contemporânea.

The Architecture of Intelligence

Derrick de Kerchkove (2001). The Architecture of Intelligence. Basileia: Birkhauser.

Encontrado algo por acaso num alfarrabista, este livro foi uma autêntica lufada de tecno-otimismo passado. Ou melhor, uma recordação de um ideário luminoso, lida nos dias em que a utopia de liberdade digital degenerou numa distopia repressiva e capitalista. Recordo Derrick de Kerchkove como um pretendente à herança intelectual de McLuhan, a levar o legado do pensador canadiano para a era digital. Não por acaso, Kerchkove foi diretor do programa McLuhan de cultura e tecnologia, como discípulo fiel que tentou levar mais longe as suas ideias.

Cruzei-me pela primeira vez com este autor com A Pele da Cultura, essencialmente uma visão mcluhanista da cibercultura na viragem para o século XX. Kerchkove imita bem o estilo do seu mestre, escrevendo em frases sintéticas mas bombásticas, condensando as suas ideias em frases curtas, procurando provocar e estimular com o que escreve. E o seu ideário é paradigmático do deslumbramento dos anos 90 com o ciberespaço, com as possibilidades libertárias da internet, da tecnologia como forma de melhorar os indivíduos e o mundo. Em essência, visões utópicas que sustentaram o tecnosolucionismo e o otimismo silicon valley. 

Infelizmente, essas promessas libertárias e de futuro so bright we have to get shades esfumaram-se na cibercultura de hoje, dominada pelo desdém pela privacidade individual, pelos abuso de dados individuais agregados para gerar lucro, pelas gaiolas douradas das redes sociais, pelo enviesamento de discursos públicos alimentados por algoritmos que visam apenas gerar atenção, e com isso lucro. É quase tocante, ler sobre as visões belas de espaços virtuais que empoderariam o individuo, nos dias de hoje.

As visões utópicas de desbravamento de novos espaços tecnológicos, onde o social, o indivíduo e a tecnologia se conjugariam em novas geografias, em fluxos entre o físico e o virtual, entre novas perceções e formas de pensar, são neste livro aplicadas à arquitetura. Fiel a si próprio, Kerckhove dilui constantemente as fronteiras entre o físico e o virtual, estando especialmente deslumbrado pela realidade virtual, essa eterna promessa falhada. Oh, what sweet summer child.

Confesso que tenho um fraquinho por estas visões. São utopias que nos mostram o caminho que, no ocidente, o capitalismo, e nas zonas autoritárias do planeta os regimes políticos, impediram o mundo digital de seguir. Recordam-nos que as coisas poderiam ser diferentes, que o mundo digital se baseou numa visão otimista que assenta num profundo humanismo. Uma visão que, vemos com amargura, foi depressa distorcida por razões economicistas, e nos legaram o corrente estado da tecnologia, feito de dependências e não de interdependências, de onde o humanismo parece afastado e impera a necessidade do lucro cego, ou da opressão ao individuo.