Magnifica Humanitas

Leão XIV (2026). Magnifica Humanitas: Sobre a salvaguarda da pessoa humana na era da inteligência artificial. Lisboa: Paulinas.

Das coisas que não estavam nas minhas cartas para este ano, e no entanto, aconteceram. Eu, empedernido ateu, a ler, meditar e apreciar uma encíclica doutrinária papal. Se isto vos surpreende, recordem-se: estamos a perder em guerra aberta pelo capitalismo predatório,  e precisamos nas trincheiras de união apesar das diferenças. Mais importante que a diferença entre não acreditar e acreditar em mitos como se fossem reais, é a igualdade do humanismo, a única arma que temos contra aqueles que se estão a apropriar de uma tecnologia fascinante para enriquecer ainda mais. Piorando as condições sociais, ambientais e laborais, extraindo riqueza que fica concentrada nos seus fundos offshore e outros malabarismos fiscais em vez de circular na sociedade. 

Ou não vos dá uma certa vontade de começar a afiar a lâmina da guilhotina sempre que um ceo ou bilionário proclama alegre e orgulhoso que os  benefícios da IA serão tantos que vai já despedir uns  milhares de trabalhadores, sorrindo ao falar-nos de futuros onde áreas laborais inteiras deixem de precisar de mão de obra hunana? E, talvez, com a água racionada, se se levar ä letra a ideia de um certo bilionário que começou por enriquecer a vender livros e agora é dono da infraestrutura que sustenta grande parte da internet, e passar a investir os recursos hídricos escassos no desenvolvimento da IA, que trará ainda mais prosperidade ao seu já gargantuesco bolso, em vez das necessidades básicas dos meros humanos.

Sim, eu sei. Estou a falar do dono do Goodreads. Percebo a ironia. Mas estou a divergir.

Parte desta encíclica lê-se na diagonal. É una encíclica doutrinária, e o seu texto reflete sobre os pressupostos do edifício intelectual da teologia católica. É, certamente, fascinante para crentes, fiéis e teólogos, mas não muito importante para o meu objetivo de leitura.

Apesar da sua origem e destino teológicos, tocou-me o fundo profundamente humanista desta encíclica. Após os necessários rodeios doutrinários, enfrenta o tema de frente: a forma como a IA, e a tecnologia em geral, está a ser apropriada pela elite financeira capitalista para fazer crescer ainda mais desmesuradamente os seus ganhos, em detrimento da sociedade humana, das pessoas, do próprio planeta. Vindas de onde veem, as palavras não têm o tom viva la revolución que lhes coloco, são mais os apelos de um sacerdote sábio ao amor e solidariedade. Mas é isto que se destila da leitura: uma revolta profunda contra a forma como a tecnologia está a ser usada para piorar o mundo em que vivemos.

O texto não é uma negação da tecnologia, ou um apelo à paragem do desenvolvimento da IA. Bem pelo contrário. A importância da ciência e tecnologia é sublinhada, e quanto à IA, é observado o seu potencial. O foco, e aqui o papado entra na trincheira partilhada por todos os críticos conscientes da IA, está na forma como esta tecnologia está a ser apropriada pelas piores forças do capitalismo - as que buscam a primazia do lucro acima de tudo, cilindrando os trabalhadores, as famílias, a sociedade, os recursos naturais, o ambiente, a nossa casa planetária comum. É uma revolta dupla, feita contra o asco perante este novo excesso de desumanidade, mas também pela frustração de ver o potencial libertador da tecnologia a ser cooptado para a opressão, quer a financeira, quer a politico-militar.

É uma encíclica de palavras sábias, que certamente tocarão no âmago dos crentes. Como ateu, não me deixam indiferente, bem pelo contrário. O humanismo do amor ao próximo, o reconhecer que podemos e devemos lutar por um mundo melhor, que a tecnologia deve ser ferramenta para que todos enriqueçamos, mostram que este papa está do lado certo da história. Que, infelizmente, dado o poder dos bilionários, talvez não seja o lado vencedor. Mas pelo menos, estamos do lado dos que procuram lutar pelo mais correto, pelo bem da humanidade. Valha-nos isso.

Lisbon Loras Adobe

 

Em modo de reflexão. Aqui no nosso mundo da educação, debate-se imenso a IA, entre o deslumbre com ferramentas generativas, temores da alienação no conhecimento delegado ao chatbot, e a proliferação de imagens feias geradas para ilustração de conteúdos ou cartazes (não se se prestaram atenção às imagens da MoDA de inglês de hoje, vi algumas de relance e eram típico ai slop). Fala-se, discute-se, mas o pouco que se usa é de uma forma muito linear, o que é natural, andamos todos a perceber para que tipo de pregos o martelo da IA serve. 

Sair da educação e ver o que se passa noutros campos ajuda a perceber melhor os reais impactos desta tecnologia, olhando para criadores que acima de tudo, praticam e aplicam. Os encontros Lisbon Loras têm sido interessantes na forma como criadores mostram não como integraram a IA, mas sim como esta se tornou uma ferramenta elementar nos seus processos de trabalho. 

Não se trata, ao contrário do que tanto se fala por ai, de clicar no botão para a IA fazer todo o trabalho. Estes criadores olham para a automação inteligente de processos rotineiros, cruzam técnicas tradicionais com IA, e têm todos em comum um esforço consciente de ir além da geração, condicionando e trabalhando a imagem e o vídeo para ultrapassar as condicionantes da IA generativa. 

Não são criadores de topo, conhecidos fora dos seus nichos de mercado, culturalmente relevantes (no sentido clássico da ideia). São, de certa forma, os proletários das indústrias culturais, os que concebem campanhas e iconografiaa para o que se vende nas lojas, logótipos para os pequenos negócios, imagens de marca para aquelas marcas que não são de luxo. Em suma, são os trabalhadores que produzem aquelas imagens que nos enchem o dia a dia, desde as partilhas fugazes nas redes sociais aos cartazes publicitários nas ruas. 

Sim, perceberam. Enquanto na educação (e sociedade em geral) discutimos os temores éticos da IA, o ambiente ao nosso redor já é caracterizado por imagética generativa, bem trabalhada para não ser  mero AI slop.

Há também que referir que as pizzas encomendadas pelas Loras são deliciosas. Caem mesmo bem com uma cervejinha depois de ouvir as intrigantes partilhas dos criadoras. 

Banir a IA da Educação?

Confesso que este momento foi puro masoquismo da minha parte. Foi pior do que eu pensava. Ou  talvez não, há alguma esperança. 

Descobri super em cima da hora que o Maio, projeto que eu tenho algum respeito, tinha organizado como parte das suas jornadas um debate/discussão sobre, estão a ler bem, banir a Inteligência Artificial da educação. Estão mesmo a ver o que é que eu fiz, não estão? Arrastei-me para Lisboa e fui ver o que é que se passava. 

O esforço de ir à cidade não foi muito grande, já lá estava para participar nas Jornadas dos Mestrados em Educação do IEUL, onde me desafiaram a falar da minha experiência prática em introduzir IA nas minhas práticas pedagógicas. Saí da Cidade Universitária bem a tempo de ir ao Liceu Camões espreitar este debate. Como cheguei mais cedo, antes do painel ter começado tive o desprazer de ouvir Raquel Varela a falar de educação. E fiquei abismado com o chorrilho de falsidades, de achismos, e descontextualização do seu discurso. Uma inacreditável falta de rigor, em alguém que por ser académica, o deveria saber ter. Confesso que me leva a colocar em causa não só o que diz nas suas intervenções públicas, como o próprio teor das suas publicações académicas, porque alguém posicionada como intelectual pública e interventiva não pode apresentar-se em discurso de achismo de conversa de café, atirando óbvias falsidades para o ar ao falar do ensino especial, com tiradas brilhantes do tipo "as turmas estão cheias de crianças a dormir por estarem medicadas, são as escolas que impõem medicação às crianças (isto é tão obviamente falso!), que não há recursos para apoios (são e serão sempre escassos, mas, novamente, falso), que a tecnologia serve para mecanizar as crianças (e para quem vem da escola de pensamento construtivista, isto é mesmo patetice advinda de ignorância), e outras pérolas.

Quanto ao painel de educação, fiquei muito preocupado com as posições assumidas pelos moderadores do painel (ou proponentes da proposta, não consigui perceber muito bem, mas isso não vem agora ao caso. Um modelo de recusa total do que é tecnologia nas escolas, do que é a tecnologia em si mesmo em si própria, ignorando e rejeitando propositadamente o seu lado capacitador. E tudo muito mais acérbico em relação ao impacto da inteligência artificial. 

Como pessoa de esquerda que sou, como também professor, e como pessoa que se tem dedicado à tecnologia na educação como forma de capacitar as crianças e de dar ainda mais horizontes, fiquei chocado. Este óbvio anti-intelectualismo assente em preconceitos, numa visão bastante pouco rigorosa do que é o o estudo académico preocupa-me. 

O que me deixou mais animado foi que o debate. Foi mesmo um debate,  e as pessoas que interviram não partilhavam desta posição tão radical e tão fechada. Participavam contribuindo com observações sobre potencial das tecnologias e da IA em específico, com visões que mostraram preocupação com os seus impactos éticos e sociais, que são óbvios, mas nunca na perspectiva de a banir, restringir ou recusar. Ou seja, se os organizadores partiram numa posição obviamente obviamente radical (aliás percebi que eles estavam incomodados com o tom e com o tipo de intervenção que receberam porque não estavam a ser apoiados cegamente), os participantes foram mais abertos. 

Na verdade o o que me preocupa nisto tudo nem é tanto a rejeição da IA ou as questões da IA na educação. É que ao rejeitar tout cout, ao colocar-nos à parte, estamos a evitar intervir. Sabemos que a IA traz imensos problemas éticos, sociais, económicos, ambientais, culturais,, numa lista muito grande.

 Também sabemos que é uma tecnologia fantástica, mas se a recusarmos liminarmente e colocarmos nessa recusa um tampãozinho ideológico, um embrulhozinho de ideologia muito bonita que a justifica, demitimo-nos intervir, demitimo-nos de procurar formas de usar a IA que beneficie as pessoas, que beneficie os alunos, que beneficie a população em geral. 

Ficamos-nos naquela perspectiva de aldeia gaulesa, advogando pureza ideária enquanto o mundo nossa volta se esfrangalha. Por isto,  este tipo de visões deixa-me preocupado. Sublinhom como pessoa de esquerda que sou, é preocupante ver estes ativistas de esquerda a ser tão anti-intelectuais,  por vezes até chega a ser doloroso ver estas pessoas  proferir as suas certezas com um óbvio desconhecimento daquilo que estavam a falar

E capaciten-se de uma coisa: colocar tecnologia nas crianças não tem que ser uma alienação de ecrãs ou mergulho na toxicidade das redes sociais. Não tem de ser assim. Se querem saber como é que isso se faz, como é que podemos capacitar as crianças com tecnologia e com isso levá-las a tornarem-se adultos mais intervenientes e conscientes e criativos. falem connosco. Nós, professores de informática, já andamos há anos nistom a colocar tecnologia intermédia e avançada, nas mãos de crianças nos vários contextos de ensino. Precisamente para lhes dar mais horizontes para crescer. 

E querem mesmo combater esta visão que nos está a ser imposta, da IA  como uma obrigação, como quele sonho húmido dos CEOs, patrões e financeiros de despedir essa coisa fedorenta que são os trabalhadores para para os substituir por IAs e algoritmos que vão trabalhar por eles? Se querem mesmo combater isto, não se esquivem ao uso de tecnologia, apropriem-se dela, que é o que que é necessário. Não disfarçam também o vosso pouco conhecimento que (nítido e notório ao longo de de muitas intervenções), com uma espécie de visão idílica de um passado que nunca existiu.

Vejo a IA como uma tecnologia incrivelmente potenciadora das capacidades individuais. Rejeito publicamente a visão dos de despedirem toda a gente para meterem a IA a trabalhar por nós. Hora e meia antes de ter passado neste evento do Maio, disse isto mesmo num auditório cheio de professores e futuros professores no Instituto de Educação. Recuso e trabalho na minha sala de aula contra a visão da IA cabulista e plagiadora. Vejo a IA como tecnologia da qual temos de nos apropriar para o bem de todos. Se não o fizermos, se se finca pé num discurso de rejeição, garantimos o pior da distopia tecnologia dos bilionários. É preocupante ver esta esquerda ativista a a basear a sua intervenção na ignorância e desconhecimento, num momento em que precisamos de vozes progressistas na IA e na educação que contrariem a narrativa comercial.

Ideaspark

As más línguas vão dizer que só consegui fazer isto graças à IA.

E têm toda a razão, mas o processo real contraria o mito da displicência intelectual, do não preciso de aprender, basta perguntar à IA que sai tudo certo.

A inspiração para isto veio de vídeos... no TikTok? Instagram? Sinceramente não me recordo, apenas sublinho que na era da toxicidade das redes sociais é possível ter contacto com conteúdos inspiradores e intrigantes. O slop, quer real quer artificial, não tem de ser a norma. 

Umas buscas pelo AliExpress levou-me a descobrir esta esp32 com display, demasiado similar às da Adafruit (provavelmente vêm da mesma fábrica chinesa) mas a um preço abaixo de uma sandes, cerveja e café. 

Problema, como a programar. E aí dou com várias barreiras: as minhas capacidades de programação são extremamente básicas, e o que quero fazer envolve visualizações matemáticas, outra área em que sou deficitário. Pior, esta placa programa-se em arduino, e nisso sou uma nódoa. 

A IA ajudou a identificar, gerar código e a explorar o qie quero fazer. Mas só por si não resolve nada. Se eu não tivesse adquirido bases de arduino graças a formação da ANPRI, teria desistido depressa. As dicas de configuração dadas pela IA deixavam a placa com um ecrã preto, nada funcionava. Tive de fazer o óbvio - procurar a documentação da placa, e recordar o que aprendi sobre pinos, configuração de bibliotecas e até sintaxe em arduino. 

E funcionou.

O próximo passo é investigar outras visualizações matemáticas que possa correr nesta placa, bem como formas de interacção. Com ajuda da IA, claro.

A lição? A IA é uma enorme potenciadora das nossas capacidades e permite-nos ir muito além das nossas capacidades técnicas. Mas se não tivermos bases, conhecimentos e cultura que nos sustente, não é a promptar que vamos conseguir. Sem esquecer a humildade de assumir que se com a IA somos capazes de ir mais além, isso não significa que nos tenhamos tornado experts.

Ah, e não, o gabinete não está assim tão desarrumado como parece. 

Está bem pior. 

Lisbon Loras Deamina Night

Dia 30 de abril dei um salto ao RNA Studio para visitar o encontro Lisbon Loras, dedicado à criação de vídeo com Inteligência Artificial. Não esperava muito do evento, mas acabou por ser um serão de aprendizagem, reflexão e algumas estéticas desafiantes.

A galeria de projetos Dearmina AI mostrava algumas das criações quer dos palestrantes da sessão, quer de criadores ligados à Lisbon Loras. Não consigo dizer que as achei interessantes - não por questões de qualidade, mas por estarem firmemente na vertente de uso da IA que replica o que já se faz, ou que imita o real. É um caminho possível, mas não o que mais me interessa.

Claro, é o caminho que faz sentido para estes criadores. Pelas partilhas (nem me perguntem quem falou, são nomes que me são totalmente desconhecidos) percebi que eram pessoas ligadas ao lado mais comercial das indústrias criativas, que usam a IA para acelerar projetos ou encontrar novas formas de produção, mas na prática nunca se afastam das premissas estéticas do lado comercial da arte audiovisual.

O que percebi, é que ao contrário do que tantos fazem apanágio de alardear, a IA generativa já está integrada dentro dos processos de produção comerciais, quer em cinema para a web (sim, isso é uma tendência), curtas metragens ou anúncios publicitários (e aqui, um designer mostrou-me privadamente alguns vídeos que anda a produzir para uma conhecida marca de cervejas portuguesa que irão chegar ao público na altura do verão). A integração já é comum, e a vertente experimental não é valorizada. Aliás, um comentário corrente nas palestras era a necessidade de manter o processamento tradicional do vídeo para eliminar ou disfarçar aqueles traços identificadores que nos permitem perceber que o que estamos a ver foi gerado por IA. Publicamente, claro, o discurso é de rejeição, porque como um dos keynote speakers observou, "that's just the nature of the game".

Percebi que há muito mais IA generativa nos media comerciais (especialmente publicidade) do que desconfiamos ou as empresas admitem - o efeito "people who talk shit about AI ask us to work for them", como colocou um dos criadores de AI video em destaque nas conversas. 

Ficar um bocado à conversa com um developer chinês da bytedance, sobre os potenciais impactos da IA nas crianças, não estava na minha lista de cenas que contava fazer esta semana. Por ironia, desenvolver modelos de vídeo generativo era o que fazia. Coisas que acontecem quando um discreto storzito infiltra um evento fora da sua área. Fiquei a conhecer um espaço cultural que vale a pena manter debaixo de olho, o RNA Atelier, e um evento de IA generativa que é interessante de acompanhar.

E vim de lá com ideias... educativas, claro.

Faltar Parafuso

 

Que o grande mestre Vilhena me perdoe. Não resisti, por causa da capa, a trazer esta peça bibliográfica para a minha coleção de robots (vá, é aquele humor picaresco do Vilhena, mas muito, muito suave) e... porque não brincar com umas trends de geração de imagem, transformando desenhos bizarros em imagens realistas? 

O Gemini foi muito fiel ao espírito original da imagem.

O ChatGPT explodiu de glamour. Tudo muito retro, como se esperaria de remisturas via IA do estilo gráfico do humor popular dos anos 60.

Suspeito que se tentasse isto com o "Criada para todo o çerviço" (o erro ortográfico não é distração)  ou outros títulos da sua lendária, provocadora e prolífica obra, acabaria com as contas suspensas, que o mundo digital mainstream não está cá para atrevimentos.

Ando a ver demasiados grupos de cursed ai, daí estas ideias manhosas, mas se me permitirem a marotice, quer o gemini quer o gpt tratam muito bem a voluptuosidade das mulheres pelo traço de Vilhena. 

Se não sabem quem foi Vilhena e sua a importância pop-cultural, a vossa vida é menos feliz por isso.

Simbolismos via IA

Confesso, tenho um fraquinho por estas trends da cultura digital de perguntar algo diferente aos chatbots de IA. Desta vez, o prompt foi "based on all our previous interactions, create an image of how you see me. Everything should have a symbolic significance". O resultado mostra sublinha as duas grandes vertentes da geração de imagem generalista em llms.

O ChatGPT é mais "artístico" (em bom rigor, uma visão reduzida e estereotipada do que são estilos artísticos), e na explicação subsequente deu-me boas razões para eu estar a ser tão agarrado por mãos desincorporadas, labirintos, livros (bem, mas essa é óbvia) e cenas cósmicas.

Já o Gemini é  mais profissional, embora na mediania confortável da estética stock photo (diz imenso sobre o tipo de dados usado para alimentar o treino dos modelos do nano banana), até me faz parecer uma pessoa respeitável e cenas. O café é um bom pormenor. Tendes razão, IA, tenho mesmo de ir buscar mais um.

Podia ter parado por aqui, mas atirei a questão ao Gemini com outra conta que uso. Qual é a diferença de resultados? A segunda conta é a de escola, que uso massivamente para explorar vibe coding com os alunos, bem como demonstrar-lhes técnicas de interação com temas da disciplina de TIC. Obviamente, o resultado espelha a natureza destas interações.

Isto vale o que vale, não vejo aqui nenhum carácter de pitonisa nestes chatbots, mas não deixam de ser um intrigante espelho das nossas personalidades.

Algoritmocracia

Adofo Nunes (2025). Algoritmocracia. Lisboa: D. Quixote.

Sou, por felicidade, um enorme distraído com as figuras públicas portuguesas. Se fosse mais atento não teria pegado neste livro, visto ter vindo das mãos de um ex-líder de um partido conservador de direita, CDS, cujos valores são diametralmente opostos aos meus. E isso teria sido um erro. Diria até que a leitura começa a valer a pena logo pelo prefácio, um belíssimo exercício de fair play político que nos recorda a importância da discussão, do equilíbrio e do respeito entre diferentes visões políticas para uma democracia saudável. Posso discordar das visões políticas do autor. E irrita-me aquela tendência direitista para meter no mesmo saco do extremismo as boçalidades do pior da direita e o progressismo de esquerda, como se houvesse um equivalente moral entre pregar o ódio, o racismo e a imbecilidade generalizada e lutar por maior igualdade social e económica, pela liberdade pessoal e de género. Uns querem um mundo pior para o seu ganho, nós (porque sim, enquadro-me nas esquerdas à esquerda do PS) queremos um mundo melhor para todos. Considerar isto extremismo é preocupante e um sintoma da acintosidade dos discursos públicos, que é o grande tema do livro.

Quando falo de prefácio, note-se que me refiro ao do autor. O livro tem outro, do punho de Paulo Portas, e ler elogios da parte de um dos mais cínicos praticantes da arte da política que temos por cá, já é esticar demasiado os limites da minha tolerância. Estamos a falar de um clássico exemplo de elitismo português, homem de boas famílias e tradicionalista, que não desdenhou descer às feiras e ser lambuzado pelas velhotas do povoléu para conseguir ascender nas escadarias do poder. É o jogo, bem sei, e é alguém que o sabe jogar muito bem.

Este livro é um profundo alerta para problemáticas que já não são crescentes, são enxurradas culturais que estão a erodir profundamente o edifício da democracia liberal ocidental. Sistema que, não sendo o perfeito, é do melhor que temos e tem garantido uma liberdade e prosperidade genralizadas inagualáveis na história humana. O problema aqui identificado, e também por outros autores, está na extremação do discurso público, na incapacidade de encontrar equilíbrio entre diferentes pontos de vista, porque já se parte para as discussões a partir de premissas radicais que se tornaram surdas aos argumentos contrários. Os resultados estão à vista: o crescimento desmedido da extrema direita, novas gerações que se revêm nos valores negativos do masculinismo tóxico, revanchismo cultural, supremacia racial e retirada de direitos. Como é que foi possível chegar até aqui?

Apesar do tema, o autor tem o discernimento de não culpar unicamente a tecnologia por este mau estado do mundo. As tendências, discursos de ódio, descontentamento, egoísmo e falta de sensibilidade para vida em sociedade sempre estiveram connosco, como franja por vezes mal disfarçada. O que a tecnologia veio fazer foi amplificar estes discursos, torná-los mais visiveis, dar-lhes canais que os media tradicionais não permitiam e que os colocam em pé de igualdade com os discursos mais lógicos e factuais. Essa amplificação trouxe o efeito perverso de lhes conferir uma certa aura de legitimidade, de mero ponto de vista divergente em vez de doudice varrida, misoginia profunda ou rebarbadice assumida. 

O algoritmo, ou melhor, as diversas ferramentas algorítmicas que as plataformas mediáticas de hoje, as redes sociais, utilizam para determinar os conteúdos com que os seus utilizadores interagem, é o mais forte instrumento de enviesamento e que de certa forma, permite níveis de controle ideológico com que os mais batidos tiranos totalitários do passado nem sequer conseguiriam sonhar atingir. O que vemos quando acedemos a redes sociais, quaisquer que sejam (com a excessão do Fediverso, não analisado neste livro) é mediado por instrumentos automatizados que determinam o que vemos com base na combinação dos nossos interesses, padrões de comportamento e objetivos empresariais. Não é por acaso que nos leva aos extremos, porque mostrar o que choca é a forma mais fácil de nos captar a atenção. E é essa atenção, medida, controlada, mediada por sofisticados algoritmos, que é a base da corrente economia digital, em que nós, ou melhor, os dados providenciados pelos nossos padrões de comportamento, sustentam fluxos financeiros milionários. Não é difícil perceber que estamos a dar cabo da nossa sociedade e sistema político para enriquecer um punhado de techbros.

Este livro fala muito bem destes mecanismos, com muitos exemplos do quanto as bolhas informacionais e mediação algorítmica têm desempenhado um papel fundamental nos extremismos que correm a nossa sociedade democrática. Algo que começa a nível pessoal, através do consumo de conteúdos, mas que acaba por transvasar para a sociedade, quer pelas atitudes públicas individuais quer pela reação de responsáveis políticos e institucionais, que se sentem obrigados ou a investir recursos de desmontagem de desinformação ou a extremar o seu próprio discurso para não arriscar perder eleitorado (e isso é algo que está a ser notório na política portuguesa, da esquerda à direita). Quando mais gritamos os ecos das nossas bolhas, mais nos convencemos da sua veracidade única, e mais nos afastamos da sã convivência social, que admite e necessita de diferentes pontos de vista, mas não sobrevive a guerras entre supostos donos de verdades únicas.

O livro vai mais longe e toca numa questão que por cá anda adormecida, a da soberania digital. Enquanto nos deixamos levar pela enxurrada de reações, likes e visualizações, não reparamos o quanto esta erosão é provocada pelo sentido de lucro de empresas que não estão sediadas no espaço europeu. Sublinha o perigo de, em nome de uma ideia romântica mas falsa de liberdade de expressão, deixarmos à rédea solta empresas cujo modus operandi toca no âmago de qualquer sociedade - a forma como flui a informação. Fartamo-nos de discutir as consequências, conhecemos as causas, mas não nos atrevemos a tocar na raiz do problema. É sempre bom recordar que, mesmo quando falamos de IA, estes algoritmos não são entidades conscientes independentes que agem de moto próprio. São programados e parametrizados a partir de decisões saídas de decisores humanos. Não há ghosts in the machine ou computers that say no. Há pessoas, executivos e gestores de topo ou intermédios, que tomam decisões implementadas nas ferramentas que nos afetam a todos. É toda um novo conceito de eminence grise, sem que haja eminência mas apenas busca pelo lucro máximo. Algortimocracia é um profundo alerta para todas estas questões.

Só apontaria um problema ao livro (e não, não tem a ver com as questões ideológicas, isto não é uma recensão clickbait). Talvez advindo da dupla condição de advocacia e política do autor, o livro é demasido longo e repete muitas vezes os mesmos argumentos, enquanto explora as suas diversas vertentes. Diria que conseguira expor com profundidade os seus argumentos com metade das páginas, e com isso apenas ganharia força. De resto, não tenho dúvidas sobre a importância desta leitura nestes dias onde assistimos ao esboroar da nossa sociedade através da janela do telemóvel.

Code Ecstasy

 

Finalmente, um tempinho para poder partilhar os registos da visita à Code Ecstasy, exposição de IA generativa e arte digital organizada pela Zabra, no seu espaço de pesquisa e galeria. Obras desafiantes, a mostrar as novas estéticas possíveis com a geração de vídeo e imagem em tempo real, ou o choque estético que a tecnologia permite. 

Trabalhos de: @other_realm_ , @sin.rostroz,  @___infrarouge, @gameboyjaki e @Guts?. Ide ao instagram descobrir, vale a pena.

carne.exe

 

Ainda a refletir no impacto sensorial e emocional de carne.exe, a performance onde um ator interage em palco com algoritmos de inteligência artificial generativa treinados pelos criadores. Não é um mero artifício estilístico, a forma como antropomorfizamos e criamos relações emocionais com o que grosso modo são algoritmos probabilisticos está no cerne desta performance. Deixa-nos a pensar sobre humanismo, biohacking, relações humanas mediadas por tecnologia, traumas, solidão, dor e memória, a facilidade com que atribuímos emoções ao artificial. A performance é uma experiência espantosa. O algoritmo generativo visual gera imagens animadas a partir da interacção com o ator. O trabalho de Albano Jerónimo é de um tocante diálogo emocional. Os diálogos incorporam um lllm. Isto significa que a cada nova exibição, a performance será sempre diferente (é natural, sendo generativa). Esse é um pormenor humanista, recordando que no teatro mais puro, nunca há duas representações exatamente iguais,  e trazendo IA generativa para isto quebra a exactidão de reprodução a que o digital nos habituou.  

Assisti à primeira de três sessões esgotadas no CAM, mas já corre que provavelmente  esta performance se irá repetir. Se sim, recomendo que não percam esta experiência de IA generativa artística. Os ZABRA  estão a marcar por cá a vanguarda experimental de interseção entre arte e tecnologia, com projetos estimulantes, desafiantes e belos. Esta performance pioneira (divulgada em muitos média com um redutor "o ator Albano Jerónimo contracena com um computador") representa bem o caminho inovador deste grupo de jovens artistas. 

Não resisto ao pormenor: aqueles sapatos são incríveis, terão tido origem em design generativo aplicado à impressão 3D? 

The Street Finds a Way

É impossível não ponderar sobre o confronto entre as aspirações da Inteligência Artificial e o seu impacto social real, em particular no domínio educativo. Somos fascinados por uma tecnologia que nos ilude com a simulação de uma consciência não humana, com a qual acreditamos poder dialogar e até estabelecer laços emocionais. Isto persiste, apesar dos constantes lembretes de que a essência da IA generativa reside na combinação de estatística complexa e no processamento de vastos conjuntos de dados. O fascínio acrítico pela IA é intensificado pelo forte esforço promocional das empresas que desenvolvem estes algoritmos e aplicações. Este fenómeno é uma consequência direta do late stage capitalism, um esforço obstinado para impor serviços e aplicações, buscando monetizar um modelo de negócio que se tem revelado um verdadeiro sorvedouro de recursos financeiros. Os custos necessários para sustentar a infraestrutura da IA — investigação e desenvolvimento, formação e capacidade computacional para executar estes modelos, exigem investimentos colossais, sem que haja ainda um mercado que os justifique. São-nos constantemente apresentadas promessas de ferramentas extraordinárias que, ao serem utilizadas, se revelam muito aquém do prometido. 

Não que estas ferramentas sejam inúteis. Elas são-nos impostas como revolucionárias, capazes de provocar profundas transformações no modo de vida humano, quando, na realidade, não o são. A menos que se considere a geração de imagens de estética duvidosa, a obtenção de respostas de fiabilidade questionável ou a automação de tarefas administrativas como o ápice da evolução humana. No entanto, percebemos que estas ferramentas estão a ter impactos sociais, económicos e pedagógicos. O seu uso propaga-se, como seria de esperar. Como observou William Gibson, the street finds a way, e os utilizadores adaptam-nas às suas necessidades. Há um aspeto positivo nisto, um reforço à criatividade individual e novas formas de processar informações que externalizam parte do trabalho de reflexão e raciocínio. Por outro lado, o potencial de abuso destas ferramentas é imenso: desde a produção de conteúdo de baixa qualidade até usos criminosos para desinformação ou fraudes, a automatização da produção literária para criar obras enganosas. No campo da educação, isto inclui a automação de um dos pilares educacionais: o desenvolvimento da capacidade de analisar, refletir e organizar ideias de forma coerente. Multiplicam-se as situações em que os alunos automatizam as suas produções, entregando trabalhos que são meras respostas a solicitações. O mesmo ocorre com os docentes, que procuram nos chatbots auxílio para automatizar os seus processos de trabalho. É tentador afirmar que isto ocorre por displicência ou fraude, mas, na verdade, a geração de trabalhos através de ferramentas de IA é uma consequência da intersecção de várias tendências. Por um lado, a característica muito humana de se safar da realização de tarefas com o mínimo esforço possível. Por outro, e talvez a mais significativa, a evidente desconexão entre os princípios educacionais fundamentais — de capacitação individual e busca profunda do conhecimento, e a realidade dos sistemas educativos, que incentivam a rotinação para a obtenção de resultados, com foco na nota e não no processo que conduz à construção real e duradoura do saber. Não surpreende que alunos, estimulados ao longo do seu percurso educativo a seguir receitas e rotinas para a mera obtenção de notas, recorram a ferramentas de IA para alcançar resultados com o mínimo de esforço. 

Haverá solução para estes dilemas? Apesar da IA nos parecer uma tecnologia omnipresente, é importante recordar que é muito recente. As questões que levanta não têm respostas fáceis ou imediatas, e o seu desenvolvimento continuará a suscitar outras questões ainda não aparentes. Neste momento, o que podemos fazer é adotar posturas críticas, reconhecendo os potenciais — tanto os evidentes quanto os ainda por demonstrar, desta tecnologia, sem nos deixarmos seduzir pelos discursos luminosos do marketing empresarial.

What Is ChatGPT Doing... and Why Does It Work?

Stephen Wolfram (2023). What Is ChatGPT Doing... and Why Does It Work?. Wolfram Media.

Provavelmente, apenas os engenheiros da OpenAI sabem como é que o ChatGPT realmente funciona. Stephen Wolfram procura uma aproximação, pegando no seu saber como criador do Wolfram Alpha e do seu interesse no lado técnico da IA generativa. O livro é uma excelente e concisa introdução à tecnologia, mostrando como a conjugação de estatística e probabilidades, acesso a quantidades elevadas de dados, escalagem de parâmetros de treino e análise, e a possibilidade trazida pelos transformadores de criar tokens numéricos para qualquer tipo de dados permite às redes neuronais gerar informação. Vindo da computação mais clássica, Wolfram surpreende-se com a capacidade dos LLMs em gerar texto coerente, levantando a ideia que características humanas complexas, como a linguagem, são computacionalmente intensivas mas não inatingíveis.

Literary Theory for Robots

Dennis Yi Tenen (2024). Literary Theory for Robots: How Computers Learned to Write. Nova Iorque: W.W. Norton & Company.

Um livro que nos recorda a importãncia das ciências sociais para melhor se compreender a tecnologia. Mergulha a fundo na história da tecnologia e da literatura para nos levar a perceber as reais capacidades dos LLMs. E quando digo a fundo, vai a primórdios inesperados, como as regras combinatórias místicas de Llul e outros sábios medievais, os primeiros a estruturar sistemas de associação matemática de ideias para encontrar novos significados. Daqui segue para a interpretação da linguagem, e das ideias, com operações estatísticas que permitem automatizar processos de pensamento. Entra no campo dos primórdios da computação com o trabalho de Babbage e Lovelace, e faz um desvio intrigante para a padronização de ações, mostrando como a literatura floresceu com essas técnicas.

Por padronização, entenda-se a organização de métodos de trabalho literário, entre meios de cruzar temas à criação de organigramas, procedimentos que permitem acelerar e, de certa forma, automatizar a criação escrita. Métodos que os escritores comericiais conhecem, e exploram bem.

Tudo isso conflui na nossa noção contemporânea de IA Generativa baseada em texto. Treinada no corpus textual, estruturada pela vectorização estatística de palavras, capaz de gerar textos complexos e convicentes, mas também incapaz de compreender o que gera. Os LLMs não são papagaios estocásticos, isso é uma simplificação extrema, mas a forma matemática como lidam com a linguagem não chega à consciência do seu sentido, o que explica as falhas que se convencionou apelidar de alucinações.  

O livro não é alarmista em relação à IA Generativa, mas foge dos deslumbres que caracterizam muito do discurso sobre este tema. Mostra-nos que é uma tecnologia com imenso potencial, se entendida como ferramenta e não fim em si. E que talvez o seu maior risco seja a sua excessiva antropomorfização, que distorce a forma como a entendemos, bem como desresponsabiliza alguns dos maus usos. 

Ai Vs AI

 

Este ano, acompanhei alunos da escola onde trabalho na tradicional visita de finalistas a Londres. Num raro tempo livre, reparei que a habitual saturação hipercapitalista dos ecrãs de Piccadilly tinha sido substuída por algo diferente.

Foi neste sortudo acaso que me deparei com um projeto artístico de Ai Weiwei, o sempre provocante artista e activista chinês. Intitulada Ai vs. AI, está patente durante 81 dias nos ecrãs da praça. O número curiosamente específico prende-se com as experiências do artista nas prisões chinesas. O tema vai buscar inspiração ao confucionismo, no exprimir as grandes questões.

 Ao longo destes dias, sempre às 20:24 (não é preciso doutoramento em história de arte para perceber este simbolismo), surge uma nova questão colocada por Ai, ilustrada com deslumbrantes padrões visuais criados recorrendo a IA Generativa. 

E não consigo deixar de pensar no completo acaso de ter passado naquele local, à hora precisa do arranque da peça. As performances diárias são irrepetíveis, pelo que percebi.

88 Vozes sobre Inteligência Artificial

(2023). 88 Vozes sobre Inteligência Artificial. Lisboa: ISCTE/Oficina do Livro.

Quando um formando me chega à sessão com este matacão debaixo do braço e me diz "toma lá, já tinhas visto...?", percebi que estava feito. Lá tive de ir a uma livraria (oh, que enorme suplício) e trazer esta obra documental (ordálio, deveras).  Não fico particularmente impressionado por livros cheios de nomes opinativos sonantes, mas suspeito que será um bom livro para a minha coleção de retro-futurismo. Um daqueles para voltar a pegar daqui a alguns anos e perceber se as tendências nele identifcadas evoluíram, ou se tornaram becos sem saída. 

A quantidade de pontos de vista sobre o tema é assinalável, o número 88 não é uma figura de estilo. Vindo de onde vem, a diversidade de pontos de vista não é muita, a maior parte das 88 vozes estão ligadas à economia ou a empresas. E daí já sabemos que tipo de discurso vem, muito deslumbrado, polvilhado com laivos de techbro, com bases técnicas algo duvidosas. E, nalguns casos, um nível intelectual confrangedor. Não são muitos, mas surpreende ver que responsáveis por empresas e organizações possam ser tão superficiais nas suas análises e pensamento. Destaco, pela positiva, os responsáveis ligados à saúde, com uma visão clara da forma como estas tecnologias podem ser aplicadas para melhorar a prestação de cuidados.

Os deslumbres são temperados pela vertente mais técnica daqueles que trabalham e investigam em Inteligência Artificial. Destes, lemos uma posição crítica mas otimista, que aponta as problemáticas da tecnologia, as suas possibilidades, e o potencial português nesta área. Complentam as visões ligadas às Artes e Ciências Sociais, muito focalizadas no potencial criativo mas também disruptivo da Inteligência Artificial, centrando-se também nas questões da ética e legalidade.

Dos ensaios, destaco "A Inteligência Não É Só Isto", de Emília Ferreira, diretora do MNAC. Ensaio erudito e assertivo, vai direto ao cerne de uma das questões mais propaladas pelos deslumbrados da IA, a criatividade intríseca dos sistemas e a visão da arte ao carregar de um prompt, mostrando que o criar vai muito  para além destas dimensões redutoras, mas não descartando o potencial enorme da IA Generativa nas mãos de artistas.

Unreliable Memories

 

@archizer0 Lev Manovich a mostrar o potencial da IA generativa para criar arte. #genIA #artificalintelligence #évora ♬ Sublime Space - استرخاء & تأمل & موسيقى الاسترخاء والتأمل

Visita à exposição de Lev Manovich na Fundação Eugénio de Almeida, Évora.

Trabahos gerados com inteligência artificial, a mostar que a IA Generativa pode ser uma excelente ferramenta de criação, especialmente na forma com permite questionas estéticas pré-existentes.