Slide 1 - Apresentação
I don't want to live on this planet anymore. É um sentimento que por vezes ataca, quando se acede a uma rede social e se assiste a discussões inflamadas acríticas ou à estanquicidade das bolhas de informação. Um sentimento que extravasa para outros media, no jornalismo clickbait, cultura audiovisual do choque constante. Agrava-se quando as notícias nos mostram o triunfo de populismos, neonazis em marcha, ou as intensas diatribes que parecem marcar um discurso de retrocesso do progresso social, científico e económico nestes primeiros anos do século XXI. Nisto, qual é o papel das imagens, especificamente pela forma como podem ser construidas e manipuladas, disseminadas quase instantaneamente na sociedade em rede?
Confesso que me senti em desvantagem quando me desafiaram a partilhar este espaço com especialistas nestas temáticas. Não é o meu caso, estou mais à vontade no uso de derretimento controlado de termoplástico com crianças Tenho um vago background em Belas Artes, resquício dos tempos das minhas ambições de adolescente, mas sou essencialmente um professor do ensino básico que emigrou de EVT para TIC. E que ao dedicar-se a aprender a ensinar todo um novo campo disciplinar, mergulhou com enorme curiosidade na história da evolução da tecnologia digital, da computação mecânica à IA.
Já ouviram aquele tipo de discurso sobre no século XXI não se poder ambicionar uma carreira única num campo específico, mas sim saltar entre diferentes áreas de atuação? Para mim, isso é uma realidade.
O que proponho nesta apresentação é uma espécie de gabinete de curiosidades. Durante o renascimento, o Gabinete de Curiosidades surgiu como forma de colecionar artefatos intrigantes, curiosidades que iam artes às então nascentes ciências naturais. Estão na génese direta dos museus de hoje.
Nesta apresentação, mostro um conjunto de curiosidades, que registam no radar pessoal que filtra a saturação das paisagens mediáticas. Vieram de notícias em meios de comunicação, sites dedicados à vanguarda da tecnologia e partilhas na blogosfera. Mostram técnicas de criação iconográfica que se relacionam diretamente com uma das problemáticas mais pertinentes da nossa vida digital: o como as imagens nos enganam.
Slide 2 - Se está na internet, então é porque é verdade!
Há outro enquadramento para esta minha abordagem. Como todas as crianças do final do século XX, imaginava com esperança que o XXI seria uma cornucópia de utopias tecnológicas. Pronto, um futurismo radioso talvez sem rayguns e jetpacks ou bases lunares permanentes, mas certamente que com progresso tecnológico, político e social a nível global. O que os anos mais recentes deste novo século nos trouxeram parece a inversão deste ideário optimista. O conceito de um futuro progressista está a ser fortemente abalada por inacreditáveis regressões: dominância dos extremismos no mundo, impensável subida ao poder de um populista inepto no país que se afirma como um farol da democracia. O inexplicável Brexit. O alastrar dos populismos numa Europa que parece ter esquecido as sangrentas lições da história do século XX. Qualquer um que esteja atento ao que se passa fica estarrecido com estes mergulhos na histeria colectiva. No momento em que escrevo estas linhas, o país mais influente do planeta separa crianças dos seus pais emigrantes e enjaula-as em centros de detenção.
É fácil demonizar a internet, culpá-la por todos os males que afligem o mundo contemporâneo. Não é um discurso que eu apoie. O mundo online abriu-nos horizontes fantásticos de partilha cultural e aprendizagem, bem como novos serviços e negócios. Mas é inegável que a internet tem estado no centro de muitas destas tendências. A prometida interconexão de uma aldeia global interligada pelas redes digitais evoluiu para a fragmentação das bolhas de informação, expressas em redes sociais ou fóruns que abrigam comunidades de interesses. O empoderamento trazido pela internet traduz-se num incrível acesso global à informação, mas também facilitou o trabalho aos extremistas, criando novos canais de comunicação e agilizando os seus vetores de propagação de propaganda. Alie-se a isto uns mass media em desagregação, cujo papel aparentemente inabalável de árbitros de ideias se pulverizou entre a multiplicidade de novas fontes e o decair dos media tradicionais nas estratégias do clickbait.
No epicentro destas tendências está a imagem, especialmente na forma como pode ser usada como vetor otimizado de transmissão de ideias.
Fomos treinados a confiar nas imagens, especialmente provenientes de fontes jornalísticas. Uma confiança que se mantém no mundo online, onde somos bombardeados com uma imensidão de imagens cuja veracidade aceitamos sem pestanejar. Uma característica que nos torna permeáveis à manipulação. Quem o faz, por razões religiosas, ideológicas, ciberguerra ou apenas para se divertirem, dos jihadistas aos trolls adolescentes do 4chan, sabe muito bem como tirar partido dos enviesamentos pessoais para utilizar a imagem como arma.
A ilustração é uma das muitas versões da Helicopter Shark, uma foto-montagem que há alguns anos atrás se espalhou viralmente nas redes sociais, levando muitos a acreditar que, de fato, um gigantesco tubarão tinha tentado devorar um helicóptero Blackhawk: http://hoaxes.org/photo_database/image/helicopter_shark
Slide 3 - Hiperrealismo digital
É fácil cair na tentação de pensar que criar imagens hiperrealistas com meios digitais é um processo simples. Os meios técnicos, técnicas de modelação 3D e texturização realistas estão em rápida evolução contínua, em parte impulsionados pelas indústrias dos jogos e efeitos especiais, sempre em busca de um cada vez mais elevado nível de realismo no ecrã. No entanto, criar este tipo de imagem não se resume a apontar e clicar, requer um imenso e meticuloso trabalho de modelação 3D com ferramentas complexas por artistas digitais dedicados.
Neste exemplo, aquilo que parece uma foto revela-se como um trabalho excelente de modelação, texturização e iluminação 3D. Uma constante evolução na produção de imagens sintéticas com níveis progressivamente superiores de realismo é uma expetativa habitual nos produtos de cultura popular, especialmente na animação 3D, indústria dos jogos ou efeitos especiais para cinema.
A imagem é da autoria do artista 3D David Karner, partilhada pelo blogger Jason Kottke: https://kottke.org/18/02/early-90s-computing-nostalgia
Slide 4 - Hiperrealismo digital?
Mostrando como é fácil enganar os nossos olhos, o que estão a ver não é uma animação por computador, dos primórdios das técnicas de animação digital. O realizador john Carpenter queria isso para o genérico do seu filme Escape From New York, mas o orçamento não era suficiente. A solução? Cobrir uma maquete com fita fluorescente, e filmar sob luz negra. O resto é trabalho de enquadramentos e movimentos de câmara. No entanto, o efeito conseguido é o da clássica estética cyberpunk. No cinema, a criação de cenários virtuais antecede em muito a revolução digital. As técnicas de matte painting criaram ilusões convincentes no ecrã, utilizando efeitos de perspetiva e pintura realista.
As cenas do genérico do filme foram redescobertas no tumblr Sculptures in Time: https://sculpturesintime.tumblr.com/post/154442055950/what-appears-on-those-screens-was-not
Para descobrir o longo historial de uso da pintura atmosférica para criar cenários de cinema, que conjugada com truques óticos de posicionamento de câmara, enquadramentos e lentes, criaram espaços ilusórios, recomendo o exaustivo blog Matte Shot (http://nzpetesmatteshot.blogspot.com/), que se especializa em publicar registos fotográficos dos cenários e filmagens nesta técnica clássica de efeitos especiais pré-digitais.
Slide 5 - Hiperrealismo digital
Se pensam que estão a ver uma singela pintura vagamente barroca, a remeter para a corte de do rei Luís XVI, desenganem-se. Em Francine, criada pela web designer Diana Smith, a imagem é desenhada utilizando programação web de CSS, e altera-se de acordo com o navegador em que for vista.
Um verdadeiro tour de force de design web, que põe a nu a essência da imagem digital: desde a foto pessoal banal à reprodução de obras primas, para um computador não passam de um conjunto de instruções que lhe diz como reproduzir algo no ecrã. O código-fonte desta experiência visual está no Github: https://github.com/cyanharlow/purecss-francine
Slide 6 - Sonhos do Exterminador Implacável
A estranheza das imagens geradas por inteligência artificial despertou a atenção quando a Google divulgou as criações surreais de algoritmos de classificação de imagem, que ficaram conhecidos por Deep Dream. Essencialmente,algoritmos em redes neuronais que aprendem, através da análise de quantidades massivas de imagens, a reconhecer elementos específicos. Os algoritmos Deep Dream geram resultados psicadélicos, mas as verdadeiras aplicações destas tecnologias estão, entre outros campos, no desenvolvimento de veículos autónomos, reconhecimento de imagens e reconhecimento facial.
Não cabe no âmbito deste debate definir precisamente o que é Inteligência Artificial, mas digamos que embora disponhamos de ferramentas poderosas, nenhuma se aproxima sequer do ideal sentiente da Skynet e T-1000, o robot assassino vindo do futuro do filme Exterminador Implacável. Criar inteligência artificial generalista tem-se provado ser um objetivo muito fugidio. As aplicações correntes de IA dependem do processamento massivo de dados em aplicações específicas. Mais do que computadores inteligentes, assemelham-se a idiots savants.
Se treinarmos um algoritmo DeepDream com um tipo específico de imagens, ele vai traduzir tudo o que analisa dentro desses padrões. Os resultados estão entre o fascinante e o desconcertante. É tentador dizer que o algoritmo sonha. Chegou ao conhecimento público quando a Google publicou, em 2015, a primeira referência ao que os pesquisadores, na altura, denominavam inceptionism (referência ao filme de ficção científica Inception), e depressa se disseminou, com aplicações web que permitem a qualquer utilizador fazer upload das suas imagens para ser processado por estes algoritmos, obtendo resultados sempre bizarros: https://ai.googleblog.com/2015/06/inceptionism-going-deeper-into-neural.html
Slide 7 - Sonhos do Exterminador Implacável
Se os pintores Francis Bacon e Caravaggio acasalassem e tivessem um descendente mutante com traços de esquizofrenia e a capacidade de combinar os seus estilos pictóricos, provavelmente pintaria este tipo de imagens. Estas foram criadas por uma Inteligência Artifical, através da técnica de Generative Adversarial Network (GAN), aprendendo generativamente por contraposição de resultados a partir da aprendizagem de um banco de dados. O que mais intriga neste tipo de experiência é a forma como questiona a humanização inerente à arte, uma daquelas áreas de atividade humana que acreditamos imunes à inteligência artificial precisamente pela combinação de mestria individual, pensamento e carga emocional que só os humanos parecem capazes de atingir. Por complexos que sejam os algoritmos de IA, não são seres conscientes, com sentimentos, e no entanto parecem ser capazes de gerar iconografias inquietantes, para lá da fronteira do derivativo.
Estas imagens são o resultado do trabalho do investigador Robbie Barratt, que aplica técnicas GAN à criação de imagens: https://boingboing.net/2018/03/28/robbie-barrats-ai-generated.html
Slide 8 - Deepvideo, DeepFake
A transferência de estilos entre imagens diferentes dá-nos uma das mais arrepiantes utilizações: vídeos aparentemente verdadeiros, criados transferindo discursos para imagens reais. São concebidos alimentado uma Inteligência Artificial com bases de dados contendo fotos de uma personalidade. Algoritmos de machine learning adquirem os padrões que estruturam e identificam o rosto, e aplicam-no sobre outra face. O resultado é uma arrepiante transferência de faces. As implicações nos domínios da propaganda e veracidade da informação audiovisual são enormes. Imaginem, por exemplo, um ator a ler um texto violento, com a face de um político conhecido mapeada. Esta experiência já foi feita. Se conjugarmos a produção de imagens em movimento desta forma com o imediatismo dos media e a falta de sentido crítico no mundo online, é arrepiante as questões que levanta sobre algo que julgávamos intocável.
Há muitas referências ao desenvolvimento de técnicas de transferência de imagem por inteligência artificial em vídeo. Este, a ser mostrado na edição de 2018 do Siggraph, é dos mais recentes: https://web.stanford.edu/~zollhoef/papers/SG2018_DeepVideo/page.html
Slide 9 - Regra 34 e Machine Learning
Por óbvias razões, não irei mostrar exemplos daquela que é das mais prevalentes aplicações dos algoritmos Deep Fake. Fiquemo-nos com o rosto do ator Nicholas Cage mapeado na face de uma atriz. É em netspeak o que se chama de regra 34: se existe, pode-se fazer uma versão pornográfica. A tecnologia de aprendizagem de máquina é facilmente acessível online (a Google disponibilizou a tecnologia TensorFlow, que sustenta aplicações para machine learning e redes neuronais), e estas implementações depressa se tornaram uma técnica de gerar pornografia falsa, em que a imagem de celebridades é aplicada a filmes porno. Onde encontrar as imagens? Bem, reparem na enormíssima quantidade de fotos que é publicada online, em redes sociais, aplicações, galerias, fóruns de partilha… na verdade, sempre que partilhamos online fotos do nosso dia dia, estamos a alimentar bases de dados vastíssimas, utilizadas pelos investigadores de inteligência artificial para alimentar algoritmos de machine learning.
Um bom artigo sobre o lado mais lúbrico dos DeepFakes, com menção a implicações legais inesperadas. Se um deepfaker faz um vídeo em que transfere imagens de uma celebridade enquanto criança para um filme pornográfico, isso constituirá pornografia infantil? https://www.theatlantic.com/magazine/archive/2018/05/realitys-end/556877/?utm_source=feed
Slide 10 - Basta descrever, que a IA faz o filme
A imagem gerada por IA oscila entre o fascinante e o assustador. As técnicas de machine learning que transferem estilos visuais entre imagens , interpretam imagens com base em reconhecimento de padrões e criam imagens aparentemente originais, criam o sentimento que somos incapazes de garantir a fiabilidade em imagens.
Sobre o uso de algoritmos de inteligência artificial para automatizar a produção de imagens falsas, deixo mais esta técnica: uma IA que, com acesso a uma enorme base de dados de videos, pode criar pequenos filmes a partir das descrições dadas pelos seus utilizadores: https://www.technologyreview.com/the-download/610370/a-new-ai-creates-original-video-clips-from-text-cues/
Como é que isto é possível? A explosão de uso da internet teve, entre outros efeitos, o de um crescimento exponencial na quantidade de dados disponíveis globalmente. Estes algoritmos, apesar de serem de inteligência artificial, não são verdadeiramente inteligentes, dependem do processamento de enormes quantidades de dados para aprender. Não é por acaso que a explosão nas aplicações de IA, machine learning e outras técnicas se deu com este boom na massificação da internet. A quantidade de dados que partilhamos são o que as alimenta. Lembrem-se, da próxima vez que partilharem algo em rede sociais (ou, se usarem um serviço gratuito de email, enviarem uma mensagem): qualquer que sejam os dados que estejam a enviar, estão a contribuir para o treinar de inteligências artificiais.
Slide 11 - Memes: armas virais na guerra cibernética
Tecnologias de processamento avançado de imagem baseadas em IA levam-nos a questionar a fiabilidade das imagens que visionamos, mas quando queremos influenciar mentes não necessitamos de grandes recursos. Aqueles que utilizam a imagem como arma nas técnicas de propaganda digital não recorrem a grandes aparatos técnicos, preferem iconografias low tech apropriadas e descontextualizadas que apelam aos enviesamentos ideológicos e cognitivos dos seus alvos. Os memes são a forma mais conhecida deste tipo de uso de imagem, verdadeiramente viral, admitidamente como arma de desestabilização social. Quantos de nós, ao navegar pelas redes sociais, não se deparam com imagens deste calibre, que nos despertam reações viscerais? Não é preciso ser-se um expert em criação de imagem para criar iconografias destas.
Os memes como arma são apenas a mais recente manifestação de algo bem antigo, a imagem enviesada como forma de propaganda.
Apelar aos sentimentos viscerais, incentivar enviesamentos, são técnicas bem conhecidas e com um longo historial de uso. O que muda é a rapidez e intensidade com que somos bombardeados por este tipo de informação.
Para os mais aventureiros, uma visita ao 4Chan ou ao Redditt permite uma descoberta dos fóruns onde os memes são criados. Aviso à navegação: é provável que um mergulho nestes sites provoque traumas e um descrédito generalizado na capacidade humana para a bondade.
Como os memes são utilizados como arma: https://www.salon.com/2018/02/24/how-memes-are-being-weaponized-for-political-propaganda/
Memes, do conceito de viralidade como forma de propagação de ideias ao seu uso como ferramentas de combate cultural e ideológico: http://www.mondo2000.com/2018/06/21/the-ends-dont-justify-the-memes/
Slide 12 - Constância do Engano
A primeira, é uma imagem clássica. São as Cottingley Fairies (https://en.wikipedia.org/wiki/Cottingley_Fairies), e há cem anos atrás, o escritor Conan Doyle contava-se entre os que acreditavam que estas imagens mostravam que as fadas existiam realmente. Notem que esta fotomontagem nem sequer foi muito sofisticadas, eram simples recortes de livros infantis fotografados por duas adolescentes. Pouco tempo depois, o regime soviético descobriu a importância da reescrita dos registos históricos, adulterando fotos para eliminar das memórias institucionais aqueles que o estalinismo recorreu fez desaparecer por cair no desfavor político.
Na segunda das duas imagens, Yezhov, diretor da polícia política soviética, é apagado após ter sido morto às ordens de Estaline (http://www.alteredimagesbdc.org/#/stalin/). A foto-montagem, coexiste com a utilização da imagem fotográfica desde os seus primórdios, quer como forma de expressão artística, quer para manipular perceções e distorçer o que se acredita ser um retrato fiel do real.
Estes dois exemplos mostram uma continuidade, a da facilidade da crença na veracidade das imagens que vemos, e que as formas de manipular perceções individuais ou públicas através de imagens adulteradas tem uma longa história. Acreditar no que vemos, sem questionar, antecede a corrente aceleração tecnológica. O que se alterou, hoje, é o ritmo, velocidade e intensidade a que somos expostos a uma imensidão iconográfica, parte da qual fortemente questionável. Como observa Jason Kottke, we are bombarded on all sides by propaganda, conspiracy theories, and broadly discredited theories from the past pushed upon us by entertainment news outlets and social media algorithms — we’re under a constant denial-of-service attack on our ability to think and reason.
Slide 13 - Filtrar a Treta
Há um padrão na forma como estas imagens nos podem manipular, sublinhando a importância de ter um sentido crítico afinado.Se tivesse seguido uma abordagem mais respeitável nesta apresentação, falaria agora da importância do estímulo ao pensamento crítico ou da educação para os media. Mas prefiro a leveza do crap filter, que o investigador Howard Rheingold e o teórico dos media Neil Postman nos legaram. No fundo, é uma maneira divertida de falar de sentido crítico na era da saturação mediática.
Depois de se dedicar a investigar realidade virtual, Howard Rheingold estudou os primórdios das redes sociais, nas comunidades online que se formavam a partir de fóruns de discussão, aquilo que agora reduzimos à interação via facebook.
É fácil ceder à tentação de considerar técnicas avançadas como o 3D ou geração de imagem por inteligência artificial como os grandes perigos da fiabilidade da informação visual nos media tradicionais e digitais. Não nos é difícil imaginar situações potenciais em que, usando técnicas de Deep Fake, as imagens que vemos em vídeo, quer online quer na televisão, sejam completamente falsas. Arrepia saber que a única forma de as detetar envolve utilizar outros algoritmos de Inteligência Artificial. Soa a ficção científica distópica, a um episódio especialmente arrepiante da série Black Mirror. E já é realidade, nos laboratórios e comunidades da internet.
No entanto, se há algo que as redes sociais nos demonstram, é que as abordagens visualmente rudimentares são tão ou mais eficazes. O que os trolls do 4chan, propagandistas russos, extremistas islâmicos, neonazis ou ativistas radicais nos mostram é que bastam simples imagens, muitas vezes de má qualidade, para influenciar o pensamento e contribuir para mudanças sociais negativas. Memes virais, que tocam nos nossos preconceitos e enviesamentos, são simples de criar. Armas pouco sofisticadas mas altamente mortíferas nas guerras ideológicas que encontraram nas redes sociais o campo de batalha perfeito.
O nosso desafio como professores? De qualquer área? Ajudar os nossos alunos a afinar os seus crap filters. O sentido crítico, colocando a questão de maneira mais formal. Mas não é uma tarefa fácil, e as mais recentes aplicações tecnológicas, aliadas ao imediatismo das redes, não augura uma evolução positiva. Manipulação de mentalidades utilizando imagem é algo que sempre existiu, mas hoje, face à intensidade com que somos bombardeados e às técnicas de criação, entre rudimentares e sofisticadas, como é que poderemos ter a certeza que aquilo que os nossos amigos partilham online é fiável e verídico, e não um eco do trabalho de meme warriors, bot farms ou propaganda de ciberguerra?
Como fazer? Adoraria ter resposta na ponta da língua. Receitas prontas a aplicar. Ou, aderindo ao fascínio com o pensamento computacional em TIC, algoritmos que definem procedimentos a adotar. Não tenho, apenas o sentimento que a literacia da imagem é fundamental na formação do sentido crítico.
Há muitas formas de estimular literacia digital dos media, e sentido crítico. Este é um tema transversal, que não se restringe a áreas específicas e compartimentadas. Para aqueles que gostam de fazer, de criar, talvez uma boa abordagem seja atrever-se a desafiar os alunos a descobrir o que está debaixo do capô. Ficar a conhecer como se produzem imagens, por meios digitais, e descobrir como estas podem ser manipuladas, entre os meios mais exóticos e os rudimentares. É algo que cai no âmbito da disciplina de TIC, em cujo novo programa da disciplina a imagem e o vídeo estão contemplados.
Slide 14 - Agradecimentos, notas, identificação.
Artur Coelho talvez sofra os efeitos psicológicos da inalação de derretimento termoplástico numericamente controlado. Acumula com uma voracidade maníaca de leitura em Ficção Científica e Especulativa. Na camuflagem com que sobrevive no mundo real, é professor de TIC e coordenador PTE no Agrupamento de Escolas Venda do Pinheiro, mestre em Informática Educacional, formador e colaborador do fablab Lab Aberto.
Referências e bibliografia
Museum of Hoaxes: Helicopter Shark. Obtido a 2 de junho de 2018, de http://hoaxes.org/photo_database/image/helicopter_sharkWikipeda: Cabinet of Curiosities. Obtido a 23 de junho de 2018, de https://en.wikipedia.org/wiki/Cabinet_of_curiosities
Sculptures in Time: Escape from New York. Obtido a 20 de junho de 2018, de https://sculpturesintime.tumblr.com/post/154442055950/what-appears-on-those-screens-was-not
Matte Shot - A Tribute to Golden Era special fx. Obtido a 22 de junho de 2018, de http://nzpetesmatteshot.blogspot.com/
Altered Images. Obtido a 21 de junho de 2018, de http://www.alteredimagesbdc.org/#/stalin/Wikipedia: Cottingley Fairies. Obtido a 3 de junho de 2018, de https://en.wikipedia.org/wiki/Cottingley_Fairies
Beschizza, R. (2018). Robbie Barrat's AI-generated nude paintings make Francis Bacon look like a genteel pre-Raphaelite. Obtido a 29 de março de 2018, de https://boingboing.net/2018/03/28/robbie-barrats-ai-generated.html
Condliffe, J. (2018). A new AI creates original video clips from text cues. Obtido a 27 de fevereiro de 2018, de https://www.technologyreview.com/the-download/610370/a-new-ai-creates-original-video-clips-from-text-cues/
Domingos, P. (2015). The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World. Nova Iorque: Basic Books.
Ede, S. (2005). Art and Science. Londres: I.B. Tauris.
Foer, F. (2018). The Era of Fake Video Begins. Obtido a 20 de maio de 2018, de https://www.theatlantic.com/magazine/archive/2018/05/realitys-end/556877/?utm_source=feed
Harlow, D. (2018). Pure CSS Francine. Obtido a 12 de fevereiro de 2018, de https://github.com/cyanharlow/purecss-francine
Kottke, J. (2018). Early 90s computing nostalgia. Obtido a 8 de fevereiro de 2018, de https://kottke.org/18/02/early-90s-computing-nostalgia
Kottke, J. (2018). Ten guidelines for nurturing a thriving democracy by Bertrand Russell. Obtido a 22 de junho de 2018, de https://kottke.org/18/06/ten-guidelines-for-nurturing-a-thriving-democracy-by-bertrand-russell
Leonhard, G. (2017). Tecnologia versus Humanidade: O confronto futuro entre a Máquina e o Homem. Lisboa: Gradiva.
Mordvintsev, A., Olah, C., Tyka, M. (2015). Inceptionism: Going Deeper into Neural Networks. Obtido a 19 de junho de 2018, de https://ai.googleblog.com/2015/06/inceptionism-going-deeper-into-neural.html
Oliveira, A. (2017). Mentes Digitais: A Ciência Redefinindo a Humanidade. Lisboa: Instituto Superior Técnico.
Olsen, D. (2018). How memes are being weaponized for political propaganda. Obtido a 9 de junho de 2018, de https://www.salon.com/2018/02/24/how-memes-are-being-weaponized-for-political-propaganda/
O'Reilly, T. (2017). WTF?: What's the Future and Why It's Up to Us. Nova Iorque: HarperBusiness.
Reichle, I. (2009). Art in the Age of Technoscience: Genetic Engineering, Robotics, and Artificial Life in Contemporary Art. Londres: Springer.
Sirius, R.U. (2018). Memes Are For Tricksters: The Biology of Disinformation. Obtido a 24 de junho de 2018, de http://www.mondo2000.com/2018/06/21/the-ends-dont-justify-the-memes/
Zollhöffer, M., et al (2018). Deep Video Portraits. Obtido a 2 de junho de 2018, de https://web.stanford.edu/~zollhoef/papers/SG2018_DeepVideo/page.html
