segunda-feira, 2 de agosto de 2021

Culpa dos Algoritmos

Juntei-me ao TikTok. E confesso que fiquei chocado com o que me é dado a ver. De certa forma, confirma enviesamentos e pânicos morais que tenho ouvido sobre esta plataforma.

Porquê o TikTok, para alguém que como eu é mais adepto do texto e imagem física do que do vídeo, e não está particularmente interessado em vídeos vernaculares? Bem, ultimamente tenho-me dedicado a explorar as possibilidades da criação de imagens geradas por inteligência artificial, usando Colabs que me permitem experimentar algoritmos sem ter de arranjar hardware de topo (e aprender Python, que até é algo que coloco no horizonte). São processos que geram imagens e vídeos, e os resultados mais interessantes estão mesmo nos vídeos, criados a partir das imagens geradas pelas iterações do algoritmo. Resta-me o problema de como os divulgar, sem sobrecarregar as redes que já uso. Até porque tenho uma política de restringir o que partilho, nunca coloco online tudo o que faço, mas apenas o que considero que merece mesmo ser partilhado. Procuro o inverso daqueles que despejam centenas de imagens em redes sociais. Mas, tendo uma boa quantidade de vídeos gerados por algoritmos a ganhar pó no disco rígido, pensei no Tik Tok como forma de os colocar online, e experimentar um pouco com vídeo vernacular.

Esta longa explicação sobre o porquê de me ter juntado a uma rede que nunca respeitei muito não define o que é que me está a incomodar nela. O que me deixa desconcertado é o conteúdo que a rede me mostra: largamente constituído por vídeos muito sexualizados de mulheres, dançando em trajes reveladores, ou respondendo a diversos desafios (trends, em tiktokês). Torna-se especialmente perturbante quando recebo no feed vídeos da trend blazer: mulheres que aparecem em roupas normalíssimas, e surgem de repente vestida com um blazer. Apenas um blazer. Se isto não vos parece perturbante, ajuda dizer que grande parte desses vídeos é criado por adolescentes, algumas claramente no escalão mais baixo do conceito de jovem adolescente? Confesso, receber estes vídeos num feed deixa-me com uma péssima sensação de quarentão baboso. A sentir que algo está errado em mim.

Podia-se escrever imenso sobre questões de imagem corporal, pressão social sobre adolescentes, e uso massivo de uma rede que estimula um conjunto muito específico de iconografias de género - uma clara tendência para cabelos longos e lisos, rostos perfeitos, seios generosos, ancas largas, tops e leggings justos, todo o conjunto a dançar as coreografias que a rede populariza viralmente. Imaginem ser uma jovem, crescer com estes estímulos visuais, com a ideia que é isto que é valorizado na mulher, e comparar estas visões com as do seu próprio corpo em desenvolvimento? As sensações de desadequação e validação que isso levanta? Por outro lado, por muito que os vídeos me pareçam estar demasiado em cima da linha entre aceitável e a exploração sexualizante, também os percebo como uma forma de expressão individual. Não é um assunto linear. O que me parece muito linear é que não é aceitável que este tipo de vídeos seja tão visível , ou melhor, tão direcionado a públicos específicos.

Simplificando: raparigas a querer mostrarem-se sensuais nas roupas, poses e maquilhagem? Normal, faz parte do desenvolvimento da personalidade. Vídeos desses a serem constantemente mostrados a homens bem mais velhos? Isso é creepy as hell. 

Se a sensação é arrepiante, é bom observar que o errado não está em quem vê. Estes vídeos não aparecem de forma aleatória nos feeds dos utilizadores. Não os procuramos abertamente (claro, haverá quem o fará, e há etiquetas psicológicas para esse tipo de comportamento). Chegam-nos, em torrente constante. Chegam-nos, porque assim foi ditado pelo algoritmo. Quando acedi à rede social, dei apenas dois dados de perfilagem - a idade e o género. A partir daí, o algoritmo decide o que considera que eu gostaria de ver.

Algoritmo é um conceito muito confortável. Dá a entender que há um espírito na máquina que toma decisões autónomas. Algo está errado na transmissão de conteúdos e interações em redes sociais, um problema que sabemos estar cada vez mais agudo? Algoritmos, dizemos, e encolhemos os ombros. A culpa é da máquina, dá-se a entender. E com isto, esconde-se debaixo do tapete que os algoritmos dependem sempre de decisões humanas.

Os algoritmos dependem de dados e gerem parâmetros. São programados por humanos, mas não é aí que o problema reside. Os programadores apenas fazem o trabalho de desenvolvimento computacional de decisões de gestão comercial. Os parâmetros que ditam que no TikTok eu receba vídeos de adolescentes menos vestidas, mas não de gatos fofos, não aleatórios nem ditados pelas máquinas. São o fruto de decisões conscientes de analistas, gestores, peritos em comportamento humano, que procuram formas de maximizar o tempo passado na aplicação ou rede, maximizando com isso o seu lucro potencial. Ou seja, eu não recebo vídeos de adolescentes por ser uma espécie de rebarbado à cata de algo babável, mas sim porque entre inúmeras reuniões e análises, um grupo de responsáveis do TikTok entendeu que era uma excelente ideia parametrizar "para utilizadores masculinos, aumentar o nível de vídeos com meninas adolescentes nos seus feeds para manter o interesse do utilizador" nos algoritmos que sustentam a rede. Decisões tomadas por pessoas normais, que fazem a sua vida e o seu trabalho, pensam nestas coisas durante as horas de expediente mas ao fim do dia vão para casa, para junto das suas famílias. Faz pensar na ideia que o problema da maldade humana não está nas pessoas verdadeiramente más, mas nas pessoas normais que simplesmente fazem o seu trabalho, cumprem as normas, seguem as regras.

Posto isto, será que vou abandonar o TikTok e queimar o telemóvel com lança-chamas? Nem por isso. O meu projeto de usar a rede para despejar vídeos produzidos por GANs mantém-se, e mesmo que não tivesse sido bombardeado com estes conteúdos, não lhe daria muito uso para além da publicação. O choque com este uso tão desavergonhado de algoritmos dá-me alguma tendência para concordar com os pânicos morais sobre esta aplicação, não no sentido do uso que os utilizadores lhes dão, mas no do uso algorítmico abusivo dos conteúdos gerados pelos utilizadores. Mas o mal está feito. Desconsiderava o TikTok pelo elevado nível de azeiteirice dos seus influencers. Agora junto-lhe o uso abusivo da imagem feminina, potencialmente de menores.  

Imagem não relacionada; esperavam algum screengrab mais picante de vídeos do TikTok? É apenas um exemplo de experiências CLIP+VQGAN.

Sem comentários: