quarta-feira, 9 de novembro de 2016

Weapons of Math Destruction


Cathy O'Neil (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Nova Iorque: Crown.

Aviso à navegação. Este livro é tendencioso. Não é um elogio ao poder dos algoritmos industriais de big data e a sua promessa radiosa de um futuro melhor para cada utilizador dos inúmeros serviços que hoje já a eles recorrem. Também não os apresenta como ameaças incomensuráveis ao estado das coisas. Dos milhões de comportamentos individuais, registados e agregados, emergem padrões que podem ser analisados para optimizar procedimentos. Escrita por uma matemática que trabalhou em algoritmos financeiros até que o crash do sistema financeiro a despertou para os graves problemas sociais que os algoritmos em que trabalhava provocavam, esta obra mostra-nos como funciona em diferentes áreas, algumas insuspeitas, o uso de programas informáticos avançados, capazes de sustentar tomada de decisões com análise e compartimentalização de grandes volumes de dados.

Mostra como a optimização algorítmica de conjuntos de dados agregados com informações sobre indivíduos já caracteriza muitas das abordagens utilizadas hoje pelas indústrias do sector terciário. Os exemplos são muitos, passando por rankings na educação, sistemas de racionalização usados por bancos para decidir a atribuição de crédito ou seguradoras para definir prémios de seguro, técnicas de marketing comercial e político que estilhaçam a ideia de uma mensagem comum para toda a população, métodos de optimização laboral que se reflectem em horários desumanos para os funcionários, à manipulação subtil da nossa opinião moldada por algoritmos opacos que definem  a informação que consumimos nas redes sociais que, cada vez mais, caracterizam os nossos consumos mediáticos.

O problema que este livro levanta não é sobre o uso de algoritmos em si, mas sobre o seu assentar, nalguns casos, em pressupostos falsos, ou o reforço que fazem de crenças e tendências de pensamento. Com isto, o potencial destrutivo é enorme. A discriminação étnica regressa em força, agora assente em dados inocentes que permitem correlações menos inocentes. Os sistemas enviesam-se para responder aos padrões algorítmicos. Erros acontecem, trocas de dados ou brechas. Pior, estes algoritmos podem ser utilizados para maximizar fontes de lucro à custa da manipulação extrema de empregados ou clientes. Coisas que afectam as vidas de indivíduos, a qualidade das instituições, e transformam em letra morta as protecções legais aos direitos humanos e sociais.

Em si, estas ferramentas matemáticas são apenas ferramentas. Os dados nelas colocadas ou as correlações extraídas podem reforçar discriminações, agudizar problemas sociais, ou atropelar liberdades e direitos individuais. Apesar de todas as problemáticas que levanta, a autora mostra que também podem ser utilizados reforçando a construção de sociedades mais justas e progressistas. É uma questão de escolhas legais e económicas.

Sem comentários: