Hannah Fry (2018). Hello World: How Algorithms will Define our Future and Why We Should Learn To Live With It. Nova Iorque: Doubleday.
Este é um belíssimo livro para nos ajudar a compreender os impactos da Inteligência Artificial. Não nos mergulha nos detalhes técnicos. Para isso, há obras bem mais completas e complexas, que nos mostram a confluência de matemática e computação que constrói os correntes desenvolvimentos em inteligência artificial. São livros que costumam detalhar a tecnologia, mas depois não exploram muito os exemplos da sua utilização. Este começa onde os outros terminam. Não se debruça nos pormenores tecnológicos, preferindo mostrar-nos uma grande variedade de exemplos de áreas específicas onde a IA já influencia e determina comportamentos humanos.
Soa assustador? Normalmente, quando falamos da interação entre algoritmos e humanos, o que nos vem à cabeça são os sistemas de recomendação dos agregadores de vídeo e música, ou comércio online, ou os algoritmos de seleção do que visualizamos nas redes sociais. Eventualmente, pensamos nos sistemas de condução de veículos autónomos. Não nos recordamos, ou sabemos, que sistemas de IA estão já no terreno, a apoiar as decisões de juízes ou assistentes sociais. Que em praticamente todas as áreas da economia e sociedade, da educação à arte, encontramos aplicações e implementações de IA.
Hannah Fry leva-nos num percurso que passa pela justiça, automóveis, saúde, redes sociais, crime e criatividade, dando-nos exemplos concretos de aplicação de algoritmos de IA nestes campos. Mais do que isso, não tem medo de apontar as questões éticas que estas ferramentas levantam, entre os já conhecidos enviesamentos (muitos, inconscientes) de algoritmos à interferência nefasta dos sistemas de automação nos operadores (induzem à distração e complacência). Problemas que têm muitas causas, entre fraca qualidade de dados-base para treino de IA, algoritmos mal concebidos, erros, ou foco na falta de transparência. O argumento de Fry não é anti IA e automação. Bem pelo contrário, instiga-nos a conhecer e abraçar estas tecnologias, mas também a ter uma atitude crítica proativa. A questão da transparência é essencial. Se estes algoritmos estão, já hoje, a determinar as nossas vidas, não podem continuar a estar ocultos debaixo do véu da propriedade intelectual. Esta opacidade legalmente induzida impede os criadores de serem responsabilizados quando há erros, e impede os afetados de saber exatamente que mecanismos sustentam as decisões algorítmicas. Em parte, isso combate-se com educação, com uma maior consciencialização do impacto desta tecnologia nas nossas vidas, e este livro foi concebido precisamente com essa finalidade.
