Leituras recomendadas

Bem-vindos ao lado sombrio do Big Data: resenha do livro “Algoritmos de destruição em massa”, de Cathy O’Neil.

Referência: O’NEIL, Cathy. Algoritmos de destruição em massa. Como o Big Data aumenta a desigualdade e ameaça a democracia. Santo André, SP: Editora Rua do Sabão, 2020.

Autor: Claiton Borges Silva, mestrando em Processos e Manifestações Culturais (Universidade Feevale)

Imagine que você é uma médica e está tentando fazer parte da Cruz Vermelha Internacional. Dane-se o dinheiro, sua vocação é salvar vidas. No entanto, a equipe responsável pela seleção informa que você foi recusada pelo fato de possuir uma acusação de tráfico de drogas. Esses antecedentes não são verdadeiros, mas viriam a impedir uma série de outras coisas no futuro, como a obtenção de crédito e financiamentos habitacionais. De uma hora para outra, sua vida se transforma num inferno.

Indignada, você parte em busca de uma solução para o mistério e descobre que a ficha criminal pertence a uma pessoa que possui o mesmo nome e nasceu no mesmo dia que você. A confusão ocorreu por causa de um processo automático, executado por um programa de coleta de dados e rastreamento na rede. Sua reputação foi manchada e o seu sonho adiado porque informações erradas estão sendo relacionadas a você através de tecnologias que deveriam ser um diferencial positivo na área dos recursos humanos e no mercado financeiro. Softwares que operam com base em algoritmos e deveriam representar o que há de mais sofisticado em termos de organização e distribuição de informações.

A história acima é verídica e ocorreu com a médica estadunidense Catherine Taylor. Esse é apenas um entre as dezenas de casos que ilustram “Algoritmos de Destruição em Massa”, livro escrito em 2016 por Cathy O'Neil, cientista de dados, blogueira e ex-analista do fundo de investimentos D. E. Shaw & Co. – usina criativa de Wall Street que já contou com nomes como Jeff Bezos entre os seus funcionários – que faz da sua carreira uma luta contra o lado sombrio do big data e se dedica a consertar o que batizou de "armas de destruição matemática", ou ADMs.

Na obra, publicada originalmente em 2016(Weapons of math destruction: how big data increases inequality and threatens democracy), a autora define a expressão como um modelo matemático preditivo alicerçado em três elementos: opacidade, escala e dano. Para ela, esses modelos são imperfeitos e passam a falsa sensação de segurança característica do uso entusiástico de novas tecnologias. O resultado do emprego desmedido desses recursos é a consolidação de uma realidade que torna os pobres ainda mais pobres, as injustiças mais latentes e o acesso a bens de consumo e oportunidades cada vez mais restrito. Ou seja, garante a perpetuação de ciclos hegemônicos nocivos nos mais variados setores da economia e da sociedade.

Para O’Neil, a forma com que as ferramentas são utilizadas na análise dos dados coletados pelas plataformas online é determinante para que esse processo se solidifique cada vez mais, tornando-se o modus operandi em diversas esferas da vida pública e privada. A falta de transparência desses modelos praticamente impossibilita a sua compreensão, deixando as pessoas sem uma justificativa que explique os porquês das decisões tomadas com base na resposta obtida por meio deles. À medida que tomam uma proporção cada vez maior, os modelos matemáticos criados para resolver um determinado problema acabam afetando outros setores da sociedade e aumentando os riscos decorrentes de suas decisões.

De algoritmos que avaliam o trabalho de professores ou definem escores de crédito a softwares que visam determinar a melhor forma de combate à criminalidade, as ADMs se consolidaram como as ferramentas de um sistema excludente e segregacionista no qual os vencedores seguirão protagonizando a história e os perdedores continuarão perdedores. Modelos imperfeitos, operados e abastecidos por – falhos e influenciáveis – seres humanos que passam a impressão de exatidão típica da frieza dos números. Ao final, o conhecimento gerado pelas ADMs acaba sendo empregado apenas para justificar o status quo ou reforçar preconceitos.

Isso ocorre, em boa parte, porque existem concepções complexas que estão além do alcance das ADMs, tendo em vista que modelos baseados em algoritmos não conseguem entender algo que não faz parte da sua missão, algo que não compõe a lista de tarefas para o qual eles foram desenvolvidos. “Mesmo com seu poder surpreendente, as máquinas não conseguem ainda se ajudar por mais justiça, ao menos não sozinhas. Analisar dados e decidir o que é justo é absolutamente estranho e enormemente complicado a elas. Apenas seres humanos podem impor essa restrição”, afirma a autora.

Profecia autorrealizável

O caso mais preocupante apresentado é o emprego das ADMs na segurança pública, área em que softwares são vendidos como ferramentas capazes de “prever” crimes, por meio da análise de indicadores. Esses indicadores são fruto do trabalho da polícia e representam o feedback necessário para abastecer os bancos de dados que serão trabalhados por algoritmos, dando origem a criação de padrões que nortearão as ações a serem desencadeadas. Entretanto, além de não serem efetivos em sua tarefa, os modelos preditivos criam um ciclo negativo de feedback determinante para que haja tantos episódios de racismo e violência policial nos EUA.

Partindo da premissa básica de reforçar a atuação nas zonas de maior ocorrência de delitos, programas como o Predpol, desenvolvido por uma start-up californiana, determinam os locais que receberão mais patrulhamento dentro da área de cobertura de um distrito policial. A princípio, é possível imaginar que isso reduziria a criminalidade no bairro em questão. Mais polícia significa – em tese – mais segurança. Uma vez pacificada essa região, chegaria a hora de partir para outra em pior situação.

No entanto, o que a ADM não leva em consideração é o fato de que, nos lugares onde houver maior número de viaturas patrulhando, a tendência é haver mais abordagens, prisões e embates entre a polícia e pessoas em alegada atividade suspeita. Cinco viaturas representam dez policiais. Dez policiais abordarão e prenderão mais pessoas – às vezes, matarão mais pessoas –, aumentando os indicadores criminais dessa área. Quando comparada a uma localidade que possui a cobertura de uma viatura, a discrepância pode ser gritante.

Dessa forma, o bairro que deveria se tornar mais seguro será apontado repetidamente como aquele que possui maior incidência criminal. E, possuindo índices ascendentes de criminalidade, receberá ainda mais reforço policial. Não é preciso ser um gênio da matemática para entender o que acabará acontecendo com essa vizinhança, tampouco um sociólogo para imaginar o tipo de comunidade que será o foco desse trabalho. O alvo da ADM sempre será o cidadão de maior vulnerabilidade social. “O resultado é que criminalizamos a pobreza, acreditando o tempo todo que nossas ferramentas não são apenas científicas, mas justas”, avalia O’Neil.

Alerta necessário

Os algoritmos estão tão presentes no nosso cotidiano que, muitas vezes, não percebemos o quanto somos afetados. Lembramos que eles existem quando escolhemos o que assistir no serviço de streaming, gastamos horas no Instagram e no TikTok ou reclamamos dos anúncios insistentes após pesquisar preços em lojas online. Porém, os ignoramos quando tratamos de assuntos como a aquisição de um imóvel, contratamos o seguro do carro ou usamos dispositivos que monitoram a nossa saúde – o que pode ser um grave problema.

O livro pode e deve ser encarado como um alerta sobre a necessidade de auditar os algoritmos e de fomentar estudos nessa área, pois expõe o tímido progresso obtido até hoje. Um esforço que encontra boa companhia junto a Dataclisma (Rudder, 2015), “Custodians of Internet” (Gillespie, 2018), “The Platform Society” (Van Dijck, Poell e De Waal, 2017), e A Era do Capitalismo de Vigilância (Zuboff, 2019), obras que trabalham a conexão entre plataformas online e grandes conglomerados – que fazem uso da tecnologia e do conhecimento obtidos por meio da coleta de dados para expandir sua participação no mercado – e a sociedade, representada pelas massas anônimas que sofrem com a falta de autonomia de um esquema que oferta apenas aquilo que lhe convém.

A forma como “Algoritmos de Destruição em Massa” está estruturado permite a fruição de leitores com diversos níveis de conhecimento e trajetórias distintas. Tendo como ponto de partida uma explanação sobre como são desenvolvidos e como operam os modelos matemáticos, O’Neil explica os motivos que motivaram a sua cruzada contra as ADMs, analisando como somos afetados pela forma desvirtuada como elas vêm sendo utilizadas. Os impactos no nosso cotidiano ganham mais força a partir de exemplos que permitem a mensuração dos prejuízos diretos e indiretos decorrentes das escolhas norteadas por decisões tomadas pela máquina.

Estabelecendo uma interface entre pesquisa científica, experiência de mercado e vida do cidadão comum – lado mais fraco dessa complexa equação –, a autora faz com que o leitor questione quando os governos irão intervir e colocar em prática iniciativas regulatórias, coibindo o emprego de modelos matemáticos em procedimentos que ainda dependem da análise humana e de uma decisão alinhada com as suas idiossincrasias. Através de histórias reais, vividas por pessoas reais, percebe-se o quanto podemos ganhar resistindo à total automatização das nossas vidas.

É hora de assumirmos que a máquina não é capaz de compreender toda a nossa carga de subjetividade. E, também, de lembrarmos que por trás de uma ADM há pessoas – com os seus interesses, preconceitos e limitações – interferindo na forma como o processo é conduzido. O big data possui enorme poder, mas continua dependente das nossas escolhas. Enquanto a máquina não conseguir decodificar a mente humana, essa realidade se manterá.

Sobre a autora do livro:

Catherine Helen O’Neil é uma cientista de dados, Ph.D em matemática pela Universidade de Harvard. Criadora do blog mathbabe.org, atua como colunista da Bloomberg e como conselheira da Harvard Data Science Review. Colaborou com o movimento Occupy Wall Street, trabalhando alternativas para o sistema financeiro. Foi diretora do Lede Program Data Practices na Escola de Jornalismo da Universidade de Columbia. Em 2019, fundou a empresa de auditoria algorítmica O’Neil Risk Consulting.

Resenha do livro “A máquina do ódio”: Notas de uma repórter sobre fake news e violência digital

Referência: MELLO, Patrícia Campos. A máquina de ódio: Notas de uma repórter sobre fake news e violência digital. 1. ed. São Paulo: Companhia das Letras, 2020. 196 p.

Autor: Eduardo Gabriel Velho, bolsista de doutorado do CNPq no PPG em Processos e Manifestações Culturais (Universidade Feevale)

O livro A máquina do ódio: Notas de uma repórter sobre fake news e violência digital, foi publicado em 2020 por Patrícia Campos Mello, jornalista, escritora, mestra em Business and Economic Reporting pela New York University e, atualmente, repórter e colunista do jornal Folha de São Paulo. O livro fala sobre as conturbadas eleições presidenciais brasileiras de 2018, e sobre como as plataformas digitais são utilizadas para a reprodução de violência e notícias falsas.

Patrícia conta em primeira pessoa como foi investigar acerca do uso de WhatsApp para a difusão de propaganda e notícias falsas durante as eleições de 2018. De fato, Patrícia publicou na Folha diversas reportagens sobre o assunto, começando pela notícia intitulada “Empresários bancam campanha contra o PT pelo WhatsApp”. A jornalista conta da perseguição que sofreu por causa dessas matérias, uma vez que ela foi ameaçada e insultada de tal forma que a Folha precisou contratar seguranças para acompanhá-la e proteger sua integridade física.

Conforme os relatos do livro, Patrícia descobriu que agências de marketing foram contratadas por empresários para, durante a campanha de Jair Bolsonaro, nas eleições presidenciais de 2018, realizar o envio em massa de mensagens favoráveis ao então candidato. O esquema funcionava, segundo a autora, como uma “terceirização do caixa dois”, pois desde 2015 as empresas estavam proibidas de realizar doações para campanhas políticas.

A autora pondera sobre a questão do assassinato de reputações através das plataformas digitais, e conta sobre como isso afetou sua prática jornalística. Patrícia relata as ameças, insultos e deslegitimação da qual foi alvo durante suas investigações, de forma que se sentiu coagida a ponto de ter que andar sob a proteção de um segurança, tendo em vista que, conforme seus relatos, ela já havia coberto guerras na Síria, Iraque e Afeganistão, sem sequer estar acompanha de um guarda-costas. A tese do livro é de que essas violências são uma espécie de censura, pois intimidam qualquer tipo de oposição. Conforme a autora, além do disparo em massa de mensagens via WhatsApp, houve o apoio voluntário de pessoas que difundiram por conta própria conteúdo favorável a Jair Bolsonaro durante sua campanha. Além disso, alguns apoiadores voluntários também difundiram conteúdo que deslegitimava com violência qualquer oposição à Bolsonaro, violência da qual a autora foi alvo durante suas investigações.

O livro também aborda a questão da “pós-verdade” e dos “fatos alternativos”, realizando também um paralelo sobre como populistas de outros países, como Donald Trump (nos Estados Unidos) e Rodrigo Duterte (nas Filipinas) utilizaram das “falsas equivalências” para colocar os “fatos” no mesmo patamar das “opiniões”. Desta forma, a autora evidencia acerca dos impactos que a prática jornalística sofreu em função das plataformas digitais e das apropriações que foram dadas a elas.

A máquina de ódio é um livro que se desenrola como se fosse uma história ficcional, que convida o leitor para ler o próximo capítulo. A escolha da autora de relatar minunciosamente sua investigação, de contar para o leitor sobre os bastidores de sua prática jornalística, adiciona um caráter literário que é pouco convencional em textos acadêmicos. No entanto, embora existam essas pessoalidades, destaca-se que a objetividade do trabalho não foi avariada, de forma que os argumentos e inferências da autora transparecem sua razoabilidade.

Por fim, destaca-se a relevância desta obra, que relata em primeira mão acontecimentos importantíssimos da política brasileira. A leitura é recomendada principalmente para pesquisadores que desejam estudar acerca da dimensão política da violência que ocorre nas plataformas digitais, mas é interessante para qualquer pessoa que deseja entender um pouco mais sobre as relações entre política, jornalismo, notícias falsas e violência digital.

Resenha do livro "Kill All Normies": Online Culture Wars from 4chan and Tumblr and the Alt-Right

Referência: NAGLE, Angela. Kill all normies: Online culture wars from 4chan and Tumblr to Trump and the alt-right. New Alresford: John Hunt Publishing, 2017.

Autor: Eduardo Gabriel Velho, bolsista de doutorado do CNPq no PPG em Processos e Manifestações Culturais (Universidade Feevale)

O livro Kill All Normies: Online Culture Wars from 4chan and Tumblr to Trump and the Alt-Right, foi publicado em 2017 por Angela Nagle, estadunidense, doutora em filosofia e atualmente pesquisadora da University College Cork. O livro fala sobre a dimensão política dos fóruns de internet anônimos, de forma que a autora defende que as eleições presidenciais dos Estados Unidos em 2016 foram influenciadas pela ação desses grupos extremistas.

O termo normie é utilizado em fóruns anônimos, como o 4chan e alguns subreddits, para se referir de forma depreciativa às pessoas que se alinham, conforme a concepção desses grupos, a uma “cultura mainstream” que é considerada perversa e opressora para os participantes desses fóruns. Conforme tese da autora, a militância da direita alternativa em fóruns anônimos foi alicerçada através de uma geração de homens que se sentiram rebaixados ao assistir minorias sociais, como mulheres e pessoas LGBTQIA+, conquistarem maior equidade e direitos civis. Na percepção distorcida desses homens, essas mudanças sociais os deslocaram de sua já estabelecida e garantida posição de poder, de forma que passaram a se sentir marginalizados ao se deparar com essa realidade. A autora destaca que essas manifestações não podem ser consideradas patriarcais, visto que são protagonizadas por adolescentes ou homens em adolescência tardia que se identificam em uma “masculinidade beta”.

Desta forma, a autora defende que esses homens passaram anos em fóruns anônimos culminando ódio contra a “sociedade mainstream”, o que fortaleceu ideologias como o alt-right (direita alternativa), o dark enlightment (iluminismo das trevas) e movimentos masculinistas como o MGTOW. A ação desses grupos, em especial os alt-right, cumpriu um importante papel na campanha e posterior vitória de Donald Trump nas eleições presidenciais estadunidenses de 2016, a qual foi marcada pelo uso da máquina das plataformas digitais para a difusão de notícias falsas e caluniosas.

A autora também defende que embora a ação voluntária dos alt-right tenha sido importante na campanha de Donald Trump, suas concepções ideológicas ainda eram muito extremas para convencer o público em geral, de forma que, conforme o livro, foi a ação dos alt-light, uma versão mais moderada, “leve” e didática da direita alternativa, que conseguiu disseminar essas ideias com maestria. Os alt-light podem se manifestar inclusive na figura de influenciadores digitais, que possuem grande alcance e capacidade de convencimento.

De forma geral, a tese do livro é de que essas “guerras culturais”, a difusão de ódio na internet, passaram a ter consequências “reais”, pois já são capazes de influenciar uma eleição nacional e, por isso, não podem mais ser ignoradas.

Kill All Normies é um livro bastante denso, em que a autora desenrola seus argumentos com embasamento na realidade empírica, apresentando estudos de caso acerca de acontecimentos relevantes para a dimensão do livro. No entanto, embora haja esforço em expandir a tese para além da realidade estadunidense, destaca-se que o livro possui maior enfoque para a cultura e acontecimentos desse país, o que não deve ser encarado como um defeito, mas como uma delimitação da obra. Para os pesquisadores que forem embasar seu trabalho nas ideias de Angela Nagle, mas em perspectiva da realidade brasileira, é importante conduzir uma contextualização, pois embora o conceito de alt-right/alt-light pareça ser análogo as conturbações políticas que o Brasil enfrenta, é importante pensar que essas ideias estão imbricadas aos acontecimentos dos Estados Unidos.

Por fim, destaca-se a importante contribuição deste livro em realizar o “mapeamento” dos elos entre o submundo dos fóruns anônimos de internet e seu impacto no front das figuras públicas da política. A leitura é recomendada para pesquisadores que desejam estudar acerca dos impactos sociais da internet em termos de antifeminismo, machismo, racismo, antidemocracia, extrema direita, entre outros. Mas é, por outro lado, um trabalho essencial para quem deseja pensar sobre a chamada manosphere, que se materializa nos chans, fóruns gamer e outros grupos de internet.