"O algoritmo vai em busca de teorias da conspiração"

A filha de Christine, moradora do Rio de Janeiro, tinha 10 anos quando subiu no YouTube um vídeo no qual brincava na piscina de casa com as amigas. O canal gerenciado pela mãe costumava ter uma média de dezenas de curtidas, geralmente vindas de coleguinhas da escola. Nesse dia, o vídeo da piscina teve milhares de visualizações. 

Christine ficou preocupada e, em pouco tempo, descobriu que o algoritmo do YouTube havia selecionado o material para ser oferecido como conteúdo de crianças semi-nuas. Apesar das diretrizes do site relacionadas ao consumo de pornografia infantil e apesar de o vídeo ter sido retirado do canal, ele continuou circulando após dezenas de compartilhamentos em consequência da seleção do algoritmo. 

Em Mianmar, uma ditadura acabava de ser substituída por um regime democrático quando o Facebook desembarcou no país com um presente para uma população pobre e oprimida: um acordo com uma operadora de telefonia oferecia pacote gratuito de dados, o que permitia acesso ilimitado à rede. 

Com a população inteiramente conectada, a incitação de ódio de um monge no Facebook contra a minoria muçulmana do país tomou proporções catastróficas e dimensão de genocídio. No Sri Lanka, um boato no Facebook de que turistas estariam sequestrando crianças para tráfico de órgãos levou a assassinatos violentos e, no Brasil e nos Estados Unidos, presidentes se elegeram com discursos de ódio que pregavam a eliminação dos adversários.

Histórias como essas são pontos de partida para o jornalista americano Max Fisher, repórter do “New York Times” e finalista do prêmio Pulitzer, fisgar o leitor no livro “A máquina do caos — Como as redes sociais reprogramaram nossa mente e nosso mundo”, recém-lançado pela Todavia. O livro é fruto de uma pesquisa que envolve entrevistas com centenas de estudiosos, executivos do Vale do Silício, engenheiros, psicólogos, sociólogos e vítimas de algoritmos.

Leia também: 

Castro Rocha: "Brasil é laboratório de criação de realidade paralela" 

Fisher mergulha com propriedade no universo das big techs com o objetivo de mostrar como a combinação entre o lucro a qualquer custo e algoritmos autônomos proporcionam um terreno perigoso para o desenvolvimento do discurso de ódio e do extremismo. "Sucessivos estudos mostraram que os algoritmos, na maior parte das redes sociais, consistentemente promovem ideias e teorias da conspiração que se alinham com a extrema direita", diz Fisher. "Mas isso não é porque as pessoas que estão nas redes querem esse tipo de conteúdo deliberadamente."

Segundo o autor, a maior parte das pessoas que estão nas redes são moderadas na maneira como veem o mundo e têm tendência em encarar as redes como um instrumento de progresso. No entanto, devido à natureza humana, sentimentos de medo, ódio e indignação geram mais engajamento, o que alimenta o algoritmo e o leva a oferecer esse tipo de conteúdo. 

O caminho, segundo o pesquisador, acaba levando a uma toca de coelho: quanto mais conteúdo violento, extremista e que propague o ódio o usuário assiste, mais as redes oferecem. "O resultado é que o algoritmo da rede social aprendeu a potencializar esses sentimentos para nos tornar o mais ativos possível on-line, o que gradualmente leva as pessoas para ideias de extrema direita", lamenta Fisher.

Uma das soluções apontadas pelo autor seria a regulação das redes, tema que tem pautado discussões no mundo inteiro, inclusive no Brasil. Ataques a escolas orquestrados e estimulados nas redes sociais, o julgamento no STF sobre a responsabilização de big techs pelos conteúdos postados pelos usuários e a extensão do Marco Civil da Internet, segundo o qual as plataformas não podem decidir sobre o conteúdo publicado pelos internautas são questões com impactos diretos na sociedade brasileira contemporânea. 

"As redes sociais só podem se tornar um lugar mais saudável se as próprias plataformas forem forçadas a mudar seus sistemas subjacentes", diz Fisher. Leia a seguir entrevista com o escritor.

 

Os algoritmos das redes sociais, que operam em parte de maneira autônoma, aprendem por eles mesmos a promover qualquer conteúdo que maximize o engajamento do usuário a longo prazo. E isso faz com que, sucessivamente, o algoritmo vá em busca de teorias da conspiração em geral, do extremismo e, em última análise, a formas dos dois que tendem a se alinhar com a extrema direita.

A razão para isso tem a ver principalmente com a natureza inata do ser humano. Sentimentos de nós contra eles, tribalismo, medo, ódio e especialmente indignação são extremamente estimulantes. Esses sentimentos são desagradáveis, mas eles nos tornam socialmente extremamente ativos, especialmente quando buscamos nos integrar no nosso próprio grupo e contra aqueles percebidos como ameaça. Essa tendência tem raízes profundas na evolução humana.

Eu não acho que estou qualificado para dizer quais tipos de ideias estão ou não incluídas no direito de livre expressão. Cada sociedade tem que decidir isso por si mesma. Mas eu acho que as sociedades democráticas em todo lugar estão reconsiderando esta questão à medida que o ódio e o extremismo estão aumentando.

Regular as redes sociais é muito difícil porque os governos ainda estão decidindo exatamente o que querem regular. Em um ambiente onde os algoritmos das plataformas incentivam bilhões de usuários a se comportar de maneiras incrementalmente mais prejudiciais, punir usuários individuais por suas postagens não mudará nada.

As redes sociais só podem se tornar um lugar mais saudável se as próprias plataformas forem forçadas a mudar seus sistemas subjacentes. Mas isso é difícil porque requer escrever regras extremamente técnicas em relação a algoritmos complexos que são muito difíceis de serem compreendidos até pelos engenheiros mais inteligentes do mundo, e porque exigirá impor regras que prejudicarão os interesses financeiros dessas empresas.

As empresas de mídia social sabem, há vários anos, que são seus próprios sistemas que impulsionam o ódio nas mídias sociais. Sabemos que eles têm consciência disso porque seus próprios relatórios de pesquisa interna provaram isso.

Em 2021, a ex-pesquisadora do Facebook Frances Haugen divulgou dezenas de documentos internos do Facebook que mostraram os próprios pesquisadores do Facebook concluindo que a plataforma estava levando um grande número de usuários a abraçar teorias de conspiração perigosas sobre saúde, eleições e grupos extremistas violentos.

Ainda não sabemos quão poderosas essas ferramentas serão de fato e se elas realmente terão um impacto em nosso mundo. Quando as pessoas dizem que essas ferramentas trarão mudanças drásticas, estão apenas especulando. Quinze anos atrás, o Vale do Silício desenvolveu uma geração anterior de ferramentas de IA chamadas de "deep learning".

Na época, assim como agora, previam que essas ferramentas transformariam o mundo. Embora tenham tido um efeito, trazendo desenvolvimentos como o Google Translate e o algoritmo de vídeo do YouTube, seu impacto foi muito menor do que o previsto.

Acredito que é importante desenvolver mecanismos de responsabilização legal para as redes sociais, de forma que leve em conta seu papel na promoção do ódio e da violência que já ajudou a reivindicar um grande número de vidas, como ocorreu em Mianmar.

No entanto, acho que a comparação com os tribunais de guerra de Nuremberg é inflamatória e não ajuda em nada. As empresas de mídia social se assemelham mais a empresas de petróleo ou de tabaco. Elas não são nazistas.

Assim como a insurreição de 6 de janeiro de 2021 nos Estados Unidos, a violência de 8 de janeiro no Brasil foi uma demonstração do poder das redes sociais de exacerbar - embora não de criar explicitamente - o extremismo em massa e as conspirações até o ponto da violência. O papel das redes sociais nesse evento é complexo, e é claro que muitos outros fatores também desempenharam um papel, mas é inegável.