Fabricando eleições
As novas regras sobre IA e eleições alcança o conteúdo, mas passa ao largo da segmentação
Mais lidas
A propaganda eleitoral começou em 16 de agosto sob regras inéditas. O Tribunal Superior Eleitoral passou a exigir que todo conteúdo sintético, isto é, produzido ou significativamente alterado por inteligência artificial ou tecnologia equivalente, traga aviso destacado e acessível ao eleitor.
A norma também proíbe o uso desses materiais para desinformação, impede que sistemas de recomendação sugiram candidaturas e veda a divulgação de novos conteúdos sintéticos com imagem ou voz de candidatos nas 72 horas anteriores e nas 24 horas posteriores à votação.
A preocupação com a influência da tecnologia sobre o voto não nasceu com a inteligência artificial generativa. O marco que organizou esse debate em escala global foi o escândalo da Cambridge Analytica, revelado em 2018.
Leia Mais
A consultoria britânica obteve dados de 87 milhões de usuários do Facebook, entre eles 443 mil brasileiros, para construir perfis psicológicos detalhados de eleitores e a partir destes inferir traços de personalidade capazes de orientar estratégias de persuasão política.
O método tinha respaldo acadêmico. Em artigo publicado em 2015, pesquisadores demonstraram que um modelo estatístico alimentado por cerca de 300 curtidas era capaz de prever determinados traços de personalidade com mais precisão do que o próprio cônjuge. O caso expôs o valor político dos dados e levou a sanções expressivas: o Facebook pagou US$ 5 bilhões à autoridade de proteção ao consumidor dos Estados Unidos em 2019 e R$ 6,6 milhões ao Ministério da Justiça brasileiro.
Naquele momento, porém, o ativo mais valioso era conhecer o eleitor. Produzir as mensagens destinadas a influenciá-lo continuava sendo um processo relativamente caro, dependente de roteiristas, atores, equipes de edição e campanhas segmentadas de forma limitada. Em outras palavras, a focalização era importante porque a personalização era cara.
A inteligência artificial generativa alterou radicalmente essa equação. Embora não tenha tornado os dados desnecessários, a IA reduziu substancialmente os custos de transformar conhecimento sobre o eleitor em comunicação personalizada. E se por um lado isso pode melhorar a comunicação, por outro, pode aumentar a manipulação.
Antes, o processo podia ser resumido como uma sequência relativamente simples: coletar dados, identificar grupos e produzir algumas mensagens para esses grupos.
Hoje, essa cadeia é muito mais sofisticada, captura-se dados, infere-se características, segmenta-se indivíduos, produz-se e distribui-se diferentes mensagens de maneira a utilizar os resultados para aperfeiçoar continuamente a estratégia.
A inteligência artificial permite produzir e testar uma quantidade praticamente ilimitada de mensagens dirigidas a diferentes segmentos e isso pode, até certo ponto, diminuir a dependência em relação ao conhecimento do perfil dos cidadãos. É nesse ponto que a natureza do problema muda. O desafio não está apenas em saber se uma mensagem é verdadeira ou falsa. Está também em compreender quem recebeu determinada mensagem, por que a recebeu e quais outras mensagens foram produzidas para outros eleitores.
A regulação do TSE teve como alvo principal o conteúdo, mas não se pode perder de vista que a influência política digital não depende apenas da mensagem, mas também da forma como ela é distribuída. Embora a resolução discipline aspectos da distribuição e do impulsionamento, ela não estabelece um regime de transparência equivalente sobre os critérios utilizados para definir quais eleitores serão expostos a cada mensagem.
O que o país destaque da Copa pode ensinar ao Brasil?
A diferença é fundamental. Uma propaganda tradicional é, em princípio, pública, ou seja, todos que passam por determinado espaço podem vê-la. Uma propaganda digital segmentada pode ser praticamente invisível para quem não pertence ao público selecionado. Dois eleitores podem estar sujeitos à mesma campanha e receber mensagens completamente diferentes, sem que nenhum deles saiba quais outras versões foram apresentadas aos demais.
Por isso, as campanhas deveriam ser obrigadas a informar os critérios utilizados para definir o público de uma peça publicitária e as bases de dados que fundamentaram essa segmentação. Isso permitiria tornar visíveis não apenas os dados utilizados, mas também as inferências produzidas a partir deles: medo, religião, situação financeira, preocupação com segurança ou outras características sensíveis que possam estar sendo utilizadas para orientar a comunicação política. A transparência democrática precisa alcançar não apenas os dados capturados, mas também as inferências construídas a partir deles.
Uma medida complementar seria exigir das plataformas um repositório público, aberto e pesquisável de toda propaganda política impulsionada, contendo valores investidos, alcance obtido, critérios de segmentação empregados e as diferentes versões das peças publicitárias utilizadas. Isso permitiria comparar não apenas quanto uma campanha gastou, mas quais mensagens foram produzidas, para quais públicos e com quais características.
A pergunta democrática, portanto, já não é apenas quem produziu a mensagem.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
É também: quem decidiu que eu deveria vê-la?
As opiniões expressas neste texto são de responsabilidade exclusiva do(a) autor(a) e não refletem, necessariamente, o posicionamento e a visão do Estado de Minas sobre o tema.
