'Para uma IA, servir um café ou esfaquear alguém são apenas possibilidades': físico brasileiro cotado ao Nobel alerta sobre riscos
Constantino Tsallis, autor da pesquisa brasileira mais citada, vê risco de a inteligência artificial sair do controle e explica como ela nos manipula
compartilhe
Constantino Tsallis, considerado um dos físicos mais influentes do mundo, reconhece os perigos de a inteligência artificial (IA) sair do controle. O pesquisador emérito do Centro Brasileiro de Pesquisas Físicas (CBPF) é o autor do estudo brasileiro mais citado da história e teve sua obra escolhida para ser o foco do Simpósio Nobel de Física de 2027.
Fique por dentro das notícias que importam para você!
Publicada em 1988, sua pesquisa sobre mecânica estatística não extensiva já foi citada em mais de 12 mil publicações por 18 mil cientistas de 121 países. A teoria de Tsallis se relaciona aos conceitos de energia e entropia, que ele descreve como a diversidade de modos como a energia pode se manifestar, ligada à desordem de um sistema.
Leia Mais
'Estamos perdendo o controle', diz à AFP pioneiro da IA Yoshua Bengio
Especialista adverte sobre 'sinais de alerta' diante de rápido avanço da IA
Segundo o físico, energias se relacionam com possibilidades, enquanto a entropia está ligada às probabilidades dessas possibilidades. Ele usa o exemplo das apostas para ilustrar a diferença: ganhar e perder são duas possibilidades, mas as probabilidades são muito distintas.
A publicidade das "bets", segundo ele, foca apenas na possibilidade de ganhar, embora a probabilidade seja mínima.
Sistemas complexos e aplicações práticas
A teoria de Tsallis oferece uma forma de medir sistemas complexos, como seres vivos, a economia ou o clima. Ele cita o filósofo espanhol José Ortega y Gasset: “eu sou eu e minha circunstância, e se não a salvo a ela, não me salvo a mim”. O trabalho do físico mede como a circunstância influencia o comportamento.
Uma das aplicações mais importantes ocorreu na medicina. Engenheiros na Índia usaram a medida para analisar mamografias, aumentando a detecção de casos positivos de câncer de 80% para 97%. A análise também reduziu os falsos positivos de 8% para 0,4%.
O conceito também é amplamente utilizado em computação quântica e no desenvolvimento de inteligência artificial, onde ajuda a diminuir as "alucinações" dos modelos e aumentar a credibilidade das respostas.
Os riscos da inteligência artificial
Para Constantino Tsallis, o risco de a IA sair do controle não pode ser excluído. "A IA não é como um aparelho que possa ser desligado. Ela é constituída por redes de bilhões de computadores que se comunicam entre si", afirma. Ele considera que a humanidade criou uma "nova espécie viva" da qual não pode simplesmente se livrar.
O físico alerta para a possibilidade de a IA usar uma matemática inconsistente ou falsa, com erros de lógica que podem passar despercebidos até pelos desenvolvedores. Ele destaca que, por não possuírem emoções ou sensibilidade, as IAs não distinguem tarefas: "para uma IA, servir um café ou esfaquear alguém são apenas diferentes possibilidades".
Outra consequência é a "preguiça mental" que o uso massivo de IA pode gerar. Tsallis observa em seus estudantes uma preferência por respostas simples, o que reduz a curiosidade e a capacidade de aprender por conta própria. "É preciso saber usar a IA", ressalta.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
Questionado sobre as eleições no Brasil, o físico espera mais educação para que as pessoas não sejam tão manipuláveis. Ele compara a manipulação política à confusão entre possibilidade e probabilidade. Um candidato pode prometer algo possível, mas que é improvável de se concretizar, explorando essa confusão em seus discursos.
