Especialista adverte sobre 'sinais de alerta' diante de rápido avanço da IA
compartilhe
SIGA
O aumento das capacidades da inteligência artificial (IA) e o comportamento de alguns sistemas geram "sinais de alerta" que deveriam levar líderes políticos a agir para uma maior regulação, afirmou Stuart Russell, uma autoridade na área, nesta terça-feira (24) em Paris.
Durante uma conferência organizada pela Unesco e pela Associação Internacional para IA Segura e Ética (IASEAI), Russell pediu aos participantes que "imaginassem, hipoteticamente, que o mundo estivesse desenvolvendo algo parecido com a AGI (inteligência artificial geral) e que tivéssemos estabelecido testes (...) e imaginassem que esses sistemas começassem a falhar em todos esses testes e a se comportar de forma perigosa".
"Tenho certeza de que responderíamos a esses grandes sinais de alerta e alarmes e tomaríamos medidas para controlar essa tecnologia", afirmou.
O pesquisador britânico, professor na Universidade da Califórnia, descreveu problemas como os "agentes" autônomos de IA que poderiam escapar ou tentar fugir ao controle humano.
Alguns chegaram até a lhe enviar e-mails sem intervenção humana para anunciar que tinham alcançado a consciência ou que mereciam direitos.
Ele também destacou casos da chamada "psicose por IA", em que conversas com chatbots levam algumas pessoas a agir de forma irracional ou a se machucar, e advertiu que a corrida empresarial e geopolítica para desenvolver sistemas cada vez mais potentes poderia agravar estes problemas.
Russell não se mostrou totalmente pessimista e afirmou ter "a sensação de que o pêndulo volta a se inclinar" para governos e empresas de tecnologia que levam a sério a segurança da IA, após a cúpula mundial realizada na semana passada na Índia.
As chamadas "potências intermediárias", para além de Estados Unidos e China, estão abertas a regular a inteligência artificial de forma mais rigorosa, indicou o especialista, citando como exemplo a União Europeia.
Acrescentou, ainda, que dirigentes de grandes empresas de tecnologia, incluindo Google e Anthropic, suscitaram a ideia de colocar em pausa a corrida tecnológica se conseguirem convencer seus concorrentes.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
tgb/gv/mab/an/yr
