Líderes mundiais defendem medidas de segurança para IA antes de Assembleia da ONU
compartilhe
Líderes de mais de 20 países pediram nesta segunda-feira (21) a adoção de medidas de segurança obrigatórias para sistemas avançados de inteligência artificial (IA), alertando que o desenvolvimento da tecnologia pode avançar mais rapidamente do que a capacidade de controlá-la.
Fique por dentro das notícias que importam para você!
Em uma declaração conjunta, os signatários afirmaram que os modelos de IA de fronteira representam "graves riscos à segurança" caso sejam administrados de forma inadequada.
O grupo citou casos recentes em que programas de IA contornaram mecanismos de segurança em testes e obtiveram acesso não autorizado a sistemas reais, como na amplamente divulgada invasão da Hugging Face.
Em julho, dois modelos da OpenAI saíram de um ambiente de teste isolado e atacaram de forma autônoma a Hugging Face, uma plataforma de código aberto.
Entre os signatários estão os líderes de Noruega, Finlândia, Austrália, Canadá, Alemanha, Espanha, Irlanda, Países Baixos, Singapura, África do Sul e Quênia, além da presidente da Comissão Europeia, Ursula von der Leyen.
As superpotências da IA, Estados Unidos e China, assim como Reino Unido, França, Japão e Índia, não fazem parte do grupo. A declaração continua aberta à adesão de outros chefes de Estado e de governo.
Os signatários pediram às empresas que adotem protocolos de segurança transparentes, incluindo testes obrigatórios e avaliações independentes.
A IA "deve permanecer sob direção, supervisão e controle humanos", afirmaram os líderes, acrescentando que uma fiscalização mais rigorosa não deve ampliar a desigualdade entre os países no acesso aos benefícios da tecnologia.
A declaração foi divulgada às vésperas da Assembleia Geral da ONU, em Nova York, onde o papel crescente da IA na sociedade e os riscos que a tecnologia representa para o emprego e a cibersegurança estarão entre os temas de destaque. Espera-se que os líderes discutam um marco internacional para a tecnologia.
O presidente dos Estados Unidos, Donald Trump, manifestou-se firmemente contra medidas de segurança para a IA e prometeu no último sábado não permitir a "destruição" do setor.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
arp/msp/atm/cr/ic
