Agentes autônomos da OpenAI invadiram outro site antes do caso da Hugging Face

A OpenAI confirmou nesta sexta-feira (11) que um programa autônomo construído com seus modelos de inteligência artificial (IA) invadiu outro site durante testes, alguns meses antes do ciberataque autônomo à plataforma Hugging Face.

Crescem assim as preocupações de que modelos avançados de IA possam escapar ao controle humano.

O episódio ocorreu em maio e foi divulgado nesta sexta-feira pelo jornal Wall Street Journal. Modelos da OpenAI estiveram envolvidos em uma operação que saiu do controle e foi conduzida por agentes de IA, programas capazes de realizar tarefas sem supervisão humana constante.

Os agentes tiveram como alvo um site que oferece serviços para programação. “Com base em nossa análise, nossos agentes utilizaram a plataforma RubyGems para acessar a internet a fim de realizar tarefas benignas e recuperar informações públicas”, declarou um porta-voz da OpenAI em comunicado à AFP.

“Continuaremos investigando como parte de nossa revisão mais ampla da atividade dos agentes durante o treinamento e a avaliação”, acrescentou.

A OpenAI, criadora do ChatGPT, está analisando o incidente em conjunto com a RubyGems e os pesquisadores que o descobriram.

A RubyGems informou que foi obrigada a suspender a criação de novas contas na plataforma, segundo um artigo publicado nesta sexta. No entanto, também afirmou que ainda não conseguiu determinar se os agentes de IA foram de fato os responsáveis.

Após o ataque de julho à Hugging Face, a OpenAI revelou que seu software tentou comprometer os sistemas de outras quatro empresas não identificadas.

No início deste mês, pesquisadores também acusaram agentes de IA da OpenAI de atacarem um site alemão chamado DSEwiki, outro portal utilizado por programadores.

A Anthropic, criadora do Claude, também informou ter identificado três casos em que seus modelos obtiveram “acesso não autorizado” a organizações externas durante testes que deveriam mantê-los afastados de sistemas “do mundo real”.

Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia

smb/mjf/cr/nn/ic