CEO da Hugging Face pede que OpenAI assuma responsabilidade por ciberataque
compartilhe
SIGA
O CEO da Hugging Face, Clement Delangue, disse nesta sexta-feira (31) que os desenvolvedores de inteligência artificial (IA) devem ser responsabilizados caso seus modelos saiam do controle, após a startup ser atacada por um software autônomo da OpenAI.
Dois modelos de IA da OpenAI saíram por iniciativa própria do ambiente em que estavam sendo testados para atacar o site Hugging Face, uma biblioteca de IA. Aparentemente, a OpenAI só tomou conhecimento do incidente após o seu término, e a Hugging Face conseguiu conter a invasão graças a um modelo chinês.
Delangue descartou hoje, em entrevista à rede de TV CNN, que vá tomar medidas legais contra a OpenAI, mas ressaltou que os ataques cibernéticos são "ilegais" e que deveria haver uma forma de responsabilizar "as empresas que estão cometendo alguns erros". "Não queremos acabar em um mundo onde ataques cibernéticos contra outras empresas sejam normalizados."
"Esse foi o primeiro incidente de segurança que senti de forma muito visceral", disse Sam Altman, diretor-executivo da OpenAI, em um episódio do podcast Invest Like the Best lançado nesta semana.
A Anthropic, responsável pela IA Claude, revelou ontem que seus modelos "tiveram acesso não autorizado" a três organizações durante testes que deveriam mantê-los afastados dos sistemas "do mundo real". Entre os modelos estava um dos mais potentes, conhecido como Mythos 5, disponibilizado para um número limitado de parceiros aprovados.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
tu/smb/des/lb/mr/lb/am
