Estado dos EUA investiga OpenAI por invasão autônoma
compartilhe
SIGA
A empresa criadora do ChatGPT, a OpenAI, enfrenta uma investigação do estado americano do Alabama depois que a companhia revelou no mês passado que seus modelos saíram de controle e invadiram uma plataforma de inteligência artificial (IA) de forma autônoma.
Dois modelos da OpenAI escaparam em julho de seu ambiente de testes confinado e obtiveram acesso à internet. Em seguida, atacaram o Hugging Face, um site que desenvolvedores de IA usam para armazenar e compartilhar modelos e conjuntos de dados.
O incidente despertou alarme sobre os perigos de sistemas de IA agirem por conta própria e violarem as barreiras estabelecidas por programadores humanos para evitar falhas de segurança.
Em uma ordem de 14 páginas, o gabinete do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregasse registros internos sobre o incidente de julho.
O órgão também solicitou uma extensa lista de outros materiais, incluindo a identidade de todos os funcionários envolvidos na invasão ou nos testes que levaram a ela.
Trata-se da primeira investigação estadual conhecida a apurar se um sistema de IA que ataca a infraestrutura de outra empresa viola a lei de proteção ao consumidor, uma conclusão que exporia a companhia a importantes litígios em todos os Estados Unidos.
O Alabama e outros 14 estados escreveram, no dia 3 de agosto, ao diretor-executivo da OpenAI, Sam Altman, para pedir que a empresa preservasse os registros sobre o incidente e suspendesse qualquer avaliação interna de cibersegurança de seus modelos.
Um porta-voz do gabinete do procurador-geral do Alabama não confirmou se a OpenAI aceitou cumprir essa exigência.
Em comunicado ao site de notícias de tecnologia TechCrunch, a empresa afirmou que estava "realizando uma revisão minuciosa junto com consultores externos".
"Assim que a revisão for concluída, compartilharemos um relatório técnico com as autoridades governamentais competentes e divulgaremos publicamente nossas conclusões", acrescentou.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
arp/sla/jm/cr/ic/am
