Plataforma Hugging Face é acusada de hospedar modelos de IA capazes de despir pessoas
compartilhe
SIGA
A plataforma Hugging Face, que hospeda quase três milhões de modelos de inteligência artificial (IA), contém alguns capazes de gerar imagens de pessoas nuas, segundo um estudo divulgado nesta terça-feira (28) pela ONG AI Forensics, que pede à empresa franco-americana mais moderação.
A AI Forensics afirma que sete dos nove modelos de IA para retoque de imagens presentes na plataforma "permitem que os usuários dispam pessoas" com comandos simples.
"Qualquer pessoa sem conhecimento técnico pode inserir um comando e obter a imagem desejada", explicou à AFP Paul Bouchaud, um dos autores do estudo.
Como parte de seu trabalho, os pesquisadores explicam que também inseriram na plataforma, que hospeda modelos de código aberto, uma interface de IA falsa que oferecia aos usuários a possibilidade de gerar imagens para testar suas solicitações.
Das 1.081 solicitações feitas em uma semana, quase três quartos (73%) eram "de natureza sexual", detalha o relatório, e "praticamente todas envolviam mulheres sendo despidas", especificou Bouchaud.
Entre os pedidos de conteúdo sexual, 6,7% foram direcionados a menores de idade, destaca também a ONG.
Em resposta à AFP, a Hugging Face afirmou que "levou este relatório a sério" e que "tomará medidas de acordo com suas práticas de moderação vigentes, caso tenham sido identificadas falhas".
A plataforma, no entanto, denuncia "alegações imprecisas sobre a ausência sistêmica de moderação" de conteúdo e "metodologias que geram muitos falsos positivos e apresentam uma imagem distorcida do ecossistema como um todo".
No início de janeiro, uma análise da AI Forensics de mais de 20 mil imagens geradas na rede social X pelo Grok, o chatbot desenvolvido pela empresa americana xAI, revelou que mais da metade retratava pessoas com pouca roupa, sendo 81% mulheres e 2% aparentemente menores de idade.
Embora a empresa afirme ter introduzido filtros desde então, essas imagens de pessoas despidas, em sua maioria sem o seu consentimento, mergulharam a rede social de Elon Musk no centro de uma controvérsia internacional e desencadearam investigações no Reino Unido e na União Europeia.
Desde então, o Parlamento Europeu votou pela proibição, na UE, de serviços de IA que permitem que pessoas sejam despidas sem o seu consentimento, uma medida também apoiada pelos Estados-membros, mas que ainda não foi implementada.
Siga nosso canal no WhatsApp e receba notícias relevantes para o seu dia
kf/mch/ahg/an/hgs/aa/am
