Uma falha em um sistema de reconhecimento facial levou à prisão de um afro-americano em Detroit, segundo uma denúncia apresentada nesta quarta-feira(24) que destaca preocupações sobre o uso da tecnologia criticada por reforçar o preconceito racial.
A União Americana das Liberdades Civis (ACLU) afirmou que este é o primeiro caso conhecido de uma prisão ilegal baseada na tecnologia, que seus críticos consideram imprecisa na distinção entre rostos afro-americanos.
"Embora Robert Williams possa ser o primeiro caso conhecido, ele certamente não é a primeira pessoa a ser detida e interrogada erroneamente com base em uma descoberta falsa de reconhecimento facial", disse a ACLU no Twitter.
Williams escreveu no The Washington Post que foi preso fora de sua casa em janeiro e detido por 30 horas, antes de descobrir que havia sido identificado erroneamente por imagens feitas por câmeras de vigilância durante um assalto a uma relojoaria.
"Eu nunca pensei que teria que explicar para minhas filhas por que papai foi preso", escreveu Williams.
"Como explicar a duas meninas que um computador errou, mas que a polícia acreditou mesmo assim?"
A notícia é divulgada em meio a protestos contra o racismo e a brutalidade policial após mortes de afro-americanos por agentes brancos e à preocupação de que estas tecnologias possam acentuar a discriminação.
Vários estudos indicaram que os sistemas de identificação utilizados nos Estados Unidos podem dar resultados absolutamente errados quando aplicados em afro-americanos.
Nesse contexto, empresas como IBM, Amazon e Microsoft anunciaram que não venderiam estes sistemas a departamentos de polícia. Mas sistemas de outras empresas são usados em grande escala no país.
A prefeitura de Boston aprovou nesta quarta-feira a proibição da utilização da tecnologia por autoridades municipais, tornando-se a segunda maior cidade do mundo, depois de San Francisco a tomar essa decisão.
- Desculpas e limpeza de registros -
Em uma queixa formal ao departamento de polícia, o advogado da ACLU, Phil Mayor, solicitou a retirada das acusações e do registro de prisão, além de um pedido público de desculpas a Williams.
O defensor informou ainda que Williams tem o direito de entrar com uma ação judicial.
A ACLU também afirmou que a polícia deveria abandonar o uso da tecnologia de reconhecimento facial como ferramenta em suas investigações e que todas as imagens de Williams deveriam ser removidas de seus bancos de dados.
Williams relatou no The Washington Post a experiência de ser algemado diante de sua família e a noite que passou "no chão de uma cela suja e superlotada".
"Como qualquer outra pessoa, fiquei com raiva por estar acontecendo comigo", disse ele.
"Como qualquer outro homem negro, eu tinha que considerar o que poderia acontecer se eu fizesse muitas perguntas ou demonstrasse abertamente minha raiva, mesmo sabendo que não havia feito nada errado".