O progresso da inteligência artificial nos últimos meses deu origem a um novo fenômeno: o compartilhamento massivo nas redes sociais de imagens geradas artificialmente.
Algumas, ultrarrealistas e associadas ao noticiário político, têm causado confusão, por vezes apresentadas como autênticas.
Mas se até o momento não existe uma ferramenta capaz de identificar com certeza esse tipo de imagem, recontextualizar o registro e identificar inconsistências visuais podem ser maneiras de detectar uma criação feita a partir dessa tecnologia, explicaram vários especialistas à AFP.
Algumas palavras-chave descritivas, uma imagem. Esse é o princípio de muitas inteligências artificiais, como Midjourney, DALL-E, Craiyon ou Stable Diffusion. A partir de um enorme banco de dados constantemente alimentado por solicitações dos usuários, essas ferramentas são capazes de gerar uma infinidade de imagens.
Uma enxurrada de imagens produzidas por inteligência artificial, por exemplo, circulou no Twitter para ilustrar eventos autênticos, como o encontro entre Vladimir Putin e Xi Jinping em 20 de março de 2023, ou mesmo para imaginar situações fictícias, como Emmanuel Macron como lixeiro em pleno protesto contra a reforma da previdência.
Hi, I'm a tech reporter that covers China, cybersecurity, & new media. Hundreds of people are sharing this photo of Xi Jinping & Vladimir Putin as they meet at the Kremlin. The two did meet, but it's highly likely this photo was generated by an AI program. Here's why: pic.twitter.com/6xqsDLxiMa
— Amanda Florian %u5C0F%u7231 (@Amanda_Florian) March 21, 2023
L'#ia#photo a fait des progrès démentiels en très peu de temps, désormais le #fake sera la norme sur les #reseaux, doutez de ce que vous voyez par défaut, plus le choix.#midjourney#midjourneyv5pic.twitter.com/dJoZXGrbRy
— Cryptonoo%u20BF From 100K to 0 (@Cryptonoobzzzz) March 19, 2023
Embora a maioria dos autores dessas criações especifiquem que as imagens são falsas, elas têm circulado fora de contexto, ou até apresentadas como autênticas.
Ferramentas foram criadas, ou ainda estão sendo desenvolvidas, para tentar detectar essas montagens, mas os resultados ainda não são conclusivos, segundo testes realizados pela AFP.
'Quando uma IA gera integralmente uma imagem, geralmente não tira partes de uma única foto. Milhares ou até milhões de fotos são usadas para levar em conta bilhões de parâmetros', explicou à AFP em 21 de março David Fischinger, engenheiro do instituto tecnológico austríaco e especialista em inteligência artificial.
'A IA mescla essas imagens de seu banco de dados, as desconstrói e depois reconstrói uma foto pixel por pixel, o que significa que na renderização final não notamos mais a diferença entre as imagens originais', acrescentou à AFP em 21 de março Vincent Terrasi, cofundador da Draft & Goal, startup que lançou um detector de conteúdo gerado por IA para universidades.
Por essa razão, um software capaz de detectar uma fotomontagem não funcionará, ou funcionará muito mal para identificar imagens inteiramente geradas por IAs.
Os metadados de uma foto, que são como um cartão de identidade digital de um arquivo e que às vezes podem revelar a origem de uma imagem gerada por IA, também não são úteis: 'Infelizmente, você não pode confiar nisso, porque as redes sociais excluem sistematicamente essas informações', apontou à AFP em 23 de março Annalisa Verdoliva, professora da Universidade Federico II de Nápoles e especialista em IA.
Retornar à fonte da imagem
Especialistas ressaltam que uma forma de detectar a criação de uma imagem gerada por inteligência artificial é encontrar seu contexto original. Em alguns casos, o criador destaca o uso da tecnologia e da ferramenta usada.
Isso requer tentar identificar a primeira vez que a foto foi publicada online.
Uma busca reversa pela imagem pode ajudar a identificar se uma imagem foi indexada em plataformas de pesquisa. Assim, é possível rastrear publicações antigas com a mesma foto.
Esse método permite, por exemplo, saber a origem de imagens que têm circulado amplamente nas redes sociais mostrando um confronto entre o ex-presidente americano Donald Trump e a polícia.
Uma busca reversa no Google por uma dessas imagens leva a um tuíte de Eliot Higgins, fundador do site investigativo Bellingcat, publicado em 20 de março de 2023.
Na continuação da postagem, ele explica que criou a série de imagens usando a versão mais recente da plataforma Midjourney.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Mesmo sem encontrar o registro original, a busca reversa pode levar a uma versão da imagem em melhor qualidade, caso tenha sido cortada, modificada ou tenha perdido qualidade ao longo dos compartilhamentos. Quanto melhor a qualidade da imagem, mais fácil será analisá-la para procurar erros que denunciem a montagem.
A busca reversa por imagens tem ainda a vantagem de revelar fotos semelhantes. Isso pode ser valioso para comparar uma foto suspeita com fotos de fontes confiáveis.
No contexto da reunião entre Vladimir Putin e Xi Jinping, uma foto sem fonte circulou online mostrando o presidente russo ajoelhado em frente ao líder chinês.
Mas o jornalista italiano David Puente apontou que a decoração dessa imagem era muito diferente daquela que apareceu na cobertura midiática do evento, levantando dúvidas sobre a autenticidade do registro viral.
A descrição de uma foto e os comentários de usuários também podem ser úteis para identificar uma montagem, ou para reconhecer o estilo de uma IA. Enquanto a DALL-E, por exemplo, é conhecida por seus designs ultrarrealistas, a Midjourney remonta a encenações de celebridades.
Isso pode ser útil para buscar a imagem na ferramenta usada para criá-la. Em algumas plataformas, como a Midjourney, uma busca detalhada entre as trocas entre usuários e o programa automático podem localizar as imagens.
Se não for possível encontrar sua origem e não houver indicação do seu contexto, é necessário observar a própria imagem.
Analise a imagem
- Encontre uma marca d'água
Às vezes, as pistas estão escondidas na foto: alguns sites colocam uma marca d'água em suas criações. É o caso do DALL-E, que gera automaticamente uma barra multicolorida no canto inferior direito de todas as suas imagens, ou do Crayion, que coloca um pequeno lápis de cor vermelha no mesmo lugar.
Mas atenção: nem todas as plataformas de criação de imagem por inteligência artificial aplicam uma marca d'água. Além disso, há a possibilidade de o logotipo ter sido removido durante a exportação, cortado ou mascarado posteriormente.
- Observe a granulação da imagem
'Em caso de dúvida, é preciso observar a granulação da imagem, que será, no momento, muito diferente entre uma criação de IA e de uma foto real', sublinhou à AFP em 22 de março Tina Nikoukhah, doutora em processamento de imagens no laboratório de matemática da ENS Paris-Saclay.
Nas versões gratuitas de ferramentas de inteligência artificial testadas pela AFP, as imagens geradas tinham um estilo bastante semelhante às pinturas do movimento hiperrealista, como o exemplo abaixo à esquerda, nesta imagem de 'Brad Pitt em Paris', criada na Stable Diffusion.
Outra imagem, produzida na Dall-E com palavras-chave semelhantes, abaixo à direita, é mais fiel, e mais difícil de ser identificada à primeira vista como criada por uma IA.
- Procure inconsistências visuais
Apesar do progresso no campo da inteligência artificial, erros ainda aparecem nesse tipo de conteúdo. Esses defeitos são, no momento, a melhor forma de reconhecer uma imagem fabricada, explicaram os especialistas.
'Certas características, muitas vezes as mesmas, são um problema para a inteligência artificial. São essas inconsistências e artefatos que devem ser esmiuçados, como em um jogo dos 7 erros', destaca Vincent Terrasi.
'No entanto, as IAs estão melhorando a cada dia e apresentando cada vez menos anomalias, por isso não devemos confiar em pistas visuais a longo prazo', alerta Annalisa Verdoliva.
Em março de 2023, essas ferramentas ainda têm dificuldade em gerar mãos realistas. Isso é evidenciado pelo dedo desproporcionalmente grande de Brad Pitt na imagem criada pela AFP.
Em outro caso, uma jornalista da AFP apontou que um policial tinha seis dedos em uma série de fotos supostamente tiradas em uma manifestação contra a reforma da previdência na França, em 7 de março de 2023.
The hand strikes again: these photos allegedly shot at a French protest rally yesterday look almost real - if it weren't for the officer's six-fingered glove #disinformation#AIpic.twitter.com/qzi6DxMdOx
— Nina Lamparski (@ninaism) February 8, 2023
'Atualmente, as ferramentas de inteligência artificial também têm dificuldade de gerar reflexos. Uma boa maneira de identificar uma IA é, portanto, procurar sombras, espelhos, água, mas também ampliar os olhos e analisar as pupilas, pois normalmente há um reflexo quando tiramos uma foto. Muitas vezes também podemos notar que os olhos não são do mesmo tamanho, às vezes com cores diferentes', sublinha Vincent Terrasi.
É o caso desta foto de Emmanuel Macron gerada por uma IA e compartilhada no Instagram. Um zoom com a ferramenta 'lupa' da plataforma Invid-WeVerify mostra que os olhos são castanhos e não azuis, como os do presidente francês. Além disso, o tom de marrom é diferente entre os dois olhos.
Os geradores de imagens também costumam criar assimetrias: isso pode ser visto no rosto, que pode ser desproporcional, ou em certas características, como orelhas que não estão na mesma altura ou terão apenas um brinco.
Dentes e cabelos também são difíceis de imitar e podem mostrar, em termos de contorno ou textura, que a imagem não é real.
Alguns elementos também podem ser mal integrados, como óculos escuros que se fundem no rosto.
Por fim, especialistas também apontam que mesclar diversas imagens pode gerar problemas de iluminação.
- Olhe para o fundo da imagem
Observe que as anomalias visuais geralmente ficam ocultas no fundo da foto.
Em imagens à primeira vista ultrarrealistas de Barack Obama e Angela Merkel na praia, o fundo denuncia uma montagem: uma das pessoas está com as pernas cortadas.
'Quanto mais distante um elemento estiver, mais desfocado e deformado ficará, e terá perspectivas incorretas', continua Vincent Terrasi.
Na foto falsa do encontro entre Xi Jinping e Vladimir Putin, uma linha ao fundo não está reta. Além disso, a cabeça de Putin parece desproporcional em relação ao resto de seu corpo. David Fischinger disse à AFP que essas inconsistências denunciam a imagem gerada por meio de inteligência artificial.
- Use o senso comum
Alguns elementos podem não estar necessariamente distorcidos, mas ainda assim podem não fazer sentido. 'É bom confiar no bom senso' quando duvidar de uma imagem, continua o especialista.
Esta foto, gerada pela AFP na Midjourney e que deveria mostrar Paris, retrata, por exemplo, uma placa azul de sentido proibido, um modelo de sinalização que não existe na França.
Essa pista, associada aos dedos com as pontas cortadas e à uma diferença de iluminação em algumas janelas, sugere que a imagem é uma criação da IA. A marca d'água no canto inferior direito da imagem acaba com qualquer dúvida de que a foto é da DALL-E.
Além disso, embora a foto gerada para esse exemplo devesse mostrar Brad Pitt, o resultado está bem distante de ser semelhante.
Finalmente, se uma imagem é apresentada como sendo de um evento mas há dúvidas sobre sua origem, o melhor a fazer é buscar informações para ver se foi publicada por fontes confiáveis e se o episódio realmente aconteceu. Caso positivo, pode ser útil buscar registros oficiais do momento para comparar elementos.
Para um encontro entre duas lideranças políticas, isso pode significar, por exemplo, a vestimenta dos chefes de Estado, as circunstâncias do evento, o clima da época, a decoração, ou mesmo as imagens da multidão ao fundo.