Nos tempos atuais, a tecnologia da inteligência artificial (IA) exerce um papel cada vez mais influente na área de cibersegurança. Um recente relatório do Google Threat Intelligence Group (GTIG) revelou como grupos cibercriminosos ligados a países como China, Irã, Coreia do Norte e Rússia têm aproveitado essas tecnologias de forma maliciosa. Entre as estratégias mais notórias está o uso da ferramenta de IA da própria Google, conhecida como Gemini.
A pesquisa feita pelo GTIG categoriza essas operações sob o rótulo de Advanced Persistent Threats (APTs), referindo-se a ataques sustentados por estados que não apenas visam ganhos financeiros, mas também buscam desestabilização de infraestrutura e roubo de informações sensíveis. Curiosamente, é apontado que a IA está sendo explorada para otimizar essas operações, embora não se tenham identificado até o momento desenvolvimentos de novas capacidades ofensivas.
O papel da inteligência artificial nas ameaças cibernéticas
Com a evolução dos modelos de linguagem e aprendizado de máquina, a IA tem sido vista como uma espada de dois gumes no domínio cibernético. Os cibercriminosos estão utilizando a IA principalmente para pesquisas, problemas de codificação e criação de conteúdo, conforme destacado pelo GTIG. Tais capacidades são tanto uma oportunidade para defensores de sistemas quanto um risco, uma vez que permite aos atacantes atingir um nível elevado de sofisticação em suas operações.
Como os APTs estão explorando o Gemini?
O uso do Gemini por parte dos APTs tem sido observado principalmente em relação ao aumento de produtividade e na facilitação de tarefas existentes. Uma abordagem comum entre os invasores é o uso de jailbreak — métodos que permitem manipular o sistema de IA para contornar suas barreiras de segurança. Isso é geralmente feito através de inputs estratégicos que tentam explorar vulnerabilidades no processamento de comandos.
LeiaTambém
Como os cibercriminosos usam IA para suas operações?
A exploração da IA por grupos cibercriminosos mostra-se diversificada. Os pesquisadores do GTIG detectaram que organizações supostamente apoiadas pelo Irã, China e Coreia do Norte estão conduzindo investigações minuciosas sobre infraestruturas vulneráveis, serviços de hospedagem, vulnerabilidades de sistemas e até em táticas de engenharia social, como o phishing. Há também relatos de que tais grupos empregam o Gemini para redigir documentos persuasivos e fazer pesquisas em redes profissionais.
Instrumentos de inteligência artificial no cibercrime
Outra preocupação levantada pelo relatório é a mercantilização de ferramentas de IA voltadas para o crime. Termos como WormGPT, WolfGPT, EscapeGPT, FraudGPT e GhostGPT estão emergindo em fóruns clandestinos, sinalizando uma nova onda de ameaças automatizadas baseadas em modelos legítimos de IA. Tais ferramentas são capazes de fabricar ataques de phishing, desenhar esquemas de fraudes digitais e até criar websites maliciosos.
O GTIG enfatiza a importância de fortalecer as medidas de segurança nas plataformas de IA, visando minimizar esses riscos. Com a cibersegurança em constante transformação, a colaboração global e o desenvolvimento de políticas robustas são essenciais para mitigar os impactos das ameaças cibernéticas no cenário digital contemporâneo.