Hackers da China e Rússia usam Gemini para atacar o mundo, diz Google

É bem sabido no mundo da cibersegurança que empresas norte-americanas e europeias falam muito sobre grupos cibercriminosos com supostas ligações a governos “estrangeiros” ou “orientais”. Em coro ao discurso, a equipe de inteligência contra ameaças do Google agora fala sobre mais de 20 grupos maliciosos dentro desse guarda-chuva.

As 57 equipes de cibercriminosos estariam ligadas ou seriam sustentadas por países como China, Irã, Coreia do Norte e Rússia. Além disso, os grupos observados usam inteligência artificial do próprio Google, o Gemini, para realizar ataques.

• Resumo do que você verá aqui: Como hackers de China, Irã e Rússia usam a IA da Google em ciberataques?

“Os agentes de ameaças estão testando o Gemini para capacitar suas operações, encontrando ganhos de produtividade, mas ainda não desenvolvendo novos recursos. Atualmente, eles usam IA principalmente para pesquisa, solução de problemas de código e criação e localização de conteúdo”, afirma o GTIG (Google Threat Intelligence Group) em relatório.

Esse tipo de central criminosa sustentada por Estados tem um nome próprio: APT, ou Advanced Persistent Threat (em tradução literal, algo como Ameaça Persistente Avançada).

Além de ataques contra organizações e carteiras cripto para ganhos financeiros, os APTs também são conhecidos por ataques que visam danificar infraestruturas, inviabilizar companhias e roubar segredos de engenharia. 

Exemplo de jailbreak no Gemini

Uso da Inteligência Artificial

Os pesquisadores do Google abrem o relatório com a seguinte declaração:

“Na cibersegurança, a IA está preparada para transformar a defesa digital, capacitando os defensores e melhorando a nossa segurança coletiva. Os principais modelos de linguagem (LLMs) abrem novas possibilidades para os defensores, desde a análise de telemetria complexa até a codificação segura, descoberta de vulnerabilidades e simplificação de operações. No entanto, algumas destas mesmas capacidades de IA também estão disponíveis para os atacantes, levando a preocupações sobre a possibilidade de a IA ser utilizada indevidamente para fins maliciosos”.

Entre as principais descobertas, o GTIG afirma que os APT se valem de medidas básicas ou certo jailbreak para tentar burlar controles de segurança do Gemini.

Ainda, que os cibercriminosos estão na fase de exploração da inteligência artificial e, especificamente, do Gemini. A ideia é capacitar as operações e ter ganhos de produtividade — mas, isso ainda não aconteceu. Até o momento, a IA é usada com sucesso apenas para pesquisas, soluções para problemas de código e criação/tradução de conteúdos.

Entre as pesquisas, os APTs buscam infraestruturas fragilizadas ciberneticamente, provedores de hospedagem gratuita, vulnerabilidades, desenvolvimento de carga útil e assistência para scripts maliciosos e técnicas de evasão. 

Os grupos cibercriminosos supostamente financiados pelo Irã foram os principais utilizadores do Gemini, os russos e chineses ficaram logo atrás.

Durante o relatório, o Google se gaba pelas medidas protetivas colocadas em seu modelo de inteligência artificial, isso porque os adversários não tiveram ainda mais sucesso exatamente por essas medidas de segurança.

Por último, a companhia ainda cita que houveram tentativas de abuso sobre produtos Google, principalmente por novas técnicas de phishing no Gmail, roubo de dados, o desenvolvimento de um infostealer para Google Chrome e desvio de códigos de autenticação Google. Todas as tentativas acima teriam falhado.

“É preciso notar que os atores norte-coreanos também usaram o Gemini para redigir cartas de apresentação e pesquisar empregos – atividades que provavelmente suportam os esforços da Coreia do Norte para inserir trabalhadores clandestinos de TI em empresas ocidentais”, afirmou o GTIG.

"Um grupo sustentado pela Coreia do Norte utilizou o Gemini para redigir cartas de apresentação e propostas para descrições de cargos, pesquisou salários médios para empregos específicos e perguntou sobre empregos no LinkedIn. O grupo também usou o Gemini para obter informações sobre intercâmbio de funcionários no exterior. Muitos dos tópicos seriam comuns para qualquer pessoa que estivesse pesquisando e se candidatando a empregos”.

Google Gemini

IA do Mal

Uma informação clara que o Google revela é que fóruns cibercriminosos já oferecem e vendem ferramentas de inteligência artificial projetadas especificamente para o crime — e baseadas em modelos de linguagem legítimos.

Essas “IAs do mal” se chamariam WormGPT, WolfGPT, EscapeGPT, FraudGPT e GhostGPT. Suas capacidades englobam a criação de golpes de phishing, modelos para ataques corporativos e projetar sites falsos.

Sobre os países que se envolvem com APTs e inteligência artificial, o Google declara que seriam 20, sendo Irã e China os principais.

Dessa forma, o GTIG atesta que o Irã sustenta cerca de 10 grupos cibercriminosos. A China, 20 grupos. Coreia do Norte teria nove e Irã oito. Rússia financiaria três. 

WormGPT, WolfGPT, EscapeGPT, FraudGPT e GhostGPT

Quebrando o Gemini

O jailbreak é algo presente no relatório. O termo é referido aos ataques que “quebram” o modelo e permitem uma utilização sem qualquer medida protetiva. Em resumo no caso abordado: quebrar a inteligência artificial para ela fazer qualquer coisa que for mandada.

“Os atores de ameaça copiaram e colaram prompts disponíveis publicamente e anexaram pequenas variações nas instruções finais (por exemplo, instruções básicas para criar ransomware ou malware). O Gemini respondeu com respostas alternativas de segurança e se recusou a seguir as instruções do agente da ameaça”, declarou a empresa.

Como exemplo, a equipe de pesquisadores explica que um grupo APT copiou prompts disponíveis publicamente no Gemini e anexou instruções básicas para realizar tarefas de codificação. Essas tarefas incluíam codificar texto de um arquivo, gravá-lo em um executável e escrever código Python para uma ferramenta de ataques de negação de serviço (DDoS). No primeiro caso, Gemini forneceu o código Python (linguagem de programação) para converter Base64 em hexadecimal, mas forneceu uma resposta filtrada de segurança quando o usuário inseriu um prompt de acompanhamento que solicitou o mesmo código de um VBScript (linguagem de script).

Google Gemini

O que foi pesquisado

Entender pesquisas é entender o outro. Por isso, o Google Threat Intelligence Group revelou quais foram os tópicos mais pesquisados pelos grupos cibercriminosos. Acompanhe:

• Irã: pesquisas sobre especialistas, organizações internacionais de defesa, organizações governamentais e tópicos relacionados ao conflito Irã-Israel
• Coreia do Norte: pesquisa sobre empresas em vários setores e regiões geográficas, pesquisas sobre militares dos EUA e operações na Coreia do Sul, pesquisas sobre provedores de hospedagem gratuita
• China: pesquisa sobre militares dos EUA, provedores de serviços de TI baseados nos EUA, acesso ao banco de dados público da inteligência dos EUA, pesquisa sobre faixas de rede alvo e determinação de nomes de domínio alvos

Para concluir o relatório, o Google comenta que projeta sistemas de IA “com medidas de segurança robustas e fortes proteções de segurança, e testamos continuamente a segurança de nossos modelos para melhorá-los. Nossas diretrizes políticas e políticas de uso priorizam a segurança e o uso responsável das ferramentas generativas de IA do Google. O processo de desenvolvimento de políticas do Google inclui identificar tendências emergentes, pensar de ponta a ponta e projetar para a segurança. Melhoramos continuamente as proteções em nossos produtos para oferecer proteções escalonadas a usuários em todo o mundo”.

Detalhes das informações reveladas aqui podem ser acompanhados no relatório Adversarial Misuse of Generative AI.