Phishing com resumos de e-mail do Gemini
O Gemini está profundamente integrado ao Google Workspace e pode ser usado para acelerar diversas tarefas. Um de seus recursos pode ser explorado para ataques de phishing , como descobriu um pesquisador de segurança. Apesar da implementação de proteções, a técnica continua funcionando.
Phishing via GeminiA técnica, conhecida como injeção indireta de prompts , explora resumos de e-mail gerados pelo Gemini no Gmail. Ela foi descrita em detalhes por Marco Figueroa, gerente do programa GenAI Bug Bounty da Mozilla. O "truque" é bastante simples, mas eficaz.
O cibercriminoso envia um e-mail normal para a vítima desavisada. No final do texto, há uma diretiva para o Gemini, escrita em fonte branca ou sem fonte, tornando-a invisível. O Gmail não exibe nenhum aviso de segurança, pois não há links ou anexos. Se o destinatário usar o recurso de geração de gist, o Gemini executa a diretiva.
No exemplo postado por Marco Figueroa, o chatbot adicionará um aviso falso ao resumo sobre uma senha roubada do Gmail . O destinatário deverá então entrar em contato com um suposto serviço de suporte usando o número de telefone fornecido para redefinir sua senha.
Se a vítima desavisada ligar para o número, um cibercriminoso atenderá e tentará obter as credenciais da conta ou solicitará a instalação de uma ferramenta de acesso remoto. Isso permite que ele roube e-mails, documentos e dados pessoais, ou assuma o controle do computador usando malware.
O Google anunciou que seus modelos de IA incluem diversas proteções contra esses tipos de ataques. Mais proteções serão implementadas em breve, conforme descrito em uma postagem de blog publicada em meados de junho . Atualmente, não há ataques conhecidos que explorem os resumos Gemini no Gmail.
Punto Informatico
