O ShadowLeak é uma vulnerabilidade de segurança recentemente descoberta que afeta o ChatGPT da OpenAI em cenários específicos, especialmente quando está ligado a contas de Gmail empresarial com a funcionalidade de navegação ativa. Trata-se de um ataque do tipo indirect prompt injection (IPI) zero-click, ou seja, não exige que o utilizador clique em nada para que a exploração ocorra.
Como Funciona o ShadowLeak
- Email malicioso disfarçado: O atacante envia um email aparentemente legítimo, mas que contém instruções escondidas em texto invisível ou metadados HTML.
- Pedido normal ao assistente: O utilizador pede ao ChatGPT para resumir emails ou procurar informação na caixa de entrada.
- Exfiltração de dados: Durante a análise, o modelo processa as instruções ocultas e envia dados confidenciais (PII, PHI, credenciais, informações internas) para um servidor controlado pelo atacante.
- Ataque zero-click: Não há interação do utilizador com links suspeitos, tornando-o difícil de detetar.
- Vazamento fora do perímetro da empresa: O roubo de dados ocorre diretamente nos servidores da OpenAI, sem deixar rastros na rede da organização.
Impactos Potenciais
- Exposição de dados sensíveis: Informações pessoais, dados de clientes, informações de saúde ou legais podem ser comprometidas.
- Violação de normas de privacidade: Dependendo da jurisdição, pode violar regulamentos como o GDPR ou CCPA.
- Risco reputacional: A perda de confiança por parte de clientes e parceiros comerciais.
- Fraudes e uso indevido de dados: Dados roubados podem ser usados em esquemas de phishing, fraude ou espionagem corporativa.
Como Proteger-se do ShadowLeak
- Limitar permissões de IA: Evitar dar acesso direto a emails completos, especialmente em contas empresariais com dados sensíveis.
- Desativar navegação sempre que não for necessária: Reduz o risco de fuga de informação para domínios externos.
- Usar monitorização de segurança (SIEM/IDS/IPS): Soluções que detetam comunicações anómalas podem identificar exfiltrações suspeitas.
- Treinar utilizadores: Ensinar colaboradores a não dependerem da IA para processar emails que possam conter dados sensíveis.
- Políticas de DLP (Data Loss Prevention): Implementar mecanismos que impeçam a transmissão de dados críticos para fora da rede da empresa.
- Acompanhar atualizações: Manter-se informado sobre novas vulnerabilidades e correções aplicadas pelos fornecedores de IA.
Correção e Mitigação
A vulnerabilidade foi confirmada e corrigida pela OpenAI, que implementou alterações para impedir que instruções ocultas em emails sejam processadas como comandos pelo sistema. Apesar disso, o incidente serve de alerta para a necessidade de reforçar práticas de segurança em ambientes que utilizam IA.
Conclusão
O caso ShadowLeak mostra como as ameaças cibernéticas estão a evoluir para explorar a inteligência artificial. Organizações que utilizam assistentes de IA devem considerar políticas de segurança adicionais, como monitorização contínua, revisão de permissões e formação de utilizadores para compreender os novos riscos.
Artigo escrito por AI