Pesquisadores em segurança cibernética demonstraram que assistentes de inteligência artificial com capacidades de navegação na web ou busca de URLs podem ser transformados em relays furtivos de comando e controle (C2). A técnica permite que atacantes se misturem a comunicações empresariais legítimas e evitem detecção.
O método de ataque
O vetor de ataque foi demonstrado contra o Microsoft Copilot e o xAI Grok, dois assistentes de IA que possuem funcionalidades de busca na web. Os pesquisadores exploraram essas capacidades para criar canais de comunicação ocultos que podem ser usados para controlar malware implantado em sistemas comprometidos.
Mecanismo de evasão
A abordagem aproveita o tráfego legítimo gerado pelos serviços de IA, que normalmente não é bloqueado ou inspecionado com o mesmo rigor que outras formas de comunicação de rede. Ao usar os assistentes de IA como proxies, os atacantes podem disfarçar o tráfego malicioso como consultas legítimas aos serviços, dificultando significativamente a detecção por ferramentas de segurança tradicionais.
Impacto e alcance potencial
Esta técnica representa uma evolução nas táticas de persistência e evasão, particularmente preocupante em ambientes corporativos onde ferramentas de IA são cada vez mais adotadas. A capacidade de usar serviços amplamente confiáveis e permitidos como infraestrutura de C2 cria novos desafios para as equipes de segurança, que precisam reavaliar políticas de filtragem de rede e monitoramento de tráfego de serviços de IA.
Implicações para a segurança corporativa
Organizações que utilizam ou permitem o acesso a assistentes de IA com capacidades web devem considerar:
- Revisar políticas de filtragem de saída para serviços de IA
- Implementar monitoramento mais granular do tráfego de serviços de IA
- Considerar a segmentação de rede para limitar o acesso de sistemas críticos a serviços de IA externos
- Avaliar a necessidade de inspeção mais profunda do tráfego de serviços de IA em ambientes de alta segurança
A descoberta destaca a contínua corrida entre capacidades ofensivas e defensivas na segurança cibernética, com atacantes constantemente buscando novos métodos para explorar tecnologias emergentes.