Agentes de IA com persona humana sofrem ataques de engenharia social
F5 Labs revela que Agentes de IA com persona humana estão sofrendo ataques de engenharia social, exigindo novas medidas de segurança e governança.
Tag
Tag: seguranca de ia
3 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a seguranca de ia.
Injeção indireta de prompt: ataque real manipula agentes de IA com conteúdo oculto
Pesquisa da Unit 42 confirma ataques reais de injeção indireta de prompt (IDPI), onde hackers escondem comandos em páginas web para manipular agentes de IA. Técnica já foi usada para burlar sistemas de revisão de anúncios e tentar fraudes financeiras.
Vulnerabilidade crítica em OpenAI Sora 2 permite extrair system prompt via áudio
Pesquisa da Mindgard demonstra que é possível reconstruir o system prompt do modelo multimodal Sora 2 utilizando transcrições de áudios gerados pelo próprio modelo; a técnica usa clipes curtos de fala e montagem sequencial e expõe riscos de vazamento de instruções internas em sistemas de IA multimodal.