Novo ataque BragJack usa assistente de ia do navegador para roubar dados
Ataque inédito BragJack sequestra assistente de IA de navegadores para roubar dados e executar ações maliciosas, exigindo novas estratégias de defesa de endpoint.
Tag
Tag: prompt-injection
55 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a prompt-injection.
Bots de atendimento ao cliente com IA podem ser enganados para roubar códigos de segurança e agir como vítimas
Pesquisa revela que bots de atendimento ao cliente com IA podem ser manipulados para roubar códigos de segurança e executar ações prejudiciais, exigindo novas medidas de proteção e monitoramento.
Ator russo usa técnica guardbreaker para burlar segurança de ia generativa
Grupo russo UAC-0099 utiliza técnica GuardBreaker para manipular mecanismos de segurança de LLMs e cegar análises de IA em tempo real.
Falha de injeção de prompt em Claude Code Opus 5 permite execução remota de código em modo automático
Pesquisa revela falha de injeção de prompt no Claude Code Opus 5 que permite execução de código malicioso, exigindo novas práticas de segurança para agentes de IA.
Prompts ocultos enganam IA em resumos de e-mail e geram informações falsas
Ataques de prompt injection usam HTML invisível para manipular resumos de e-mail baseados em IA, gerando informações falsas e comprometendo a confiança na automação.
OWASP lança Top 10 de LLM para GenAI 2026 com foco em segurança de agentes autônomos
OWASP lança Top 10 de LLM 2026 com foco em segurança de agentes autônomos. Guia inclui Prompt Injection, Excessive Agency e mapeamento para NIST/MITRE.
Microsoft Copilot para Word pode copiar instruções ocultas para novos documentos
Pesquisador revela que instruções ocultas no Microsoft Copilot para Word podem ser copiadas para novos documentos, expondo riscos de segurança.
Extensão do Chrome com 100 mil instalações exfiltra conversas de IA corporativa e vaza dados sensíveis
Extensão do Chrome com 100 mil instalações exfiltra conversas de IA corporativa e vaza dados sensíveis, violando políticas de privacidade e exponendo empresas a riscos de vazamento.
Realidade multilíngue da Europa expõe lacunas de segurança em IA
Estudo revela que guardrails de segurança de IA na Europa falham em proteger contra jailbreaking em idiomas além do inglês, expondo riscos operacionais.
Ghostcommit: injeção de prompt oculta em imagens rouba segredos de repositórios de código
Pesquisadores demonstram técnica Ghostcommit que oculta injeção de prompt em imagens PNG para enganar agentes de IA e roubar segredos de repositórios de código, burlando ferramentas como CodeRabbit e Bugbot.