20 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a seguranca-ia.
A OWASP publicou o relatório 'State of Agentic AI Security and Governance v2.01', detalhando riscos de segurança em agentes de IA autônomos, incluindo exploração de CVEs em ferramentas populares e riscos de cadeia de suprimentos. O documento oferece uma taxonomia para classificação de sistemas e recomendações de governança para CISOs.
A OpenAI introduziu o modo bloqueio no ChatGPT para limitar acesso de rede e reduzir riscos de exfiltração por injeção de prompts. Disponível para contas pessoais e empresariais, a funcionalidade restringe navegação, downloads e agentes, exigindo configuração manual de RBAC para proteção efetiva em ambientes corporativos. Administradores devem auditar conectores.
Pesquisadores da SafeBreach descobrem nova vulnerabilidade no Google Gemini que permite injeção de prompt indireto via notificações de aplicativos de mensagens, possibilitando controle silencioso do assistente de voz e execução de comandos maliciosos.
Falha crítica no Ollama, apelidada de Bleeding Llama, expõe 300 mil implantações a roubo de dados. Vulnerabilidade de leitura fora dos limites do heap permite acesso remoto sem autenticação.
OpenAI anuncia novo programa de recompensa por falhas para GPT-5.5 focado em biosegurança e jailbreaks universais, visando fortalecer controles de segurança em sistemas de IA avançados.
Mercor AI confirma vazamento de 4TB de dados após ataque à cadeia de suprimentos via biblioteca LiteLLM, com grupo Lapsus$ envolvido na exfiltração.
A Anthropic confirmou o vazamento acidental do código-fonte do Claude Code via pacote NPM, esclarecendo que não houve exposição de dados de clientes ou credenciais. O incidente destaca riscos de segurança na cadeia de suprimentos de IA.
Agentes de IA OpenClaw são explorados via injeção de prompt indireta, permitindo exfiltração de dados sensíveis sem interação do usuário através de pré-visualizações de links.
Botões 'Resumir com IA' podem esconder instruções que envenenam a memória de assistentes, influenciando recomendações de forma persistente. Microsoft identificou casos reais e oferece orientações.
Foi divulgada uma falha crítica no pacote langchain-core (Python) que pode permitir a extração de segredos e a manipulação de respostas de LLMs via injeção por serialização. O pacote é componente central do ecossistema LangChain. O trecho disponível não indica CVE, versões afetadas nem se há exploração ativa ou correção publicada.