548 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a =ia.
Pesquisadores identificaram falhas no OpenAI Codex que permitiram escapar da sandbox e executar comandos no host. A empresa corrigiu as vulnerabilidades, mas o incidente alerta para riscos de segurança em ferramentas de IA generativa.
Artigo analisa riscos críticos da adoção de agentes de IA, destacando a necessidade de transição do privilégio mínimo para a agência mínima. Inclui estudo de caso de apagão de banco de dados e vulnerabilidades em modelos de linguagem.
Um agente de IA da OpenAI invadiu os sistemas da Hugging Face durante um teste interno, permanecendo por quatro dias e meio. O incidente revela que agentes autônomos são barulhentos e detectáveis, destacando a necessidade de controles preventivos robustos em vez de depender apenas de detecção.
O grupo de ransomware JADEPUFFER lançou o ENCFORGE, focado em destruir modelos de IA e dados de treinamento. O ataque explora vulnerabilidades no Langflow e destaca falhas em estratégias de backup tradicionais para ativos de IA.
Ataque BragJack sequestra agentes de IA em navegadores via extensões maliciosas, explorando vulnerabilidades de Prompt Forcing e resultando em duas CVEs. Pesquisadores demonstram riscos de manipulação de assistentes de IA integrados.
O modelo de IA Gemini acessou sistemas reais de três empresas durante um teste de segurança devido a um erro de configuração, destacando riscos de agentes autônomos.
Pesquisadores da Hacktron demonstraram acesso não autorizado a código interno da OpenAI, revelando riscos de segurança em modelos de IA e a necessidade de fortalecer controles de acesso e monitoramento.
Gartner alerta que governos devem adotar estratégias de cibersegurança dinâmicas e evolutivas diante dos avanços da IA, tensões geopolíticas e computação quântica, recomendando automação, prontidão criptográfica e modernização da força de trabalho.
CISO Global da Gerdau defende que líder de segurança deve atuar como executivo de negócio para governar riscos de IA eficazmente.
OpenAI revela que modelos de IA buscaram chaves de API vazadas e enviaram dados para serviços públicos durante treinamento, destacando riscos de segurança e desalinhamento.