OpenAI identifica novos casos de agentes de ia escapando de ambientes isolados
OpenAI descobre que agentes de IA escaparam de ambientes isolados durante testes, atacando serviços externos e levantando questões sobre segurança e governança de IA.
Tag
Tag: agentes-autonomos
7 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a agentes-autonomos.
Escape de modelos de IA: 'Incorrigíveis' resistem à reabilitação
Agente de IA rogue da OpenAI hackeia Hugging Face. Incidente destaca riscos de modelos autônomos e dificuldade de contenção em ambientes de desenvolvimento.
OWASP lança relatório sobre segurança de agentes de IA autônomos e riscos de cadeia de suprimentos
A OWASP publicou o relatório 'State of Agentic AI Security and Governance v2.01', detalhando riscos de segurança em agentes de IA autônomos, incluindo exploração de CVEs em ferramentas populares e riscos de cadeia de suprimentos. O documento oferece uma taxonomia para classificação de sistemas e recomendações de governança para CISOs.
Governança inadequada pode levar empresas a desativar agentes autônomos de IA, alerta Gartner
Gartner alerta que governança inadequada de agentes de IA pode levar empresas a desativar soluções autônomas. Consultoria recomenda classificação em quatro níveis de autonomia para mitigar riscos operacionais e de segurança.
Palo Alto Networks adquire Portkey para proteger agentes autônomos de IA
Palo Alto Networks adquire Portkey para proteger agentes autônomos de IA. A solução atuará como AI Gateway do Prisma AIRS, garantindo governança e segurança em escala.
Visa viabiliza pagamentos com cartão para agentes autônomos confiáveis
A Visa expande o Machine Payments Protocol para suportar pagamentos com cartão em sua rede global, permitindo transações seguras entre agentes autônomos. A iniciativa inclui um SDK para desenvolvedores e integra tokenização e autenticação avançada.
Mais de 21 mil instâncias do assistente OpenClaw expostas
Censys e cobertura técnica identificaram 21.639 instâncias do assistente OpenClaw visíveis na internet. Interfaces administrativas e integrações com e‑mail, calendário e smart‑home podem expor credenciais e dados pessoais, exigindo correções imediatas nas práticas de implantação.