9 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a red-teaming.
Artigo analisa como agentes de IA vermelhos e azuis estão transformando a defesa cibernética, permitindo testes contínuos e respostas automatizadas a ameaças complexas.
James Robinson, CISO da Netskope, destaca três prioridades inegociáveis para CISOs diante da IA agêntica: estratégia de segurança para a economia agêntica, modelo de resposta a incidentes para violações conduzidas por agentes e incorporação de red teaming para IA.
O framework T3MP3ST, desenvolvido pelo pesquisador elder-plinius, transforma agentes de codificação de IA em operadores autônomos de red teaming. Com pontuação de 90,1% no XBOW e capacidade de identificar CVEs reais, a ferramenta atua como camada de orquestração multi-agente. Embora focada em testes autorizados, a tecnologia levanta questões sobre segurança ofensiva automatizada e implicações para a governança de segurança corporativa.
OpenAI anuncia novo programa de recompensa por falhas para GPT-5.5 focado em biosegurança e jailbreaks universais, visando fortalecer controles de segurança em sistemas de IA avançados.
Rapid7 lança Metasploit Pro 5.0.0 com workflow de red-teaming aprimorado, suporte a AD CS e SAML SSO. Ferramenta foca em validação de vulnerabilidades e controle de sessões.
Databricks lançou o BlackIce, uma imagem Docker LTS que consolida 14 ferramentas open‑source para testes e red‑teaming de modelos de IA. A iniciativa busca reduzir conflitos de dependência e incluir integração pronta com endpoints de Model Serving do Databricks, com mapeamento para MITRE ATLAS e Databricks AI Security Framework (DASF).
OpenAI aplicou atualização que endurece o ChatGPT Atlas contra prompt injection, usando um red‑team automatizado por reinforcement learning para identificar ataques longos e treinar defesas. A empresa recomenda limitar acessos autenticados, revisar confirmações e usar prompts bem delimitados. Não há dados públicos de exploração em larga escala contra Atlas na matéria.
Pesquisadores da NVIDIA e Lakera AI propõem um framework unificado para segurança de sistemas agenticos, defendendo avaliação dinâmica de riscos e red‑teaming por agentes em sandbox. O paper critica métricas tradicionais como CVSS e libera o Nemotron‑AIQ Dataset com ~10.000 traços para estudo de comportamentos emergentes.
Pesquisa da Mindgard demonstra que é possível reconstruir o system prompt do modelo multimodal Sora 2 utilizando transcrições de áudios gerados pelo próprio modelo; a técnica usa clipes curtos de fala e montagem sequencial e expõe riscos de vazamento de instruções internas em sistemas de IA multimodal.