45 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a llm.
Ontinue analisou o VoidLink, um implante C2 para Linux com fortes indícios de ter sido gerado por LLMs. O malware é modular, visa múltiplos provedores de nuvem e incorpora rootkits de kernel adaptativos, colecionamento de credenciais via metadata APIs e comunicação C2 cifrada.
O Augustus, da Praetorian, é um scanner open‑source em binário Go que automatiza mais de 210 ataques adversariais contra 28 provedores de LLM. Projetado para integração em pentests e CI/CD, traz paralelismo por goroutines, sistema "Buff" para transformar probes e exportação em JSON/HTML. A iniciativa facilita testes operacionais de segurança em modelos de IA.
Pesquisa da LayerX descreve uma vulnerabilidade 0‑click RCE em Claude Desktop Extensions que, segundo a empresa, afeta mais de 10.000 usuários e permite encadear dados de baixo nível (Google Calendar) a um executor local privilegiado, potencialmente levando à execução remota de código sem confirmação. Anthropic foi notificada; mitigação exige isolamento ou desconexão de extensões de alto privilégio.
Pesquisa da Sysdig descreve um intruso que, usando LLMs e credenciais encontradas em buckets S3 públicos com dados RAG, escalou para privilégios administrativos na AWS em menos de 10 minutos. Vetores incluíram injeção de código em Lambdas (UpdateFunctionCode/Configuration) e abuso de recursos (p4d.24xlarge).
Databricks lançou o BlackIce, uma imagem Docker LTS que consolida 14 ferramentas open‑source para testes e red‑teaming de modelos de IA. A iniciativa busca reduzir conflitos de dependência e incluir integração pronta com endpoints de Model Serving do Databricks, com mapeamento para MITRE ATLAS e Databricks AI Security Framework (DASF).
Operação ativa identifica endpoints expostos de LLMs e comercializa acesso não autorizado à infraestrutura de IA. A exploração se aproveita de más configurações e falta de autenticação; recomenda-se revisão imediata de endpoints, autenticação forte e telemetria.
Alexander Culafi, no DarkReading, alerta para o "model collapse" em LLMs: quando modelos treinam sobre conteúdo gerado por IA, sua precisão pode cair. O artigo relaciona a degradação a imprecisões, promoção de conteúdo malicioso e riscos a proteções de PII, e discute implicações para controles Zero‑Trust. Faltam, porém, métricas públicas e exemplos documentados que comprovem a extensão do fenômeno.
Um experimento mostrou que agentes baseados em GPT‑5.2 geraram mais de 40 exploits funcionais contra um bug no QuickJS em múltiplas configurações. Testes consumiram até 50 milhões de tokens e pouco mais de três horas no caso mais complexo, tornando a geração automatizada de exploits economicamente viável em escala.
Pesquisadores propuseram um kill chain em cinco passos para ataques a aplicações com LLMs — denominado "promptware" — cobrindo initial access, privilege escalation, persistence, movimentação lateral e execução. O framework descreve vetores como prompts maliciosos, jailbreaking e persistência em memória ou repositórios.
Relatório alerta que atacantes procuram proxies mal configurados para acessar APIs de LLMs e automatizar ataques (phishing, geração de malware). Recomenda revisão de proxies, rate‑limits, rotação de chaves e monitoramento de uso.