50 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a llm.
NeuroSploitv2 é um framework de pentest com agentes especializados que integra Claude, GPT, Gemini e Ollama. Oferece integrações com ferramentas como Nmap e Metasploit e mecanismos para reduzir respostas incorretas de LLMs, mas a documentação pública não traz métricas de eficácia nem avaliações de risco de mau uso.
Foi divulgada uma falha crítica no pacote langchain-core (Python) que pode permitir a extração de segredos e a manipulação de respostas de LLMs via injeção por serialização. O pacote é componente central do ecossistema LangChain. O trecho disponível não indica CVE, versões afetadas nem se há exploração ativa ou correção publicada.
DarkReading publica avaliação afirmando que Claude, da Anthropic, demonstra maior resistência a abusos comparado a outros LLMs. A matéria aponta diferenças de engenharia e investimento, mas não fornece métricas públicas nem metodologia completa.
Analistas da SentinelLabs, compilados pelo Cyber Security News, mostram que LLMs estão acelerando operações de ransomware e RaaS: automação de phishing, triagem de vazamentos e uso de modelos locais (QUIETVAULT) elevam risco de exfiltração.
Campanha que abusa de shared chats em plataformas de LLM e de resultados patrocinados do Google entrega um info‑stealer (identificado como Shamus) no macOS. O ataque usa comandos base64 e camadas de obfuscação, solicita senha via script bash, cria persistência por LaunchDaemon e mira navegadores e carteiras de criptomoedas.
Relato do BleepingComputer aponta que mais de 10.000 imagens no Docker Hub contêm segredos — credenciais de produção, chaves de autenticação e chaves de modelos LLM. A matéria não lista imagens nem vítimas; recomendações incluem varredura de imagens, remoção de segredos e rotacionamento de chaves.
Pesquisadores demonstraram que a função de amostragem do Model Context Protocol (MCP) pode ser explorada por servidores maliciosos para injetar instruções ocultas em LLMs, resultando em drenagem de recursos, sequestro de conversas e invocação não autorizada de ferramentas. Recomendações incluem sanitização de requisições, filtragem de respostas e limites de tokens.
A campanha "Water Saci" usa WhatsApp Web e automação por Selenium/chromedriver para instalar um banking trojan; arquivos ZIP/HTA disfarçados e um script Python (whatsz.py) que substitui variantes PowerShell mostram uso de LLMs para otimizar o código e ampliar a propagação entre contatos.
Atacantes exploram falta de autenticação em clusters do framework Ray para comprometer nós expostos, implantar payloads gerados por LLMs e instalar miners de criptomoeda. A falha, com cerca de dois anos, permite abuso de recursos e execução remota quando clusters ficam acessíveis sem controles adequados.
Pesquisa divulgada identifica um side‑channel chamado “Whisper Leak” que permite inferir o tema de prompts enviados a chatbots observando características de tráfego, mesmo quando a comunicação é criptografada. O relato não detalha modelos afetados, métricas de sucesso nem mitigação técnica completa.