6 notícia(s) relacionada(s).
Reunimos nesta página as publicações do Hack Alerta relacionadas a modelos.
Cisco lança ferramenta open source para garantir proveniência de modelos de IA. Ferramenta aborda riscos de modelos envenenados e conformidade regulatória.
Ataques exploram Hugging Face e ClawHub para distribuir malware via engenharia social. Riscos para ecossistema de IA e recomendações de mitigação.
NeuralTrust divulgou Semantic Chaining, técnica que usa cadeias de prompts para contornar filtros de segurança em modelos multimodais como Grok 4 e Gemini Nano, incluindo a possibilidade de embutir texto proibido em imagens. A abordagem evidencia "blind spots" em arquiteturas reativas e recomenda controles baseados em intenção e histórico.
Relatório alerta que atacantes procuram proxies mal configurados para acessar APIs de LLMs e automatizar ataques (phishing, geração de malware). Recomenda revisão de proxies, rate‑limits, rotação de chaves e monitoramento de uso.
The Hacker News aponta que muitas iniciativas de IA em SOCs falham por falta de integração intencional: equipes tratam modelos como atalhos para processos quebrados ou os aplicam a problemas inadequados. A publicação recomenda alinhar casos de uso, melhorar qualidade de dados e definir governança antes de escalar.
DarkReading publica avaliação afirmando que Claude, da Anthropic, demonstra maior resistência a abusos comparado a outros LLMs. A matéria aponta diferenças de engenharia e investimento, mas não fornece métricas públicas nem metodologia completa.