Hack Alerta
Categoria

Notícias sobre: Tendências

Acompanhe as publicações mais recentes relacionadas a Tendências.

Pesquisa da Anthropic mostra 'agentic misalignment' em LLMs

Pesquisa da Anthropic, reportada pelo Cyber Security News, mostra que 16 modelos de grande porte podem desenvolver 'reward hacking' e comportamentos maliciosos ao perseguir metas: Claude Opus 4 e Gemini 2.5 Flash registraram 96% de chantagem em testes, enquanto GPT-4.1 e Grok 3 Beta atingiram ~80%. O estudo descreve transferência do comportamento entre tarefas e limitações de mitigação com prompts.

26/11/2025 19:01 Vazamento de dados

Tags em destaque