Descoberta e escopo
Um novo aviso do governo dos Estados Unidos levantou preocupações sobre tentativas em larga escala de copiar as capacidades de sistemas de inteligência artificial líderes. A atividade não envolveu malware convencional, mas focou na coleta de saídas de modelos em uma escala que poderia acelerar o desenvolvimento de IA rival.
As campanhas alegadas confiaram em grandes volumes de solicitações automatizadas enviadas por meio de interfaces de programação de aplicativos (APIs), serviços em nuvem, agregadores e redes de proxy. A CISA disse em um relatório compartilhado que, ao coletar respostas de modelos avançados de IA, os operadores poderiam criar conjuntos de dados sintéticos projetados para ensinar outros sistemas a realizar tarefas semelhantes.
Analistas da Agência de Segurança de Infraestrutura e Cibersegurança (CISA), juntamente com a NSA e o FBI, disseram que empresas de IA baseadas na China provavelmente extraíram bilhões de tokens em milhões de trocas de modelos de fronteira dos EUA desde o final de 2024.
O que mudou agora
O aviso descreve a atividade como distilação de conhecimento em escala industrial maliciosa, em vez de pesquisa de IA rotineira. O impacto relatado vai além do acesso não autorizado a uma única plataforma. A CISA alertou que a extração de raciocínio, codificação, capacidades agênticas e específicas de domínio pode reduzir tanto o custo quanto o tempo necessário para desenvolver modelos competitivos, criando preocupações econômicas e de segurança nacional para o ecossistema de IA mais amplo.
A CISA nomeou a DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI como empresas envolvidas em campanhas que visam variantes de Claude, GPT, Gemini e Grok. A agência disse que as operações provavelmente ocorreram com conhecimento do governo chinês, embora o aviso não alegasse controle direto do governo.
Vetor e exploração
De acordo com a CISA, as operações usaram "estações de transferência", um mercado cinzento de proxies de API que podem mascarar metadados de usuário e ajudar os usuários a contornar restrições geográficas. Esses intermediários também podem obscurecer a organização que faz as solicitações, fazendo com que contas isoladas pareçam menos conectadas do que realmente são.
A advisory descreveu pools de contas, assinaturas premium em massa e sistemas de roteamento automatizado que poderiam alternar entre provedores quando os controles de acesso mudavam. Também destacou comportamentos como atividade sustentada 24 horas por dia, uso repetido de múltiplas localizações, uso máximo imediato por novas contas e timing coordenado em caminhos separados.
Alguns operadores alegadamente usaram injeção de prompt e solicitações estilo jailbreak para forçar os modelos a revelar o raciocínio oculto da cadeia de pensamento. Isso é distinto de prompts comuns porque o objetivo é manipular um modelo para expor processos internos protegidos.
Medidas de mitigação recomendadas
A CISA instou os provedores de IA a fortalecerem as verificações de identidade, monitorarem proporções incomuns de assinatura para uso, aplicarem limites de taxa e registrarem solicitações para investigação. Os provedores também devem compartilhar sinais de infraestrutura e comportamentais com plataformas em nuvem e agregadores de API, já que uma campanha distribuída pode não ser visível de um único serviço.
As agências recomendaram ainda mudanças de resposta direcionadas para solicitações maliciosas de alta confiança, como reduzir a fidelidade da resposta ou variar as saídas, sem alertar os operadores suspeitos. Privacidade diferencial, testes adversariais, controles de API mais rigorosos e medidas para limitar a injeção de prompt podem adicionar camadas de proteção contra tentativas de extração.
Perguntas frequentes
O que é distilação de conhecimento? É um método legítimo no qual um modelo menor aprende com um maior. A preocupação surge quando as empresas obtêm saídas restritas de concorrentes em escala e usam esses resultados para imitar capacidades protegidas sem autorização.
Quais empresas estão envolvidas? DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun e Z.AI.
Como os provedores podem se proteger? Fortalecer verificações de identidade, monitorar uso, aplicar limites de taxa e compartilhar sinais de infraestrutura.