A China emitiu um alerta de segurança oficial contra a ferramenta de programação com inteligência artificial Claude Code, desenvolvida pela Anthropic. Segundo o Banco Nacional de Dados de Vulnerabilidades da China (CNVDB), algumas versões do software possuem mecanismos capazes de coletar informações dos usuários e enviá-las aos servidores da empresa sem autorização explícita, levantando preocupações sobre privacidade e segurança de dados.
Detalhamento das preocupações de segurança
As autoridades chinesas afirmam que as versões 2.1.91 até 2.1.196 do Claude Code apresentam funcionalidades que poderiam transmitir dados como identidade do usuário, localização geográfica, informações do sistema operacional e características do computador para a Anthropic. De acordo com o CNVDB, esses mecanismos poderiam representar riscos para empresas, incluindo vazamento de informações confidenciais, exposição de propriedade intelectual e coleta de dados sem o consentimento dos usuários.
O alerta é particularmente relevante para organizações que operam em setores sensíveis ou que lidam com dados protegidos por regulamentações de privacidade. A coleta de dados sem consentimento pode violar princípios fundamentais de governança de dados e expor as empresas a riscos legais e reputacionais.
Posicionamento da Anthropic e da Alibaba
A Anthropic nega que exista qualquer "backdoor" malicioso, mas reconhece a presença de recursos voltados para prevenir abusos e o uso não autorizado da plataforma. Segundo a empresa, esses mecanismos fazem parte de um experimento para combater abusos da plataforma, impedir o uso em regiões onde o serviço é restrito e dificultar práticas como a destilação de modelos de inteligência artificial e a revenda não autorizada da tecnologia.
O alerta da China ocorre após engenheiros da Alibaba afirmarem ter analisado o funcionamento interno do Claude Code. Segundo a empresa, o software verificaria fatores como fuso horário configurado para a China, uso de VPNs, servidores proxy, infraestrutura de laboratórios de IA e características da rede utilizada. Essas verificações levantaram preocupações sobre privacidade e levaram a Alibaba a proibir o uso interno da ferramenta.
Implicações para governança de IA
Este incidente destaca a complexidade da governança de inteligência artificial em um cenário global. Ferramentas de IA que operam em múltiplas jurisdições devem estar em conformidade com as leis locais de proteção de dados e segurança cibernética. A divergência entre as interpretações de segurança da Anthropic e das autoridades chinesas ilustra os desafios de harmonizar padrões de segurança de IA internacionalmente.
Para os CISOs e líderes de tecnologia, é crucial avaliar o uso de ferramentas de IA de terceiros em relação aos riscos de privacidade e segurança. A implementação de políticas claras sobre o uso de IA generativa e ferramentas de codificação pode ajudar a mitigar esses riscos.
Recomendações para organizações
O órgão chinês recomenda que os usuários removam as versões afetadas e atualizem o software para edições que alterem ou eliminem esse comportamento. Para organizações globais, a recomendação é revisar as configurações de privacidade das ferramentas de IA e garantir que os dados sensíveis não sejam processados por servidores externos sem consentimento adequado.
A implementação de gateways de IA que monitoram e filtram o tráfego de dados pode ajudar a prevenir a exfiltração não autorizada. Além disso, a educação dos desenvolvedores sobre os riscos de segurança associados ao uso de ferramentas de IA é essencial para promover práticas de codificação seguras.
Contexto de segurança de IA
Este alerta ocorre em um momento em que a segurança de inteligência artificial está se tornando uma prioridade crescente. A capacidade de ferramentas de IA coletarem dados de sistemas locais levanta questões sobre a confiança e a transparência desses sistemas. A indústria de segurança precisa acompanhar a evolução das ferramentas de IA para garantir que elas não se tornem vetores de ataque ou vazamento de dados.
Conclusão e lições aprendidas
Enquanto a China considera que o Claude Code representa riscos à privacidade e recomenda sua atualização ou remoção, a Anthropic afirma que os recursos identificados têm finalidade de segurança e proteção contra uso indevido. Este cenário ilustra a necessidade de diálogo contínuo entre desenvolvedores de IA, reguladores e usuários finais para estabelecer padrões de segurança claros.
Perguntas frequentes
Devo remover o Claude Code imediatamente?
Sim, se você estiver na China ou operando sob regulamentações estritas de privacidade, é recomendável remover as versões afetadas.
Como proteger meus dados ao usar IA?
Evite inserir dados sensíveis em ferramentas de IA de terceiros e utilize gateways de IA para monitorar o tráfego.
Qual é a posição da Anthropic?
A Anthropic nega a existência de backdoors e afirma que os mecanismos são para prevenção de abusos e proteção de propriedade intelectual.