Denunciantes e ex-funcionários de gigantes das redes sociais expuseram à BBC como a Meta e o TikTok priorizaram o engajamento em detrimento da segurança dos usuários durante a disputa por atenção digital. Mais de uma dúzia de fontes internas relataram que as empresas permitiram a propagação de conteúdo nocivo, incluindo violência, chantagem sexual e terrorismo, mesmo após pesquisas internas indicarem que a indignação impulsionava o uso da plataforma.
Descoberta e escopo
A investigação revelou que engenheiros da Meta receberam orientação da direção para permitir mais conteúdo nocivo "limítrofe" nos feeds dos usuários para competir com o TikTok. Esse tipo de conteúdo inclui misoginia e teorias conspiratórias, que não violam necessariamente as regras, mas geram alta interação. Um engenheiro da Meta descreveu que a decisão foi tomada porque o preço das ações estava em queda, evidenciando a pressão financeira sobre as decisões de segurança.
O que mudou agora
O documentário da BBC, "Inside the Rage Machine", detalha como o setor reagiu após o crescimento explosivo do TikTok. Matt Motyl, pesquisador sênior da Meta, afirmou que o Instagram Reels foi lançado em 2020 sem proteções suficientes. Pesquisas internas mostraram que os comentários no Reels apresentavam prevalência significativamente maior de bullying e assédio, discurso de ódio e violência do que em outras partes do Instagram.
Impacto e alcance
Os documentos internos compartilhados com a BBC indicam que o algoritmo do Facebook oferecia aos criadores de conteúdo um "caminho que maximiza os lucros às custas do bem-estar de sua audiência". Um estudo sugeriu que publicações no Reels tinham 75% a mais de bullying e assédio, 19% a mais de discurso de ódio e 7% a mais de violência ou incitação à violência. O desequilíbrio de poder entre equipes de segurança e equipes de produto impediu o lançamento de ferramentas de segurança, pois o conteúdo tóxico gera mais engajamento.
Setores afetados
A segurança de adolescentes e crianças foi particularmente comprometida. Um funcionário do TikTok, identificado como Nick, mostrou evidências de que a empresa tratava casos envolvendo políticos como prioridade maior para revisão do que casos envolvendo danos a adolescentes. Em um exemplo, um político ridicularizado recebeu prioridade sobre um jovem de 17 anos vítima de cyberbullying e uma jovem de 16 anos no Iraque com imagens sexualizadas sendo compartilhadas.
Implicações regulatórias (LGPD)
No Brasil, a questão da segurança de menores e a proteção de dados pessoais são regidas pela Lei Geral de Proteção de Dados (LGPD). A priorização de casos políticos sobre a segurança infantil pode violar princípios de proteção de dados e dever de cuidado das plataformas. A ANPD (Autoridade Nacional de Proteção de Dados) tem fiscalizado o tratamento de dados de menores, e essas práticas podem gerar multas e sanções administrativas para as empresas operantes no país.
Análise técnica detalhada
Ruofan Ding, ex-engenheiro de aprendizado de máquina do TikTok, explicou que os algoritmos são uma "caixa-preta" difícil de examinar. Ele afirmou que os engenheiros não prestam muita atenção ao conteúdo das publicações, tratando tudo como um ID. A dependência das equipes de segurança de conteúdo para remover publicações nocivas criou um sistema onde a equipe de "freios" não tem controle sobre a equipe de "aceleração". O TikTok atualizava seu algoritmo quase toda semana para ganhar espaço no mercado, resultando em mais conteúdo limítrofe aparecendo depois que os usuários já estavam assistindo a vídeos.
Linha do tempo do incidente
A disputa entre algoritmos intensificou-se em 2020 com o lançamento do Instagram Reels. Entre 2019 e 2023, a Meta realizou experimentos em larga escala com centenas de milhões de pessoas para testar como o conteúdo era exibido. Em 2025, a BBC conversou regularmente com um integrante da equipe de confiança e segurança do TikTok, revelando que o volume de casos era grande demais para acompanhar, e cortes nas equipes de moderação reduziram a capacidade de lidar com conteúdo nocivo.
Comparação com ataques anteriores
Esta situação assemelha-se a casos anteriores onde a maximização de receita levou à negligência de segurança, como no escândalo do Cambridge Analytica. No entanto, a escala e a natureza do conteúdo nocivo (violência, terrorismo) representam um risco mais direto à segurança física e mental dos usuários. A normalização de posts antissemitas, racistas, violentos e de extrema direita foi observada por especialistas da polícia antiterrorismo no Reino Unido.
Medidas de mitigação recomendadas
Para pais e responsáveis, o conselho de Nick, ex-funcionário do TikTok, é apagar o aplicativo e manter as crianças o mais longe possível dele. Para executivos e CISOs, é necessário revisar os incentivos de engajamento e garantir que as equipes de segurança tenham poder de veto sobre lançamentos de produtos. A transparência sobre como os algoritmos funcionam e a priorização da segurança sobre o lucro devem ser incorporadas à governança de IA e segurança de produtos.
Perguntas frequentes
As empresas negaram as acusações? Sim. A Meta disse que qualquer sugestão de que ampliaram deliberadamente o conteúdo nocivo para ganho financeiro é incorreta. O TikTok afirmou que são "alegações fabricadas" e que investe em tecnologia para impedir que conteúdo nocivo seja visualizado.
Qual o impacto no Brasil? O Brasil é um dos maiores mercados para essas plataformas. A priorização de segurança infantil e a conformidade com a LGPD são críticas. A ECA Digital e outras entidades têm monitorado a verificação de idade de usuários no Brasil.
Existe solução técnica? Ruofan Ding afirmou que é difícil construir sistemas completamente seguros devido à natureza do aprendizado profundo. A solução envolve mudanças culturais e de governança, não apenas técnicas.