AGU notifica Google para desindexar sites que criam nudes falsos com IA
A Advocacia-Geral da União (AGU) solicitou ao Google, nesta quarta-feira (01/04), que remova dos resultados de busca da plataforma os sites que usam técnicas de inteligência artificial (IA) e deepfake para produzir imagens sexualizadas falsas de pessoas reais. A notificação extrajudicial foi enviada após solicitação da Secretaria de Comunicação Social da Presidência da República (Secom-PR).
Contexto legal e base da notificação
A notificação foi fundamentada na pesquisa “Desindexação de sites de ‘nudify’ pelo Google: proteção de direitos humanos e prevenção de violência online contra mulheres, crianças e adolescentes”, publicada pela Fundação Getúlio Vargas do Rio de Janeiro (FGV-Rio). A AGU expõe o crescente uso de expressões como “nudify” e correlatas na ferramenta de buscas do Google no Brasil desde meados de 2023.
A pesquisa da FGV-Rio alerta que as principais vítimas de “nudificação” sem consentimento são mulheres, crianças e adolescentes. A AGU argumenta que a disponibilidade e indexação dessas ferramentas facilitam o acesso massivo, alçando-as à mesma categoria de qualquer outro item lícito de busca.
Medidas exigidas pelo governo federal
A Procuradoria Nacional da União de Defesa da Democracia (PNDD) requer a adoção de duas medidas pelo Google no prazo de cinco dias. A primeira é a desindexação dos sites de “nudificação”, a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação.
A outra medida é a implementação de filtros algorítmicos para impedir indexação futura de sites similares. A AGU destaca que o próprio Google já possui diretrizes específicas a respeito de veiculação de imagens íntimas não consensuais em seus Termos de Uso, mas aponta que as medidas da plataforma não têm sido suficientes.
Atmosfera misógina e impacto social
A AGU cita outras pesquisas e relatórios, inclusive de outros países, que apontam “o exponencial crescimento de uma atmosfera misógina nas redes sociais — agravadas (mas não apenas) pelo uso de ferramentas de IA para criar deepfakes de mulheres reais”. No caso da Inglaterra, a organização Children’s Commissioner lançou um relatório sobre o tema em 2025.
O documento reforça que, conforme definido pelo Supremo Tribunal Federal (STF), as plataformas podem ser responsabilizadas por conteúdos gerados por terceiros nos casos em que, tendo conhecimento dos atos ilícitos, não procedam à remoção imediata do material. Além disso, a AGU alertou que as empresas têm dever de cuidado sobre esses conteúdos.
Implicações regulatórias e LGPD
A notificação fundamenta-se também no dever constitucional do Estado, da sociedade e da família em pôr a salvo a criança e o adolescente de toda forma de negligência, discriminação, exploração, violência, crueldade e opressão. A AGU cita o Marco Civil da Internet e o recente Estatuto Digital da Criança e do Adolescente (ECA Digital).
A Lei Geral de Proteção de Dados (LGPD) também é invocada, dado que a criação e distribuição de imagens íntimas sem consentimento violam a privacidade e a dignidade dos titulares de dados. A implementação de filtros algorítmicos pode ser vista como uma medida de segurança técnica para mitigar riscos de vazamento e uso indevido de dados biométricos e faciais.
Dever de cuidado das plataformas
A AGU reforçou que, independentemente de notificação, as plataformas devem buscar impedir a circulação de material que configure crimes graves, como é o caso dos nudes criados por IA sem autorização. Isso estabelece um precedente importante para a responsabilidade civil e criminal das big techs no Brasil.
O documento destaca que a responsabilidade do autor direto na criação e distribuição do conteúdo ilícito, ou do próprio desenvolvedor da ferramenta, não se nega. No entanto, a disponibilidade indexada pelo buscador tem o condão de facilitar o acesso massivo, agravando o dano.
Repercussão e próximos passos
A notificação coloca o Google sob pressão para revisar seus algoritmos de busca e políticas de conteúdo. A resposta da empresa será monitorada pela AGU e pela Secom-PR. Caso não haja conformidade no prazo, medidas judiciais podem ser tomadas.
Este caso também serve de alerta para outras empresas de tecnologia que operam no Brasil sobre a necessidade de adequação às leis locais e à proteção de direitos humanos, especialmente no que tange ao uso de IA.
Perguntas frequentes
Qual o prazo para resposta do Google?
A AGU estabeleceu um prazo de cinco dias para a adoção das medidas de desindexação e implementação de filtros.
Quantos sites foram listados?
Mais de 40 links que estavam disponíveis no momento da notificação foram incluídos na listagem exemplificativa.
Qual a base legal da notificação?
Marco Civil da Internet, ECA Digital, LGPD e decisões do STF sobre responsabilidade de plataformas.
Quem são as principais vítimas?
Mulheres, crianças e adolescentes, conforme alerta da pesquisa da FGV-Rio.