Introdução
Deepfakes estão cada vez mais difíceis de serem detectados pelo olho humano, mas ferramentas tecnológicas também estão falhando nessa identificação. Uma análise do PC World observou que muitas plataformas de segurança que ajudam nessa detecção deixam passar vários conteúdos manipulados por inteligência artificial (IA).
Descoberta e escopo
A desconfiança partiu de um vídeo publicado no TikTok, em que uma mulher aparece vendendo um produto próprio. Tudo parece normal até que ela coloca os dedos no meio da cartilagem do nariz de um jeito bastante estranho e nada comum para ações humanas.
O vídeo impressiona pela qualidade da manipulação, passando ileso por ferramentas de detecção mesmo sendo um deepfake. Nem mesmo plataformas públicas bastante usadas por usuários conseguiram entregar estimativas precisas a respeito do conteúdo feito por IA.
O site deepfakedetector.ai, por exemplo, acessado pelo PC World durante a análise, afirmou que a probabilidade do vídeo ser um deepfake variava entre 5% a 24%. A resposta da ferramenta diz ainda que o material contava com detalhes e expressões faciais nítidas, profundidade de campo, interação natural com objetos e movimentos oculares e frequência de piscadas convincentes.
Por outro lado, o Hive Moderation, recurso que também é usado para detectar vídeos feitos por deepfake, entregou uma resposta mais satisfatória e confiável, identificando o vídeo como um material gerado por inteligência artificial.
O que mudou agora
A corrida contra deepfakes está se tornando cada vez mais desigual. À medida que os modelos de geração de vídeo se tornam mais sofisticados, as ferramentas de detecção precisam evoluir rapidamente para acompanhar. A lacuna entre a tecnologia de geração e a de detecção está se ampliando, criando um risco significativo para a segurança da informação e a integridade da informação online.
Este cenário preocupa especialistas em segurança, que alertam para o potencial de uso malicioso de deepfakes em golpes financeiros, difamação e desinformação em larga escala.
Vetor e exploração
Os deepfakes são criados usando redes generativas adversariais (GANs) e outros modelos de aprendizado profundo. Eles podem ser usados para criar vídeos falsos de figuras públicas, funcionários de empresas ou indivíduos comuns, com fins maliciosos.
A exploração mais comum envolve a criação de vídeos falsos para enganar vítimas em golpes de engenharia social, como falsos vídeos de CEOs autorizando transferências bancárias ou vídeos de familiares em situação de risco exigindo resgate.
Evidências e limites
A análise do PC World destaca que mesmo ferramentas especializadas podem falhar. A variabilidade nas respostas entre diferentes plataformas (deepfakedetector.ai vs Hive Moderation) mostra a falta de padronização e confiabilidade no mercado atual de detecção.
Isso sugere que a confiança cega em ferramentas automatizadas é perigosa. A detecção humana, embora falha, ainda é um componente crucial, especialmente quando combinada com o ceticismo saudável.
Impacto e alcance
O impacto dos deepfakes vai além da fraude financeira. Eles podem ser usados para manipular opinião pública, interferir em processos eleitorais e danificar reputações. A capacidade de criar conteúdo convincente e indistinguível da realidade é uma ameaça à confiança na mídia e na informação.
Para empresas, o risco inclui a exposição a fraudes corporativas e a necessidade de implementar protocolos de verificação de identidade mais robustos para comunicações sensíveis.
Medidas de mitigação recomendadas
Um bom jeito de não cair no conto das deepfakes é sempre desconfiar. Em um mundo onde vídeos e imagens manipuladas por IA se tornam cada vez mais condizentes com a realidade, ter um senso de ceticismo diante de produções de conteúdo na internet é fundamental para evitar cair em um golpe.
Também é possível fazer uma captura de tela do produto vendido na internet e aplicar uma busca reversa de imagens no Google Lens, que permite ao usuário a descoberta da origem, do contexto ou fotos similares de uma imagem enviada. Ainda é possível pesquisar palavras-chaves ou frases que descrevem o item, verificando a confiança daquele perfil.
Vale ressaltar que prestar atenção aos detalhes do vídeo é uma ação fundamental para analisar piscadas irregulares, sincronia labial estranha, sombras inconsistentes e outros movimentos faciais que pareçam antinaturais.
Implicações para cibersegurança e governança de IA
As organizações devem considerar a implementação de políticas de verificação de identidade para comunicações críticas, como transferências financeiras ou acesso a sistemas sensíveis. A autenticação multifator e a confirmação por canais alternativos são essenciais.
Além disso, a governança de IA deve incluir diretrizes para o uso ético de tecnologias de geração de conteúdo e a responsabilidade das plataformas em detectar e remover deepfakes maliciosos.
Perguntas frequentes
Como saber se um vídeo é um deepfake? Procure por inconsistências físicas, como piscadas irregulares ou sincronia labial estranha, e use múltiplas ferramentas de detecção.
Quais são as melhores práticas para empresas? Implemente protocolos de verificação de identidade para comunicações críticas e treine funcionários para identificar sinais de deepfakes.