Pesquisadores descobriram que o aplicativo móvel “Chat & Ask AI” deixou centenas de milhões de conversas privadas acessíveis por uma falha de configuração em seu backend.
Descoberta e escopo
De acordo com a apuração do veículo Cyber Security News, a exposição ocorreu por uma má configuração na plataforma Google Firebase que permitiu a qualquer pessoa se identificar como um usuário autenticado. O pesquisador que avaliou o ambiente relatou acesso a cerca de 300 milhões de mensagens de mais de 25 milhões de usuários.
O que estava nos dados expostos
O banco de dados exposto continha logs detalhados das sessões, segundo relatos: históricos completos de conversas, timestamps, nomes customizados dados a assistentes, configurações específicas e o tipo de modelo de IA usado (por exemplo ChatGPT, Claude ou Gemini). Uma amostra analisada — 60.000 usuários e 1 milhão de mensagens — mostrou consultas altamente sensíveis, incluindo instruções para fabricar drogas, técnicas de invasão e pedidos de orientação sobre suicídio.
Arquitetura do serviço e responsabilidade
O aplicativo funciona como um “wrapper”: ele não hospeda modelos próprios, mas encaminha usuários a modelos de terceiros e registra as conversas no seu backend. O veículo nota explicitamente que os modelos subjacentes (por exemplo, ChatGPT) não foram comprometidos; a fragilidade esteve no armazenamento do aplicativo que servia como elo fraco.
Impacto e riscos
- Privacidade: conversas contêm PII implícita e explícita e perguntas sensíveis que podem gerar danos reputacionais ou riscos de segurança para usuários.
- Regulação: embora a matéria não destaque notificações a autoridades, a escala do incidente abre potenciais implicações regulatórias em jurisdições que regulam proteção de dados.
- Risco operacional: tokens, configurações e metadados indexados pelo serviço podem facilitar tentativas de engenharia social e abuso de credenciais.
O que se sabe e o que falta
Fonte do relatório afirma que a falha decorreu de permissões padrão do Firebase; não há, na cobertura disponível, comunicação pública do desenvolvedor do aplicativo confirmando número de registros afetados, nem cronologia de quando a exposição foi corrigida. Também não há indicação pública de que chaves de provedores de modelos tenham sido acessadas.
Recomendações (relatadas na matéria)
- Usuários: revisar o que compartilham em apps de terceiros e avaliar reputação/permssões.
- Desenvolvedores: validar regras de segurança do backend (especialmente Firebase), aplicar princípios de menor privilégio e rotacionar tokens e chaves se houver suspeita de comprometimento.
Conclusão: o incidente ilustra que o maior risco em ecossistemas de IA nem sempre está no modelo, mas na infraestrutura em volta dele. A matéria original recomenda cautela no uso de wrappers de terceiros e reforça que controles básicos de configuração de backend são críticos.