O banco BV, em parceria com a Jabuti AGI, alcançou resultados financeiros significativos com iniciativas de inteligência artificial, mas a estratégia também combina acompanhamento de business cases, controle do consumo de tokens, curadoria de dados e mecanismos de segurança para evitar que a expansão da tecnologia aconteça sem retorno mensurável. A experiência, detalhada durante a FEBRABAN TECH, mostra como a segurança deve ser integrada desde o início do desenvolvimento de agentes em escala.
Arquitetura de segurança em camadas
Os mecanismos de segurança foram distribuídos em diferentes etapas da operação. Uma camada de entrada busca identificar tentativas de jailbreak, injeções de prompts, assuntos proibidos e determinadas palavras antes que o conteúdo avance para modelos maiores. Essa primeira filtragem utiliza um modelo menor, evitando inclusive consumo desnecessário de tokens quando a interação deve ser bloqueada. Existe ainda uma camada posterior, utilizada antes da resposta ao cliente, para avaliar se o conteúdo apresenta problemas como toxicidade ou preconceito.
Curadoria de dados e privacidade
A partir desses aprendizados, as empresas desenvolveram uma ferramenta chamada Epaminondas. A solução utiliza inteligência artificial para analisar dados estáticos antes que sejam utilizados pelos modelos, aplicando uma camada de validação ligada à Responsible AI. O objetivo é preparar e guardar informações que estejam adequadas para consumo por sistemas de inteligência artificial. Dentro do BV, esse conteúdo não precisa ser utilizado exclusivamente pela solução da Jabuti. Depois de passar pela camada de preparação, ele também pode alimentar outras aplicações e outros modelos de IA utilizados pelo banco.
Controle de tokens e FinOps
A escala também foi condicionada a uma disciplina financeira. No BV, as iniciativas de inteligência artificial precisam possuir um business case. O trabalho envolveu compreender o consumo de tokens e ajustar a própria dinâmica das conversas. As empresas passaram então a criar filtros para impedir que todo o conteúdo de uma interação precisasse chegar ao modelo e também buscaram maneiras de tornar determinadas conversas mais curtas. O consumo de tokens é acompanhado por uma estrutura de FinOps e rateado entre as áreas.
Identidade não humana e autenticação
Na discussão sobre proteção de dados, o banco defendeu que a chegada da inteligência artificial não elimina práticas de segurança já utilizadas pelas instituições. Entre os exemplos apresentados estão DLP, criptografia de dados em repouso e em trânsito e controle de permissões de acesso. Na operação descrita, os agentes atuam em nome do cliente conectado e as informações sensíveis não são disponibilizadas indiscriminadamente. A lógica é aplicar à nova tecnologia princípios de arquitetura e segurança que já eram utilizados anteriormente.
Testes de carga e infraestrutura
O avanço para uma quantidade maior de clientes criou ainda a necessidade de realizar testes de carga. Em um desses testes, a Jabuti precisava alcançar 100 transações por segundo. Como a startup não possuía inicialmente a mesma cota de tokens e GPU disponível para grandes clientes dos provedores de nuvem, foi criada uma automação para multiplicar o número de contas utilizadas durante o teste. O processo chegou a criar 2.890 contas, permitindo ampliar a capacidade disponível para realizar a avaliação.
Recomendações para CISOs
Os profissionais de segurança devem adotar uma abordagem de shift left para a IA, incorporando segurança, governança, padronização de arquitetura e controles desde as primeiras etapas do projeto. É essencial testar continuamente o comportamento do modelo e estabelecer seus mecanismos de proteção desde a concepção. A observabilidade também assume papel crítico: é preciso determinar onde os agentes serão monitorados e em que momento uma ação deverá ser interrompida para passar por validação humana.
Perguntas frequentes
- Qual o papel da curadoria de dados? Garantir que as informações utilizadas pela IA estejam adequadas e seguras antes de chegarem ao modelo.
- Como controlar o consumo de tokens? Utilizar estruturas de FinOps e criar filtros para evitar interações desnecessárias com o modelo.
- É necessário autenticação para agentes? Sim, cada agente precisa ter sua atuação controlada e monitorada de acordo com sua finalidade.