Descoberta e escopo da vulnerabilidade
A adoção de inteligência artificial generativa começa a entrar em uma nova etapa no mercado financeiro. Depois de um primeiro ciclo marcado pela experimentação com grandes modelos de linguagem e interfaces conversacionais, o avanço de agentes capazes de executar tarefas, interagir com sistemas e coordenar outros agentes coloca governança, segurança e controle financeiro no centro da estratégia das empresas.
Durante a FEBRABAN TECH, Eduardo Mato Amorin, VP of Technology da Nuclea, e Cecílio Cosac Fraguas, CEO da Jabuti AGI, discutiram com a TI Inside os desafios para transformar projetos experimentais de IA em aplicações capazes de operar em escala. A conversa mostrou que fazer um agente funcionar já não representa necessariamente a parte mais difícil do processo.
O desafio passa a ser estabelecer limites para sua atuação, acompanhar seu desempenho, controlar quanto ele custa e garantir supervisão humana à medida que ganha autonomia. A discussão ganha ainda mais relevância no setor financeiro e de pagamentos, no qual novas tecnologias passam a operar sobre ambientes que movimentam dinheiro e ativos.
O que mudou agora
Nesse contexto, parte das práticas necessárias para proteger a IA não precisa necessariamente ser criada do zero. O setor acumulou experiências em diferentes ondas tecnológicas, da adoção de serviços à computação em nuvem, que agora podem ser aplicadas à inteligência artificial. Ainda assim, existe uma diferença importante entre colocar uma prova de conceito em funcionamento e transformar agentes em componentes efetivos da operação.
Na experimentação, é possível limitar usuários, escopo e orçamento. Quando a tecnologia começa a atender clientes e participar de processos críticos, porém, passa a ser necessário acompanhar não apenas segurança, mas também qualidade das respostas, alucinações, desempenho e consumo de recursos.
Impacto e alcance
Uma das formas encontradas pela Nuclea para acompanhar essa nova força de trabalho digital foi criar internamente uma categoria chamada de "salário do agente". A lógica é acompanhar quanto cada agente custa, quantos tokens consome, sua performance e eventuais alucinações. A estrutura pode envolver inclusive agentes responsáveis pela supervisão de outros agentes.
Isso, porém, não elimina a participação humana. A visão apresentada durante a conversa é de que deve existir uma pessoa supervisionando diretamente o agente ou, ao menos, o agente responsável por supervisionar os demais. A performance passa, assim, a ser acompanhada como parte da própria governança da operação.
O controle financeiro começa ainda antes da escala. Na Nuclea, a experimentação com IA generativa foi acompanhada desde o início por cotas de consumo. A medida reduz parte da liberdade dos times, mas impede que experimentos consumam em poucos meses o orçamento de tokens planejado para um ano inteiro.
Repercussão e implicações regulatórias
A partir daí, o retorno pode ser colocado na conta: quanto de eficiência determinada aplicação trouxe, quantas horas foram economizadas, quanto de custo foi reduzido e quanto foi necessário gastar para produzir esse resultado. É uma aproximação que carrega aprendizados de FinOps e da própria evolução da nuvem, mas que ganha complexidade diante das diferentes estruturas de precificação dos fornecedores e das diferenças de consumo entre modelos.
A discussão sobre retorno também passa pela própria função que os agentes deverão exercer. A primeira onda da IA generativa colocou enorme atenção sobre interfaces conversacionais, especialmente pela capacidade dos modelos de produzir textos com grande naturalidade. A próxima etapa, entretanto, tende a ir além do chatbot.
A infraestrutura que hoje permite a um agente conversar com um cliente por WhatsApp, por exemplo, pode também ser utilizada para executar ações complexas dentro dos sistemas das empresas. Isso abre caminho para uma mudança maior na forma como produtos e serviços digitais são construídos.
Medidas de mitigação recomendadas
Em um cenário mais avançado, sistemas de inteligência agêntica poderão receber uma meta de negócio e desenvolver uma estratégia para alcançá-la. Isso pode envolver escolher canais de contato, executar ações, acompanhar indicadores, testar hipóteses e utilizar os resultados para retroalimentar o próprio processo.
A expectativa discutida no encontro é de que, dentro dos próximos anos, os chamados feedback loops ganhem espaço e aproximem a IA agêntica diretamente dos resultados de negócio. A mudança significa deixar para trás uma visão na qual inteligência artificial é apenas uma interface conversacional e avançar para sistemas que efetivamente atuam sobre processos.
Essa evolução traz, entretanto, um desafio econômico que diferencia empresas baseadas em IA de gerações anteriores de negócios digitais. Tradicionalmente, uma startup de software espera aumentar sua margem conforme cresce sua base de clientes e dilui os custos de infraestrutura. Com modelos fundacionais, essa dinâmica pode ser diferente.
O que os CISOs devem fazer imediatamente
Quanto maior a utilização, maior também pode ser o consumo de tokens. Por isso, reduzir a quantidade de tokens necessária para realizar uma tarefa passa a fazer parte da própria engenharia do produto. Integrações, arquiteturas e protocolos precisam ser avaliados não apenas por sua capacidade técnica, mas pelo impacto financeiro que produzem quando chegam à escala.
Essa busca pode se tornar um fator competitivo relevante. Empresas capazes de executar as mesmas jornadas utilizando menos tokens podem ganhar vantagem de preço e reduzir a dependência dos modelos fundacionais mais sofisticados e caros. As que não conseguirem resolver essa equação correm o risco de encontrar dificuldades justamente quando seus produtos começarem a ganhar volume.
Uma das respostas para esse problema pode estar em abandonar a ideia de utilizar sempre o modelo mais poderoso disponível. A tendência discutida durante o bate-papo é construir estruturas capazes de selecionar modelos de acordo com a complexidade de cada jornada.
Perguntas frequentes
Qual o risco de segurança dos agentes de IA? Podem gerar riscos de segurança, ultrapassar limites financeiros ou produzir decisões inadequadas sem supervisão.
É necessário manter supervisão humana? Sim, a presença humana continua aparecendo como elemento necessário para estabelecer limites e avaliar desempenho.
Como controlar custos de IA? Implementar cotas de consumo e monitorar o "salário do agente" em tokens e performance.