Hack Alerta

Sem governança, agentes de IA ampliam riscos e comprometem inovação no mercado financeiro

Executivos do setor financeiro alertam para a necessidade de governança sólida na adoção de agentes de IA. A maturidade do mercado depende de modelos de controle e observabilidade para garantir decisões seguras e transparentes.

A inteligência artificial já deixou de ser apenas uma tecnologia de apoio para se tornar parte da operação das instituições financeiras. Agora, com a evolução dos agentes de IA capazes de executar tarefas de forma autônoma, o desafio das empresas passa a ser menos tecnológico e mais estratégico: como garantir que essas decisões ocorram de forma segura, transparente e alinhada às regras do negócio.

Contexto do evento e maturidade do mercado

Durante o evento "Banco 5.0: IA Agêntica no Setor Financeiro – Transformação, Segurança e Inovação", promovido pela TI Inside, em parceria com a Inmetrics e a Datadog, executivos de bancos, fintechs e seguradoras discutiram a evolução do chamado Banco 5.0. Daniel Messias, diretor de Digital Experience da Inmetrics, destacou que a maturidade do mercado dependerá da capacidade das organizações de estabelecer modelos sólidos de governança para a inteligência artificial.

Segundo ele, embora cada empresa esteja em um estágio diferente de adoção, um tema apareceu de forma recorrente em todas as discussões. "Uma coisa que foi comum entre todos foi a preocupação com governança da IA, orquestração e até onde ela pode tomar decisões sozinha. Precisamos ter diretrizes muito claras."

Observabilidade e controle de riscos

Na avaliação do executivo, o conceito de observabilidade ganha um novo significado na era da IA generativa. Não basta apenas monitorar infraestrutura ou desempenho dos sistemas. É necessário compreender como a inteligência artificial chegou a determinada decisão, quais validações realizou durante o processo e, principalmente, garantir que exista a possibilidade de intervenção caso algo saia do esperado.

"Não é apenas uma questão normativa. É uma questão de controle e gestão de risco das próprias empresas", afirma Messias. Essa visão reforça a necessidade de ferramentas que permitam aos CISOs e líderes de segurança rastrear a cadeia de decisão dos agentes de IA, identificando pontos de falha ou desvios de comportamento antes que se tornem incidentes de segurança ou operacionais.

Da transformação interna ao modelo de empresa agêntica

A própria Inmetrics passou por esse processo antes de levá-lo ao mercado. Daniel explica que a companhia reformulou sua operação para atuar como uma empresa agêntica, utilizando a experiência adquirida internamente para orientar clientes que iniciam essa mesma jornada.

O objetivo é apoiar organizações na transição entre processos tradicionais e um novo modelo operacional baseado em agentes inteligentes, oferecendo metodologias, governança e mecanismos para reduzir riscos em ambientes altamente regulados. "Essa jornada nós já percorremos dentro de casa. Hoje conseguimos levar esse conhecimento para os clientes, mostrando como construir processos seguros e preparados para esse novo paradigma."

Velocidade da inovação exige novas estratégias

Para Daniel, outro fator que diferencia o momento atual é a velocidade das transformações tecnológicas. Se antes grandes mudanças levavam anos para acontecer, agora novas capacidades surgem em questão de semanas, reduzindo drasticamente o tempo disponível para adaptação das empresas.

"Hoje, em dois ou três meses, você pode precisar revolucionar sua empresa porque a tecnologia mudou completamente." Esse cenário torna ainda mais importante a existência de processos estruturados de adoção tecnológica. Segundo o executivo, inovar rapidamente deixou de ser suficiente. O diferencial passa a ser inovar de forma organizada e segura.

Ele destaca que o setor financeiro brasileiro possui uma vantagem competitiva justamente por já ter incorporado tecnologia ao centro do negócio. Casos como o Pix demonstram a capacidade do mercado nacional de absorver rapidamente inovações mantendo elevados níveis de confiabilidade.

"O mercado brasileiro de sistemas financeiros é referência mundial porque consegue combinar inovação com controle."

Agentes passam a ocupar funções dentro das empresas

Uma das mudanças mais significativas apontadas por Daniel é a forma como as organizações precisarão administrar agentes inteligentes dentro de suas operações.

Na visão da Inmetrics, esses agentes devem ser tratados como novos papéis organizacionais, cada um com responsabilidades, limites de atuação, objetivos e regras bem definidas.

"Assim como um colaborador possui uma função específica, um agente também precisa ter propósito, regras, objetivos e limites sobre aquilo que pode ou não fazer." Esse modelo facilita a orquestração de múltiplos agentes, amplia a transparência sobre suas atividades e reduz impactos tanto para o negócio quanto para a experiência dos clientes finais.

O próximo desafio será a interação entre agentes

Embora muitas empresas ainda estejam implementando seus primeiros agentes de IA, Daniel acredita que o mercado já começa a caminhar para uma etapa mais avançada: a interação entre agentes de diferentes organizações.

Nesse cenário, aplicações, plataformas e sistemas passarão a negociar informações e executar processos automaticamente entre si, elevando ainda mais a importância de requisitos como segurança, disponibilidade, resiliência e rastreabilidade.

Ao mesmo tempo, ele avalia que a evolução da inteligência artificial ocorrerá em três grandes fases. A primeira busca tornar processos existentes mais rápidos e eficientes. A segunda cria experiências que antes eram impossíveis, como realizar pagamentos por comandos de voz em aplicativos de mensagens. Já a terceira ainda está sendo construída e deverá transformar completamente modelos de negócio.

"Estamos chegando a um momento em que a tecnologia permitirá criar produtos e serviços que hoje nem conseguimos imaginar."

Recomendações para CISOs e executivos

Diante desse cenário, Daniel conclui que o principal investimento das organizações não deve ser apenas na tecnologia mais recente, mas na preparação para absorver continuamente novas soluções sem comprometer segurança, governança ou qualidade operacional.

"Mais importante do que estar usando a tecnologia mais nova é estar preparado para incorporar as próximas inovações sem colocar o negócio em risco." Para os profissionais de segurança, isso implica em revisar os frameworks de governança de IA, implementar ferramentas de observabilidade específicas para modelos de machine learning e estabelecer protocolos de intervenção humana para decisões críticas.

Perguntas frequentes

Qual o papel da IA na segurança do mercado financeiro?
A IA é usada tanto para defesa (detecção de fraudes, análise de ameaças) quanto para ataque (automação de phishing, geração de código malicioso). A governança é essencial para equilibrar esses usos.

Como garantir a segurança dos agentes de IA?
Tratando-os como funcionários, definindo limites de acesso, auditando suas decisões e mantendo supervisão humana em processos críticos.

O que é Banco 5.0?
É o conceito de evolução dos bancos, onde a tecnologia e a inteligência artificial são centrais para a operação, superando a digitalização básica do Banco 4.0.


Baseado em publicação original de TI Inside
Publicado pela Redação Hack Alerta com base em fontes externas citadas e monitoramento editorial do Hack Alerta. Para decisões técnicas, operacionais ou jurídicas, confirme sempre os detalhes na fonte original.