Inteligência artificial exige novos modelos de governança e segurança
A corrida pela adoção de inteligência artificial e automação no sistema financeiro está abrindo uma nova fronteira nas estruturas de governança. Se, por um lado, a tecnologia permite ganhos de eficiência e maior capacidade de análise, por outro, também cria vulnerabilidades relacionadas a compliance, segurança cibernética, gestão de riscos, auditoria e responsabilização dos executivos.
Governança se torna prioridade
À medida que algoritmos passam a assumir funções cada vez mais relevantes nas operações financeiras, cresce também a preocupação de reguladores em relação à transparência, à rastreabilidade e à responsabilização pelas decisões tomadas por sistemas automatizados. Nesse contexto, áreas de compliance, auditoria interna e gestão de riscos passam por uma transformação estrutural.
A tendência é a ampliação de mecanismos de monitoramento contínuo e de auditorias em tempo real, especialmente em operações de alta velocidade, como os pagamentos instantâneos. "A automação sem governança pode aumentar o risco em vez de reduzi-lo. Não basta implementar inteligência artificial; é preciso definir responsabilidades, monitorar os resultados e entender como essas decisões estão sendo tomadas", destaca Elias Zoghbi, líder da Indústria Financeira e de Consultoria Tecnológica da Grant Thornton.
O novo desafio da segurança cibernética
A digitalização dos serviços financeiros também amplia a superfície de ataque para crimes cibernéticos. Com operações cada vez mais rápidas e digitais, o tempo disponível para identificar e responder a fraudes diminui drasticamente.
"Nas operações financeiras, os riscos se propagam em questão de segundos. Isso exige capacidade de detecção em tempo real e uma integração ainda maior entre as áreas de tecnologia, risco e segurança. Nesse cenário, a evolução dos criminosos acontece cada vez mais rápido, aumentando o grau de sofisticação dos ataques e tornando a disputa tecnológica ainda mais complexa", afirma Zoghbi.
O setor já apresenta grande maturidade no tema e, mesmo assim, vivencia um novo estágio, no qual a inovação e os mecanismos de controle precisarão avançar em ritmo mais acelerado do que as próprias regulamentações. "Estamos caminhando para um cenário de 'IA contra IA'. As instituições precisarão utilizar inteligência artificial para monitorar, auditar e controlar outras aplicações de IA. O monitoramento contínuo se torna realidade, e essa tecnologia deixa de ser apenas uma ferramenta de eficiência para fazer parte da própria gestão de riscos", afirma.
O risco do investimento sem estratégia
Apesar do entusiasmo em torno da IA, muitas organizações ainda enfrentam dificuldades para definir objetivos claros e mensurar o retorno sobre os investimentos realizados. Segundo Zoghbi, existe o risco de repetir um movimento observado nos últimos anos com a computação em nuvem, quando empresas aceleraram investimentos sem uma estratégia clara de geração de valor.
Além do impacto financeiro, a falta de capacitação das lideranças pode comprometer a adoção responsável da tecnologia e aumentar riscos operacionais e de exposição de dados sensíveis. "Estamos em um momento de forte investimento em inteligência artificial, mas também veremos uma fase de maior racionalização. Muitas empresas ainda não sabem exatamente qual problema estão tentando resolver com IA, e isso pode gerar custos elevados sem retorno proporcional", diz.
Um novo modelo operacional para os bancos
A hiperautomação transformou as atividades de back office, mas ainda apresenta grande potencial para reduzir erros e aumentar a eficiência operacional. Para o especialista, no entanto, o sucesso dessas iniciativas depende de um alinhamento claro com a estratégia do negócio. "Implementações mal planejadas podem produzir o efeito contrário e prejudicar a experiência do cliente. A tecnologia precisa ser utilizada para fortalecer a operação e melhorar a jornada do usuário, e não apenas para reduzir custos", afirma.
Com essas mudanças, os bancos precisarão revisar seus modelos de gestão de riscos, incorporando novas vulnerabilidades e redefinindo a forma de identificar e monitorar ameaças. "A substituição de modelos tradicionais de análise por ecossistemas cada vez mais baseados em inteligência artificial muda completamente a dinâmica da gestão de riscos no setor financeiro. O desafio agora é garantir que a inovação aconteça com segurança, governança e responsabilidade", conclui Zoghbi.
O que os CISOs devem fazer imediatamente
- Revisar os modelos de governança de IA existentes e estabelecer políticas claras de uso.
- Implementar monitoramento contínuo de sistemas de IA para detectar anomalias e comportamentos inesperados.
- Integrar equipes de segurança cibernética, risco e compliance em projetos de automação desde o início.
- Capacitar lideranças para entender os riscos operacionais e de segurança associados à IA.
- Estabelecer mecanismos de auditoria em tempo real para operações de alta velocidade.