Contexto e evolução dos agentes autônomos
A inteligência artificial corporativa atravessa uma fase de transição crítica, onde a gestão de agentes isolados dá lugar à orquestração de ecossistemas complexos. O que antes eram sistemas autônomos dedicados a tarefas específicas, como atendimento ao cliente ou processamento de faturas, evoluiu para uma federação de agentes que interagem, negociam e tomam decisões em conjunto. Esse modelo, conhecido como federação de agentes, cria uma nova fronteira de valor, mas também introduz um campo de risco significativo que exige governança robusta.
Segundo a EY, uma das maiores empresas de auditoria e consultoria do mundo, o crescimento acelerado na operação de milhares de sistemas autônomos simultâneos em áreas como atendimento, operações e processos financeiros criou um desafio corporativo urgente: como garantir controle, rastreabilidade e governança sobre agentes de IA que passam a atuar de forma cada vez mais integrada ao negócio. O futuro da IA corporativa não está em agentes isolados, mas em ecossistemas de agentes autônomos que interagem, negociam e tomam decisões em conjunto.
As empresas precisam explorar como a governança precisa evoluir, deixando de ser uma camada de controle e passando a ser parte do design central. O diferencial competitivo não será quem tem mais agentes, mas quem consegue governá-los com clareza, eficiência e confiança. Nesse cenário, a EY desenvolveu um framework para orquestrar ecossistemas de agentes autônomos, criado para apoiar empresas na gestão, supervisão e escalabilidade desses sistemas de IA dentro das organizações.
O risco da proliferação desordenada
Quando as empresas começam a ganhar escala no uso de agentes de IA, a governança deixa de ser opcional. Sem mecanismos adequados de monitoramento e rastreabilidade, os riscos operacionais, financeiros e reputacionais aumentam significativamente. O principal objetivo da federação de agentes é centralizar padrões de desenvolvimento, acessos, permissões, rastreabilidade, accountability e monitoramento, além de controlar a eficiência operacional e o custo.
Esse modelo evita que diferentes áreas da empresa criem agentes de forma isolada, sem integração ou supervisão adequada, mitigando a proliferação desordenada de soluções desconectadas no ambiente corporativo. A implementação começa por um inventário estruturado dos agentes de IA já existentes na organização, identificando responsáveis, funções desempenhadas, dados acessados, permissões e relação entre custo e retorno operacional.
A partir desse mapeamento, a empresa passa a definir padrões tecnológicos e mecanismos comuns de governança para novos desenvolvimentos. O framework também estabelece processos internos para escolha da melhor tecnologia para o desenvolvimento do agente, inventário, ciclo de aprovação, definição clara de responsabilidades e regras estruturadas de acesso aos dados corporativos, dentre outros processos, garantindo maior controle, consistência e governança na operação de agentes de IA.
Orquestração e monitoramento contínuo
O modelo também prevê mecanismos de orquestração capazes de direcionar demandas entre diferentes agentes de IA sem criar gargalos operacionais. Na prática, agentes conseguem encaminhar tarefas entre si de forma coordenada, identificando qual sistema é mais adequado para cada atividade. A estrutura também inclui mecanismos contínuos de supervisão e monitoramento. Segundo a EY, esse tipo de abordagem se torna cada vez mais necessário à medida que os agentes passam a executar atividades críticas dentro das empresas.
Para a EY, a discussão sobre governança ganha relevância em um momento em que os agentes de IA começam a assumir tarefas ligadas a áreas auditáveis das organizações, como contas a pagar, contas a receber, compras e fluxos operacionais. Em empresas sujeitas a estruturas regulatórias e de compliance, a rastreabilidade das ações desses sistemas tende a se tornar cada vez mais necessária.
"O desafio não é apenas criar agentes, mas garantir visibilidade sobre como eles operam, quais sistemas acessam e se estão atuando dentro das regras definidas pela companhia", explica Andrei Graça, sócio-líder de Inteligência Artificial e Dados da EY Brasil.
Implicações regulatórias e compliance
No Brasil, o projeto de regulamentação da IA segue em discussão no Congresso, principalmente em torno do Projeto Lei 2.338/2023, que propõe um marco regulatório para inteligência artificial baseado em risco, governança e responsabilização. Já na União Europeia, o EU AI Act começou a entrar em vigor de forma gradual, com implementação faseada. A avaliação da EY é que as empresas precisarão demonstrar capacidade de monitorar, explicar e auditar decisões tomadas por sistemas autônomos.
"Não se trata apenas de adotar a tecnologia, mas de implementá-la de forma responsável, segura e aderente às exigências regulatórias e de negócios", finaliza Andrei. A governança de agentes de IA torna-se, portanto, um pilar essencial para a conformidade com a LGPD e outras legislações de proteção de dados, especialmente quando os agentes processam informações pessoais em escala.
O que os CISOs devem fazer agora
- Inventário de Agentes: Mapear todos os agentes de IA existentes, identificando responsáveis e funções.
- Definição de Permissões: Estabelecer regras claras de acesso aos dados corporativos para cada agente.
- Monitoramento Contínuo: Implementar mecanismos de supervisão para detectar comportamentos anômalos.
- Orquestração Centralizada: Evitar silos de desenvolvimento e garantir integração entre agentes.
- Rastreabilidade: Garantir que todas as ações dos agentes sejam logadas e auditáveis.
Perguntas frequentes
Qual a diferença entre governança tradicional e governança de agentes?
A governança tradicional foca em controle de acesso e políticas estáticas. A governança de agentes exige monitoramento em tempo real, rastreabilidade de decisões autônomas e adaptação dinâmica às interações entre sistemas.
Como a LGPD impacta a implementação de agentes de IA?
A LGPD exige transparência e responsabilidade no tratamento de dados. Agentes autônomos que processam dados pessoais devem ter suas decisões auditáveis e seus acessos controlados para evitar violações de privacidade.
É possível automatizar a governança de agentes?
Sim, o framework da EY sugere o uso de ferramentas de orquestração que automatizam a aplicação de políticas de segurança e monitoramento, reduzindo a carga manual sobre as equipes de segurança.