Logo E-Commerce Brasil

Muito além do prompt: o desafio de governar agentes de IA

Por: Alessandro Buonopane

Com mais de 34 anos na vanguarda da Tecnologia da Informação, ele é apaixonado por programação desde os 12 anos de idade. Ocupou cargos executivos em empresas nacionais e multinacionais antes de liderar as operações da GFT no Brasil e contribuir para o crescimento da unidade, que alcançou a primeira posição entre todos os mercados globais. Ingressou na empresa em 2015 para trabalhar no setor de seguros e, desde então, sua carreira também abrangeu os setores financeiro e de telecomunicações. Ele lidera uma equipe de mais de 4.000 profissionais focados no desenvolvimento de projetos com as tecnologias mais avançadas. Sua experiência abrange setores como Finanças, Telecomunicações, Seguros, Saúde e Varejo. Ao liderar projetos complexos em ambientes multiplataforma, testemunhou em primeira mão a evolução de métodos e processos. Defensor da transformação digital com uma filosofia centrada nas pessoas, ele acredita que, embora a tecnologia seja a força motriz por trás do desenvolvimento social, os seres humanos são a inovação de maior impacto.

Ver página do autor

Em 2025, a fronteira entre inteligência artificial (IA) generativa e IA agêntica deixou de ser técnica para se tornar estratégica: estamos entrando na era em que sistemas digitais não apenas produzem conteúdo, mas tomam decisões, negociam prioridades, coordenam fluxos e executam tarefas de ponta a ponta. É um salto da assistência para a autonomia que está redefinindo o conceito de produtividade corporativa, porém também introduz desafios inéditos de governança que nenhum executivo pode ignorar. Assim, CEOs são instados a abraçar uma mentalidade capaz de equilibrar ambição e responsabilidade.

Profissional analisando um grande painel digital com visual de IA e um cérebro tecnológico projetado ao fundo.
Imagem: Freepik.

A nova fronteira de eficiência operacional

O avanço das plataformas de agentes autônomos – desde operadores digitais que clicam, digitam e percorrem sistemas, até agentes cognitivos, que planejam, avaliam riscos e aprendem com o ambiente – inaugura um novo vetor de eficiência. Organizações que já combinam modelos generativos com agentes conseguem acelerar desenvolvimento de software, monitorar cadeias de suprimentos, automatizar compliance e redesenhar operações críticas em ritmo inédito. O potencial econômico estimado, que supera US$ 4 trilhões por ano, fala por si.

Mas a mesma autonomia que cria valor amplia riscos. Diferente de ferramentas de IA generativa, que respondem a comandos, agentes podem agir sem supervisão contínua. Eles podem tomar decisões baseadas em dados imperfeitos, aprender padrões distorcidos, interpretar permissões de forma ampla demais ou interagir com outros agentes sem clareza de limites. Surgem fenômenos novos – vazamento não rastreável de dados, escalonamento indevido de privilégios, identidades sintéticas e cadeias de erros que se propagam entre agentes. Para executivos de tecnologia, é uma mudança de paradigma: não estamos mais apenas protegendo sistemas; estamos gerenciando “colaboradores digitais” com autonomia variável.

A governança como arquitetura essencial

É por isso que governança deixa de ser um checklist e se torna arquitetura. A nova disciplina de AI Agent Governance exige que empresas tratem agentes como entidades com ciclo de vida, identidade, permissões e responsabilidade. Envolve separação de ambientes, rastreabilidade de decisões, monitoramento ativo entre agentes, simulações de comportamento em sandbox, e mecanismos de desligamento emergencial. Mais do que nunca, segurança e confiabilidade precisam ser construídas desde o primeiro protótipo, e não remendadas às pressas antes da produção.

Outro ponto crítico é a transparência. O mercado ainda divulga pouca informação sobre testes de segurança, controles de risco ou comportamento de agentes em situações extremas. Para manter confiança organizacional – entre equipes, clientes e reguladores –, é essencial que líderes adotem padrões claros de auditoria, expliquem como decisões automatizadas são tomadas e preservem a capacidade de revisão humana. A irrastreabilidade é o maior inimigo da responsabilidade corporativa.

Os riscos legais também se ampliam. À medida que agentes passam a executar tarefas sensíveis, como aprovar créditos, interagir com dados pessoais e tomar decisões operacionais, surgem perguntas urgentes: quem responde por uma decisão tomada de forma autônoma? Qual é o limite entre delegação digital e responsabilidade humana? Como alinhar esses sistemas a regulações em evolução, como o GDPR, a ECOA, leis municipais de auditoria de viés e futuras normas latino-americanas para agentes autônomos? CEOs precisarão dialogar com suas áreas jurídicas e de risco desde o início.

Na América Latina, a questão central para a liderança não é adotar ou não agentes de IA – isso já é inevitável. A questão é como adotá-los de forma que reforcem a confiança, ampliem a segurança e potencializem o talento humano. Agentes podem ampliar times, reduzir fricções e liberar colaboradores para funções mais analíticas, mas isso só ocorre quando existe uma liderança que define limites, padrões, responsabilidades e mecanismos claros de supervisão. Inovação sem governança não escala; governança sem inovação não transforma.

Para CEOs, o desafio e a oportunidade são simultâneos: construir organizações preparadas para um futuro em que decisões automatizadas convivem com responsabilidade humana, agindo com diligência e intenção agora para construir os guardrails essenciais. É a única forma de garantir que nossos novos “colegas digitais” operem com a integridade e o intento alinhados aos valores e objetivos da organização. A combinação entre IA generativa e IA agêntica pode, sim, ser a maior fonte de eficiência da próxima década, mas apenas para as empresas que tratam confiança como infraestrutura, não como acessório.

O custo da governança antecipada é sempre inferior ao custo de uma falha catastrófica, e ninguém quer se tornar o primeiro caso de estudo de desastre em segurança com IA agêntica.