Ecossistema de agentes de IA: para governar é preciso enxergar
Download
E-mail
Enviar
O mercado entra em uma nova fase da Inteligência Artificial. Depois da adoção de copilotos e assistentes baseados em LLMs, as organizações começam a construir ecossistemas compostos por agentes capazes de executar tarefas, tomar decisões, acessar sistemas corporativos, consumir dados e colaborar entre si.
Um problema estrutural, porém, já está emergindo. Segundo o Gartner (2025), mais de 40% dos projetos de IA agêntica poderão ser cancelados até o fim de 2027, não por limitações da tecnologia, mas por custos crescentes, valor de negócio difuso e controles de risco inadequados. O desafio que antes era o de criar agentes passou a ser o de operar e governar ecossistemas compostos por centenas ou milhares deles. Entretanto, como operar e governar de forma efetiva um ecossistema complexo e, para muitas organizações, invisível?
Toda grande transformação tecnológica exigiu uma camada própria de visibilidade. Os ERPs exigiram monitoramento transacional. A cloud exigiu observabilidade distribuída. Os dados exigiram data observability. A cibersegurança exigiu SOCs e SIEMs. A era da IA agêntica exigirá uma nova disciplina, a observabilidade agêntica: a capacidade de compreender, monitorar e governar ecossistemas formados por agentes, humanos, modelos, ferramentas, dados e processos de negócio.
O que as empresas conseguem ver e o que não conseguem
A maioria das organizações responde bem a perguntas de inventário. Quantos modelos utilizamos? Quanto gastamos com IA? Quais plataformas estão implantadas? São perguntas de estoque, e os sistemas atuais foram desenhados para respondê-las.
Poucas, no entanto, conseguem responder às perguntas que realmente importam quando o ambiente passa a se comportar de forma autônoma. Quantos agentes estão ativos agora em cada área de negócio? Quais geram valor, e quanto valor? Quais acessam dados críticos? Se um modelo de LLM for atualizado, quais agentes serão impactados e que medidas mitigam esse impacto? Qual foi a cadeia de decisão que levou a determinada ação? Onde estão os maiores riscos e os maiores custos, por agente, por usuário, por área? Quais políticas foram violadas e quais os possíveis impactos?
Sem essa visibilidade, executivos ficam sem condições de responder a uma pergunta mais fundamental. Estamos governando nossa força de trabalho digital, ou apenas esperando que ela funcione?
A pergunta não é retórica. O Stanford HAI (2026) registrou 362 incidentes documentados de IA em 2025, contra 233 em 2024, casos em que sistemas causaram dano, falharam em produção ou produziram resultados não intencionais. As falhas crescem na mesma velocidade da implantação. E o mesmo relatório aponta uma assimetria reveladora: embora a adoção de IA já alcance 88% das organizações em ao menos uma função, a implantação de agentes autônomos permanece em dígito único na maioria das áreas de negócio. A intenção corre à frente da maturidade de governança.
Por que a governança agêntica é um problema sistêmico
A governança de agentes não pode ser desenhada para componentes isolados. Ela precisa ser desenhada para ecossistemas, considerando ao mesmo tempo humanos, agentes, LLMs, ferramentas, MCP servers, APIs, dados, processos, custos, políticas e decisões. Nenhum desses elementos se comporta de forma independente, e é exatamente a interação entre eles que produz risco e valor.
O caráter sistêmico do desafio se traduz diretamente em resultado de negócio. Em governança, a observabilidade permite compreender quem fez o quê, quando, por quê e com base em quais informações. Em segurança, permite identificar acessos indevidos, comportamentos anômalos e violações de política. Em gestão de custos, torna rastreável o consumo de tokens, modelos, ferramentas e recursos computacionais. Em eficiência operacional, revela gargalos, redundâncias e fluxos mal desenhados. Em adoção, mostra quais agentes são de fato utilizados e quais geram pouco valor. E em escalabilidade, fornece os mecanismos para uma expansão controlada, e não improvisada.
O setor financeiro oferece o exemplo mais nítido dessa exigência. Em concessão de crédito, um agente que avalia risco e age de forma autônoma precisa explicar a lógica de cada decisão, sob pena de violar requisitos regulatórios e de minar a confiança. O WEF (2025) observa que a avaliação tradicional de IA, centrada em benchmarks de modelo, é insuficiente para agentes, porque um agente não é um modelo estático: é um sistema composto por modelos, ferramentas, memória, loops de feedback e interações, operando em ambientes variáveis. O Fórum recomenda que cada agente seja integrado à organização com o mesmo rigor de um novo colaborador, com papel definido, salvaguardas e supervisão estruturada. É uma forma elegante de dizer que ninguém deveria contratar um funcionário que não se sabe como observar.
A tensão central: mais agentes ou mais compreensão
Aqui reside o paradoxo que define esta fase. A pressão competitiva empurra as empresas a multiplicar agentes com rapidez, enquanto a capacidade de compreender o que esses agentes fazem cresce em ritmo muito mais lento. O WEF (2025) aponta que 82% dos executivos planejam adotar agentes nos próximos um a três anos, e é justamente a distância entre a velocidade da experimentação e a maturidade da supervisão que amplia o risco.
Vale notar que a maioria das falhas previstas pelo Gartner não decorre de modelos ruins. Decorre de custos, valor difuso e controle inadequado, ou seja, de problemas de visibilidade e governança, não de capacidade técnica. A organização que não enxerga seu ecossistema tende a descobrir tarde demais que estava escalando aquilo que deveria ter desativado.
A observabilidade não tem como finalidade eliminar a incerteza. Sistemas autônomos sempre conterão algum grau de imprevisibilidade, e prometer o contrário seria ingênuo. O objetivo é tornar a incerteza visível e gerenciável, deslocando-a do território do acaso para o território da decisão.
Na era da IA agêntica, a vantagem competitiva caberá a quem compreende melhor o comportamento dos próprios ecossistemas de agentes, e não a quem simplesmente acumula mais deles.
Conclusão executiva
A adoção de agentes não está mais em discussão nos conselhos. O mercado já a tornou inevitável. O que permanece em discussão é a arquitetura: a que está sendo construída hoje poderá ser observada, explicada e governada amanhã, quando a quantidade de agentes tornar a supervisão manual impossível?
Historicamente, as camadas de visibilidade foram tratadas como investimento secundário, algo a ser adicionado depois que a tecnologia provasse seu valor. O dado do Gartner sugere que, no caso dos agentes, essa sequência se inverte: a ausência de visibilidade é uma das principais causas do fracasso, não uma consequência dele. A maturidade, nesse cenário, não se mede pela ousadia da adoção, mas pela honestidade com que a organização consegue responder o que seus agentes estão fazendo, a que custo e com qual risco.
Quando um ecossistema de agentes passa a operar na velocidade e na escala que a tecnologia permite, decidindo, consumindo recursos e tocando dados críticos sem supervisão direta, a liderança ainda consegue enxergar onde está o risco, onde está o custo e onde está o valor? A resposta a essa pergunta define a diferença entre conduzir uma força de trabalho digital e apenas conviver com ela.
Referências bibliográficas
Gartner (2025) — Previsão de que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, por custos crescentes, valor de negócio difuso e controles de risco inadequados. Press release oficial: https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
Stanford HAI (2026) — AI Index Report 2026. Fonte dos dados de 362 incidentes documentados de IA em 2025 (contra 233 em 2024), adoção de IA em 88% das organizações e implantação de agentes autônomos em dígito único na maioria das funções de negócio. Relatório: https://hai.stanford.edu/ai-index/2026-ai-index-report Capítulo de economia (dados de adoção e deployment de agentes): https://hai.stanford.edu/ai-index/2026-ai-index-report/economy
WEF (2025) — AI Agents in Action: Foundations for Evaluation and Governance (World Economic Forum, em colaboração com a Capgemini). Fonte do dado de que 82% dos executivos planejam adotar agentes nos próximos um a três anos, da distinção entre agente e modelo estático, e da recomendação de integrar cada agente com o rigor de um novo colaborador.
Publicação:
https://www.weforum.org/publications/ai-agents-in-action-foundations-for-evaluation-and-governance/
PDF do relatório: https://reports.weforum.org/docs/WEF_AI_Agents_in_Action_
Foundations_for_Evaluation_and_Governance_2025.pdf
Artigo de apoio sobre onboarding e governança de agentes: https://www.weforum.org/stories/2025/12/ai-agents-onboarding-governance/
WEF (2025) — Contexto setorial de serviços financeiros, incluindo a exigência de explicabilidade em concessão de crédito (credit underwriting). How Agentic AI will transform financial services: https://www.weforum.org/stories/2024/12/
agentic-ai-financial-services-autonomy-efficiency-and-inclusion/ Artificial Intelligence in Financial Services
(white paper, jan/2025)
Observação editorial: o relatório do Stanford HAI é citado no texto como “2026” porque é essa a edição que traz os números de incidentes de 2025 e a constatação sobre a adoção rasa de agentes.
O post Ecossistema de agentes de IA: para governar é preciso enxergar apareceu primeiro em MIT Technology Review - Brasil.
Enviar
O mercado entra em uma nova fase da Inteligência Artificial. Depois da adoção de copilotos e assistentes baseados em LLMs, as organizações começam a construir ecossistemas compostos por agentes capazes de executar tarefas, tomar decisões, acessar sistemas corporativos, consumir dados e colaborar entre si.
Um problema estrutural, porém, já está emergindo. Segundo o Gartner (2025), mais de 40% dos projetos de IA agêntica poderão ser cancelados até o fim de 2027, não por limitações da tecnologia, mas por custos crescentes, valor de negócio difuso e controles de risco inadequados. O desafio que antes era o de criar agentes passou a ser o de operar e governar ecossistemas compostos por centenas ou milhares deles. Entretanto, como operar e governar de forma efetiva um ecossistema complexo e, para muitas organizações, invisível?
Toda grande transformação tecnológica exigiu uma camada própria de visibilidade. Os ERPs exigiram monitoramento transacional. A cloud exigiu observabilidade distribuída. Os dados exigiram data observability. A cibersegurança exigiu SOCs e SIEMs. A era da IA agêntica exigirá uma nova disciplina, a observabilidade agêntica: a capacidade de compreender, monitorar e governar ecossistemas formados por agentes, humanos, modelos, ferramentas, dados e processos de negócio.
O que as empresas conseguem ver e o que não conseguem
A maioria das organizações responde bem a perguntas de inventário. Quantos modelos utilizamos? Quanto gastamos com IA? Quais plataformas estão implantadas? São perguntas de estoque, e os sistemas atuais foram desenhados para respondê-las.
Poucas, no entanto, conseguem responder às perguntas que realmente importam quando o ambiente passa a se comportar de forma autônoma. Quantos agentes estão ativos agora em cada área de negócio? Quais geram valor, e quanto valor? Quais acessam dados críticos? Se um modelo de LLM for atualizado, quais agentes serão impactados e que medidas mitigam esse impacto? Qual foi a cadeia de decisão que levou a determinada ação? Onde estão os maiores riscos e os maiores custos, por agente, por usuário, por área? Quais políticas foram violadas e quais os possíveis impactos?
Sem essa visibilidade, executivos ficam sem condições de responder a uma pergunta mais fundamental. Estamos governando nossa força de trabalho digital, ou apenas esperando que ela funcione?
A pergunta não é retórica. O Stanford HAI (2026) registrou 362 incidentes documentados de IA em 2025, contra 233 em 2024, casos em que sistemas causaram dano, falharam em produção ou produziram resultados não intencionais. As falhas crescem na mesma velocidade da implantação. E o mesmo relatório aponta uma assimetria reveladora: embora a adoção de IA já alcance 88% das organizações em ao menos uma função, a implantação de agentes autônomos permanece em dígito único na maioria das áreas de negócio. A intenção corre à frente da maturidade de governança.
Por que a governança agêntica é um problema sistêmico
A governança de agentes não pode ser desenhada para componentes isolados. Ela precisa ser desenhada para ecossistemas, considerando ao mesmo tempo humanos, agentes, LLMs, ferramentas, MCP servers, APIs, dados, processos, custos, políticas e decisões. Nenhum desses elementos se comporta de forma independente, e é exatamente a interação entre eles que produz risco e valor.
O caráter sistêmico do desafio se traduz diretamente em resultado de negócio. Em governança, a observabilidade permite compreender quem fez o quê, quando, por quê e com base em quais informações. Em segurança, permite identificar acessos indevidos, comportamentos anômalos e violações de política. Em gestão de custos, torna rastreável o consumo de tokens, modelos, ferramentas e recursos computacionais. Em eficiência operacional, revela gargalos, redundâncias e fluxos mal desenhados. Em adoção, mostra quais agentes são de fato utilizados e quais geram pouco valor. E em escalabilidade, fornece os mecanismos para uma expansão controlada, e não improvisada.
O setor financeiro oferece o exemplo mais nítido dessa exigência. Em concessão de crédito, um agente que avalia risco e age de forma autônoma precisa explicar a lógica de cada decisão, sob pena de violar requisitos regulatórios e de minar a confiança. O WEF (2025) observa que a avaliação tradicional de IA, centrada em benchmarks de modelo, é insuficiente para agentes, porque um agente não é um modelo estático: é um sistema composto por modelos, ferramentas, memória, loops de feedback e interações, operando em ambientes variáveis. O Fórum recomenda que cada agente seja integrado à organização com o mesmo rigor de um novo colaborador, com papel definido, salvaguardas e supervisão estruturada. É uma forma elegante de dizer que ninguém deveria contratar um funcionário que não se sabe como observar.
A tensão central: mais agentes ou mais compreensão
Aqui reside o paradoxo que define esta fase. A pressão competitiva empurra as empresas a multiplicar agentes com rapidez, enquanto a capacidade de compreender o que esses agentes fazem cresce em ritmo muito mais lento. O WEF (2025) aponta que 82% dos executivos planejam adotar agentes nos próximos um a três anos, e é justamente a distância entre a velocidade da experimentação e a maturidade da supervisão que amplia o risco.
Vale notar que a maioria das falhas previstas pelo Gartner não decorre de modelos ruins. Decorre de custos, valor difuso e controle inadequado, ou seja, de problemas de visibilidade e governança, não de capacidade técnica. A organização que não enxerga seu ecossistema tende a descobrir tarde demais que estava escalando aquilo que deveria ter desativado.
A observabilidade não tem como finalidade eliminar a incerteza. Sistemas autônomos sempre conterão algum grau de imprevisibilidade, e prometer o contrário seria ingênuo. O objetivo é tornar a incerteza visível e gerenciável, deslocando-a do território do acaso para o território da decisão.
Na era da IA agêntica, a vantagem competitiva caberá a quem compreende melhor o comportamento dos próprios ecossistemas de agentes, e não a quem simplesmente acumula mais deles.
Conclusão executiva
A adoção de agentes não está mais em discussão nos conselhos. O mercado já a tornou inevitável. O que permanece em discussão é a arquitetura: a que está sendo construída hoje poderá ser observada, explicada e governada amanhã, quando a quantidade de agentes tornar a supervisão manual impossível?
Historicamente, as camadas de visibilidade foram tratadas como investimento secundário, algo a ser adicionado depois que a tecnologia provasse seu valor. O dado do Gartner sugere que, no caso dos agentes, essa sequência se inverte: a ausência de visibilidade é uma das principais causas do fracasso, não uma consequência dele. A maturidade, nesse cenário, não se mede pela ousadia da adoção, mas pela honestidade com que a organização consegue responder o que seus agentes estão fazendo, a que custo e com qual risco.
Quando um ecossistema de agentes passa a operar na velocidade e na escala que a tecnologia permite, decidindo, consumindo recursos e tocando dados críticos sem supervisão direta, a liderança ainda consegue enxergar onde está o risco, onde está o custo e onde está o valor? A resposta a essa pergunta define a diferença entre conduzir uma força de trabalho digital e apenas conviver com ela.
Referências bibliográficas
Gartner (2025) — Previsão de que mais de 40% dos projetos de IA agêntica serão cancelados até o fim de 2027, por custos crescentes, valor de negócio difuso e controles de risco inadequados. Press release oficial: https://www.gartner.com/en/newsroom/press-releases/2025-06-25-gartner-predicts-over-40-percent-of-agentic-ai-projects-will-be-canceled-by-end-of-2027
Stanford HAI (2026) — AI Index Report 2026. Fonte dos dados de 362 incidentes documentados de IA em 2025 (contra 233 em 2024), adoção de IA em 88% das organizações e implantação de agentes autônomos em dígito único na maioria das funções de negócio. Relatório: https://hai.stanford.edu/ai-index/2026-ai-index-report Capítulo de economia (dados de adoção e deployment de agentes): https://hai.stanford.edu/ai-index/2026-ai-index-report/economy
WEF (2025) — AI Agents in Action: Foundations for Evaluation and Governance (World Economic Forum, em colaboração com a Capgemini). Fonte do dado de que 82% dos executivos planejam adotar agentes nos próximos um a três anos, da distinção entre agente e modelo estático, e da recomendação de integrar cada agente com o rigor de um novo colaborador.
Publicação:
https://www.weforum.org/publications/ai-agents-in-action-foundations-for-evaluation-and-governance/
PDF do relatório: https://reports.weforum.org/docs/WEF_AI_Agents_in_Action_
Foundations_for_Evaluation_and_Governance_2025.pdf
Artigo de apoio sobre onboarding e governança de agentes: https://www.weforum.org/stories/2025/12/ai-agents-onboarding-governance/
WEF (2025) — Contexto setorial de serviços financeiros, incluindo a exigência de explicabilidade em concessão de crédito (credit underwriting). How Agentic AI will transform financial services: https://www.weforum.org/stories/2024/12/
agentic-ai-financial-services-autonomy-efficiency-and-inclusion/ Artificial Intelligence in Financial Services
(white paper, jan/2025)
Observação editorial: o relatório do Stanford HAI é citado no texto como “2026” porque é essa a edição que traz os números de incidentes de 2025 e a constatação sobre a adoção rasa de agentes.
O post Ecossistema de agentes de IA: para governar é preciso enxergar apareceu primeiro em MIT Technology Review - Brasil.
Artigo originalmente publicado em
mittechreview.com.br