Quando a IA vigia a IA

Download E-mail Enviar A Inteligência Artificial passou a ocupar um lugar central nas estratégias de cibersegurança das organizações. Esse movimento não ocorre apenas porque empresas adotam novas ferramentas para automatizar tarefas ou acelerar investigações. A razão é mais profunda: a mesma tecnologia que amplia a capacidade de defesa também contribui para aumentar a escala, a velocidade e a sofisticação dos ataques. Ferramentas de IA Generativa já são usadas para criar campanhas de phishing mais convincentes, automatizar etapas da engenharia social e acelerar o desenvolvimento de códigos maliciosos. O resultado é um ambiente digital que produz um volume crescente de eventos, alertas e interações, responsáveis por pressionar equipes de segurança a lidar, ao mesmo tempo, com mais ameaças, mais dados e menos tempo de resposta. O estudo “A ascensão da IA agêntica”, publicado em 2025 pelo Capgemini Research Institute, aponta que apenas 2% das organizações conseguem escalar agentes inteligentes de forma efetiva, evidenciando o desafio de transformar potencial tecnológico em operação real, apesar dos avanços em Inteligência Artificial. Diante desse cenário, as equipes de segurança são pressionadas a lidar, ao mesmo tempo, com mais ameaças, mais dados e menos tempo de resposta. “Estamos entrando em um momento em que a IA deixa de ser apenas um instrumento de apoio e passa a atuar como agente ativo dentro das operações de segurança. Isso exige não apenas tecnologia mais avançada, mas uma mudança na forma como as organizações estruturam governança, processos e tomada de decisão”, afirma Matheus Valença, Diretor de Cibersegurança & Plataformas Cloud da Capgemini. Esse foi um dos temas centrais discutidos durante o encontro “A nova era da cibersegurança: IA agêntica no SOC, nas identidades e nas aplicações”, realizado pela MIT Technology Review Brasil, em parceria com a Capgemini. Reunindo lideranças dos setores de seguros, saúde, indústria e bens de consumo, o debate evidenciou uma percepção compartilhada entre diferentes segmentos: a IA amplia escala e sofisticação de ataques, ainda que phishing, engenharia social e malware não dependam exclusivamente dela. Automação com contexto Os centros de operações de segurança foram concebidos para monitorar eventos, identificar comportamentos suspeitos e responder a incidentes. Com a expansão dos ambientes digitais, porém, a quantidade de sinais produzidos pelas organizações passou a crescer mais rapidamente do que a capacidade humana de analisá-los. Foi esse cenário que levou organizações a investir em modelos mais autônomos de operação. Rafael Nardi, gerente de Segurança da Informação e Privacidade de Dados da Alper Seguros, relatou que a consolidação de diferentes ferramentas em um SOC autônomo permitiu ampliar de forma significativa a visibilidade sobre o ambiente tecnológico da companhia. Segundo o executivo, a integração entre soluções antes dispersas tornou possível distinguir riscos efetivamente relevantes de eventos sem impacto real para o negócio. A redução de falsos positivos diminuiu a fadiga operacional das equipes e abriu espaço para uma atuação mais estratégica. Em vez de concentrar esforços na análise de logs e alertas isolados, os profissionais passaram a dedicar mais tempo à compreensão dos incidentes, de seus contextos e de suas possíveis consequências para a organização. A experiência dialoga com uma discussão cada vez mais presente no universo da Inteligência Artificial: a ascensão dos chamados sistemas agênticos. Em guia publicado pela CSAIL Alliances, iniciativa ligada ao MIT Computer Science and Artificial Intelligence Laboratory (CSAIL), a IA agêntica é apresentada como uma evolução dos modelos generativos tradicionais. Enquanto sistemas de IA Generativa são voltados principalmente para produzir conteúdo, agentes inteligentes são projetados para perseguir objetivos específicos, tomar decisões e executar ações de forma mais autônoma dentro de determinados contextos. Essa distinção ajuda a compreender por que a tecnologia vem ganhando espaço em operações de segurança. Ambientes corporativos produzem um volume crescente de sinais, eventos e alertas que exigem correlação, priorização e resposta em tempo real. Nesse cenário, a capacidade de agir sobre informações, e não apenas interpretá-las, torna-se um diferencial relevante para ampliar a eficiência operacional. O ganho, portanto, não está apenas na velocidade de processamento. A principal mudança ocorre quando a automação deixa de ser usada para substituir tarefas humanas e passa a ampliar a capacidade analítica das equipes, permitindo que profissionais concentrem esforços na interpretação de contexto, na avaliação de riscos e na tomada de decisões. Os limites da autonomia A presença crescente da Inteligência Artificial nas organizações também está transformando a maneira como a segurança se relaciona com o negócio. Se, em outros momentos, a área era frequentemente percebida como uma instância de controle responsável por impor restrições, hoje a expectativa é que atue como facilitadora da inovação. Antonio Sant’Ana, gerente sênior de Segurança da Informação e Operações de Tecnologia da Care Plus, defende que a adoção de tecnologias emergentes exige estruturas de governança capazes de acompanhar a velocidade das mudanças sem comprometer a gestão de riscos. Para ele, a discussão deixou de estar centrada na possibilidade de usar ou não Inteligência Artificial. O desafio passa a ser identificar riscos, estabelecer mecanismos de controle e criar condições para que novas iniciativas avancem de forma segura. A questão ganha relevância adicional em setores altamente regulados. No segmento de saúde, a proteção de dados clínicos convive com preocupações relacionadas a informações estratégicas e à continuidade operacional. A necessidade de equilibrar inovação e conformidade faz da governança um elemento inseparável das decisões tecnológicas. A discussão sobre governança acompanha um debate mais amplo sobre a própria regulação da Inteligência Artificial. No artigo Auditing of AI: Legal, Ethical and Technical Approaches (2023), o pesquisador Jakob Mökander analisa diferentes mecanismos que vêm sendo considerados para disciplinar o uso dessas tecnologias, incluindo auditorias independentes, requisitos de transparência, certificações, responsabilização legal e estruturas específicas de supervisão. A análise reforça uma percepção cada vez mais presente no ambiente corporativo: à medida que sistemas inteligentes passam a influenciar processos críticos, mecanismos de controle deixam de ser apenas uma exigência regulatória e passam a integrar a estratégia de gestão de risco das organizações. O avanço da IA, portanto, amplia a importância da governança. Quanto mais sofisticadas se tornam as capacidades tecnológicas, maior é a necessidade de estruturas que orientem seu uso e definam responsabilidades. Humanos no circuito Embora a conversa tenha começado pela automação, ela rapidamente convergiu para um tema recorrente nas falas dos participantes: pessoas. Cleber Ferreira, responsável pela área de Segurança Cibernética da Klabin, argumentou que a Inteligência Artificial não pode ser tratada como um assunto restrito à tecnologia ou à segurança. Seu impacto alcança áreas tão distintas quanto as operações industriais, as finanças, o jurídico e a gestão corporativa. Diante dessa abrangência, a formação de grupos multidisciplinares torna-se fundamental para discutir adoção, riscos, custos e oportunidades. Na avaliação do executivo, a principal transformação não está apenas nas ferramentas, mas no perfil dos profissionais que irão trabalhar ao lado delas. O crescimento da automação exige processos contínuos de upskilling e reskilling para que as equipes desenvolvam capacidade analítica, senso crítico e compreensão de contexto. Em vez de reagir mecanicamente a alertas, os especialistas passam a interpretar cenários, investigar causas e compreender impactos sobre o negócio. Essa mudança de papel ajuda a explicar por que o letramento em Inteligência Artificial apareceu como um dos temas mais recorrentes do encontro. À medida que sistemas passam a participar de decisões cada vez mais relevantes para as operações, cresce também a necessidade de profissionais capazes de compreender seus limites, questionar resultados, identificar vieses e interpretar impactos sobre o negócio. O valor produzido pela tecnologia depende menos da automação em si e mais da qualidade das decisões tomadas a partir dela. O estudo da Capgemini indica ainda que a colaboração entre humanos e agentes inteligentes pode aumentar em até 65% o tempo dedicado a atividades de maior valor, o que reforça o papel complementar entre análise humana e automação avançada. O valor produzido pela tecnologia depende menos da automação em si e mais da qualidade das decisões tomadas a partir dela. O debate sobre sistemas agênticos também tem mobilizado pesquisadores e especialistas ligados ao MIT CSAIL, especialmente em discussões sobre confiabilidade, supervisão e segurança desses modelos. À medida que agentes inteligentes assumem tarefas mais complexas e passam a operar com maior autonomia, cresce a preocupação com mecanismos capazes de garantir alinhamento, previsibilidade e controle humano sobre suas ações. Resiliência como estratégia A discussão entre executivos de diferentes setores revelou um ponto de convergência importante. Embora cada indústria enfrente desafios específicos, todas compartilham uma preocupação comum: preservar a capacidade de operar em um ambiente digital cada vez mais complexo. Guilherme Dutra, diretor-executivo de cibersegurança da Coca-Cola FEMSA, observou que a segurança precisa atuar como orientadora da adoção tecnológica. A função da área não é impedir iniciativas, mas ajudar a organização a identificar caminhos seguros para capturar valor, escalar operações e reduzir riscos. Essa visão aproxima a segurança de temas tradicionalmente associados à estratégia empresarial, como crescimento, eficiência operacional e continuidade dos negócios. A mudança é significativa porque desloca o foco da prevenção absoluta para a construção de resiliência. Em um cenário marcado por ameaças cada vez mais sofisticadas, a capacidade de detectar rapidamente, responder com eficiência e manter as operações em funcionamento torna-se tão importante quanto evitar incidentes. O encontro evidenciou que a Inteligência Artificial terá papel decisivo nessa trajetória. Ao mesmo tempo, mostrou que a tecnologia, isoladamente, não resolve o problema. Automação, governança, capacitação e cultura organizacional precisam evoluir de forma integrada para que os benefícios da IA sejam efetivamente capturados. A principal lição deixada pelos participantes talvez seja justamente essa. À medida que agentes inteligentes passam a ocupar espaço crescente nos ambientes corporativos, a vantagem competitiva não estará apenas na adoção das ferramentas mais avançadas. Ela dependerá da capacidade de construir organizações em que Inteligência Artificial e inteligência humana atuem de forma complementar, combinando velocidade, contexto e capacidade de decisão diante de um cenário de risco em permanente transformação. O post Quando a IA vigia a IA apareceu primeiro em MIT Technology Review - Brasil.