Fornecedores e especialistas em segurança cibernética empresarial passaram anos tentando compreender o comportamento humano.
Como resultado, há agora uma variedade de ferramentas e processos altamente eficazes que ajudam a distinguir a atividade legítima do usuário do comportamento que indica uma conta comprometida ou atividade maliciosa.
A análise do comportamento já percorreu um longo caminho.
O princípio subjacente é que o comportamento é muitas vezes um indicador mais forte de compromisso do que o uso apenas de credenciais.
Nesse contexto, a análise comportamental estabelece uma base sólida para usuários individuais ao longo do tempo, incluindo as configurações que eles acessam, padrões típicos de login, uso de dados, atividades administrativas, funcionalidade de API e diversas interações.
Quaisquer desvios significativos podem desencadear uma investigação.
Um corte de segurança
Mas, como todos sabemos, as coisas estão mudando muito rapidamente. A rápida mudança de assistentes GenAI para agentes autônomos de IA introduziu um novo tipo de ator empresarial que combina identidade não humana com autonomia, tomada de decisão dinâmica e capacidade de executar ações em várias etapas em computadores. Os modelos de segurança existentes não são concebidos com esta combinação de características em mente.
Claramente, os agentes de IA são agora particularmente preocupantes devido à sua capacidade de executar tarefas de forma autónoma, aceder a múltiplas aplicações, recuperar informações, tomar decisões dentro de parâmetros definidos e concluir fluxos de trabalho em várias etapas.
Dizer que a adoção de agentes de IA em todo o espaço empresarial tem sido dramática é um eufemismo. A Gartner prevê que até ao final de 2026, 40% das aplicações empresariais serão agentes de IA orientados para tarefas, em comparação com menos de 5% em 2025. Para funcionarem, muitos destes agentes recebem identidades, permissões, credenciais e acesso a sistemas empresariais críticos. Esta é uma das razões pelas quais os problemas de segurança persistem.
No entanto, ao contrário dos utilizadores humanos, a maioria das organizações não compreende o que é esperado ou o comportamento anormal das identidades autónomas. Isso ajuda a explicar por que o Hype Cycle 2026 do Gartner vê a segurança de IA de agentes como um campo emergente e por que os recursos de monitoramento de personalidade e comportamento ainda estão em seus estágios iniciais de desenvolvimento.
Embora operem cada vez mais como identidades confiáveis em ambientes empresariais, os agentes de IA têm relativamente pouca inteligência comportamental, mas isso cria uma empresa radicalmente desconectada.
Agentes de mudança
Mas será que a distinção entre o comportamento humano e o comportamento da IA realmente importa? Na era pré-IA, a análise do comportamento humano baseava-se em padrões relativamente estáticos. A maioria dos usuários trabalhava em horários previsíveis, acessava um conjunto padrão de aplicativos, conectava-se em locais familiares e atuava de acordo com sua função. Afinal, os humanos são criaturas de hábitos e a maioria nunca fará nada prejudicial, inclusive no local de trabalho.
Os agentes de IA são fundamentalmente diferentes porque, ao contrário dos funcionários, podem continuar a operar legalmente além do horário comercial. A atividade às 3 da manhã não é inerentemente suspeita, mas ter um trabalhador humano online nesse horário pode levantar uma bandeira vermelha, especialmente se estiver acontecendo fora dos padrões normais de operação.
Os agentes podem interagir com dezenas de serviços e APIs em segundos como parte de um fluxo de trabalho, enquanto esperam altos níveis de atividade, sem exceção.
Sim, vários agentes atuam em nome dos usuários, mas tomam decisões independentes sobre a melhor forma de executar uma tarefa dentro de parâmetros definidos. Isso cria uma camada adicional de abstração entre a solicitação do usuário e as ações que são executadas.
À medida que as empresas expandem a gama do que os agentes podem fazer, as permissões provavelmente se tornarão mais diferenciadas. Um agente projetado para executar uma tarefa relativamente simples, como recuperar informações, pode então ser capacitado para acionar processos de negócios mais complexos e consequentes. Tudo bem, mas e se os processos de segurança relevantes não evoluírem no mesmo ritmo?
Reunindo todas estas questões, o desafio não é apenas perguntar se o comportamento parece anormal no comportamento humano, mas também compreender se é anormal para aquele agente específico.
Como resultado, as empresas devem estabelecer linhas de base comportamentais para os agentes de IA, tal como fizeram para os utilizadores humanos, embora as características dessas linhas de base sejam fundamentalmente diferentes e estejam sujeitas a alterações a qualquer momento.
O monitoramento também deve considerar se a sequência de ações tomadas é consistente com a intenção do agente, pois as ações individualmente legítimas podem, quando combinadas, ter consequências indesejadas ou prejudiciais.
O que as empresas devem monitorar?
Depois de estabelecer que a monitorização de agentes de IA é uma necessidade específica, as organizações devem implementar processos para garantir que o seu comportamento permanece dentro das leis de segurança que estabeleceram, e isso começa com visibilidade.
Isto significa compreender claramente quais agentes de IA existem, que identidades possuem, a quais sistemas têm acesso e o propósito que desejam cumprir. As bases comportamentais podem ser restritas aos aplicativos que um agente normalmente acessa, às APIs que ele chama, aos dados que recupera ou modifica, aos processos de negócios que suporta e ao nível de privilégio que exerce rotineiramente.
Mas, para cada agente, o contexto é importante. Por esta razão, é normal pedir a um agente financeiro que aceda a sistemas contabilísticos, enquanto o mesmo agente que interage com o desenvolvimento de software ou com plataformas de software de RH pode representar um nível de risco diferente. Tal como acontece com os usuários humanos, o objetivo não é identificar eventos isolados, mas reconhecer desvios significativos do sistema operacional estabelecido de um agente.
A questão é que a monitorização deve complementar os controlos de segurança existentes, entre outras opções, como a gestão e governação de identidades e a aplicação de políticas. Os processos e tecnologias devem proporcionar uma maior compreensão de como as identidades de IA autorizadas funcionam dentro da organização.
Sem estes controlos, podemos esperar mais manchetes sobre “agentes desonestos” e as terríveis consequências de perder o controlo sobre o seu comportamento.
Listamos os melhores cursos online de segurança cibernética.
Este artigo foi preparado em parte Perspectivas do Degrader Pronosso canal apresentará as melhores e mais brilhantes mentes da indústria de tecnologia atualmente.
As opiniões aqui expressas são de responsabilidade do autor e não da TechRadarPro ou Future plc. Se você estiver interessado em contribuir, saiba mais aqui: https://www.techradar.com/pro/perspectives-how-to-submit
