A indústria da cibersegurança enfrenta um novo desafio: a gestão tradicional de vulnerabilidades já não é suficiente. À medida que a empresa implanta rapidamente aplicativos baseados em IA, agentes autônomos e infraestrutura de modelagem de linguagem em larga escala (LLM), as equipes de segurança estão descobrindo que muitas das exposições mais perigosas não podem ser encontradas apenas por meio da varredura convencional baseada em CVE. Em vez disso, as organizações estão a tornar-se cada vez mais complexas com serviços de IA não configurados, infraestruturas de aprendizagem automática expostas e sistemas interligados que criam vias de ataque inteiramente novas.
Contra isso CyCognito Sua plataforma de gerenciamento de exposição com recursos contínuos de pentesting de IA foi projetada para descobrir riscos complexos e contextuais que os scanners determinísticos muitas vezes ignoram. A iniciativa reflecte uma mudança mais ampla em toda a indústria, na qual os líderes de segurança estão a ir além da identificação de vulnerabilidades conhecidas, para reforçarem continuamente a forma como os atacantes podem utilizar um ambiente de sistema único.
AI Novos antolhos
A velocidade de adoção da IA generativa expandiu drasticamente as superfícies de ataque empresarial. As organizações estão implantando forças de IA, sistemas de aumento de recuperação (RAG), servidores de protocolo de contexto de modelo (MCP), plataformas de orquestração e infraestrutura de aprendizado de máquina mais rápido do que muitos sistemas de segurança podem inventá-los.
Ao contrário das vulnerabilidades de software tradicionais, estes sistemas introduzem frequentemente lacunas de segurança através de má configuração, privilégios excessivos ou divulgações negligenciadas entre serviços interligados. Essas vulnerabilidades podem não ter um CVE atribuído a elas; no entanto, ainda podem fornecer aos invasores acesso direto a dados confidenciais.
Tecnologia da UE
As últimas notícias sobre o cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte questionável de IA. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
De acordo com CyCognito, sua plataforma agora apresenta mais de 60 categorias de tecnologias relacionadas à IA, incluindo servidores MCP, Ollama, MLflow, PyTorch, Triton, N8n e outros componentes comumente usados na implantação de projetos de IA.
Da detecção de ataques simulados
Em vez de focar na descoberta de ativos, a capacidade final do CyCognito usa agentes de IA para simular como um invasor se moveria pela infraestrutura exposta de uma organização.
Em vez de perguntar se existe uma vulnerabilidade, o sistema avalia se uma sequência de ações poderia realmente comprometer sistemas sensíveis ou expor informações valiosas. Essas cadeias de ataque combinam raciocínio contextual, consciência ambiental e testes em vários níveis que vão além da verificação tradicional de vulnerabilidades.
A empresa lançou recentemente uma técnica original de mergulho profundo pentesting contínuo de IA explica como esses agentes de IA podem priorizar a inteligência contextual experiente em toda a superfície de ataque externo de uma organização, permitindo que as equipes de segurança se concentrem em riscos de negócios validados, em vez de em descobertas técnicas isoladas.
Descobertas do mundo real destacam riscos emergentes
CyCognito compartilhou vários exemplos que ilustram os tipos de exposições que a IA contínua pode identificar.
Nesse caso, o servidor MCP forneceu uma interface de linguagem natural acessível externamente, não conectada ao ambiente de produção do CRM. Seguindo injeções imediatas e interações de API, os gerentes de IA poderiam listar serviços de back-end e, eventualmente, acessar milhões de registros financeiros e de clientes sem credenciais.
Outro compromisso revela uma base de conhecimento público que apoia a implantação do RAG. Embora a autenticação protegesse o próprio agente de IA, o repositório de documentos subjacente permaneceu abertamente acessível, expondo documentos internos, contratos, comunicações e dados de clientes.
Talvez mais surpreendente tenha sido a descoberta de uma plataforma de segurança física voltada para a Internet, responsável por controlar o acesso a dispositivos, gerenciar câmeras de vigilância e leitores de cartões. O sistema foi desenvolvido do lado técnico contra serviços de IA sem segmentação correta, mostrando como os projetos de transformação digital podem aumentar inadvertidamente o risco de implementação de tecnologia.
Nenhum desses cenários dependia de uma vulnerabilidade conhecida de software de jogo. Em vez disso, surgiram de decisões arquitetônicas, práticas de implantação e contextos de negócios que não decepcionam em nada os armeiros convencionais.
Que prova contínua das coisas
Os testes de penetração tradicionais continuam a ser uma prática de segurança importante, mas a sua natureza pontual limita a sua eficácia em ambientes que mudam todos os dias.
Embora a IA tenha acelerado testes pesados, muitas organizações realizam avaliações baseadas em IA como competições periódicas devido aos custos computacionais. De acordo com CyCognito, isso muitas vezes limita os testes de alto nível apenas a ativos de alta prioridade, deixando grande parte da superfície de ataque externo praticamente incontestada.
Para enfrentar esse desafio, a empresa desenvolveu o que chama de Target Graph™, uma camada de orquestração que realiza avaliação de exposição, inteligência de ameaças, validação determinística e define o contexto de negócios onde os agentes de IA devem gastar esforço computacional.
A abordagem de IA permite que o pentesting ajuste continuamente sua profundidade e habilidades, com base em ativos recém-descobertos, mudanças ambientais e atividades de ameaças emergentes.
Uma vantagem adicional vem do sistema de feedback loop. Os ataques técnicos podem ser validados com sucesso por um agente de IA e posteriormente convertidos em provas determinísticas, reduzindo os requisitos de computação futuros e expandindo a cobertura automatizada.
Uma transição mais ampla na indústria
A infraestrutura nativa de IA resultante está mudando a forma como as organizações pensam sobre o gerenciamento da exposição externa. À medida que os ambientes empresariais se tornam cada vez mais dinâmicos, os programas de segurança estão deixando de identificar vulnerabilidades isoladas e passando a avaliar continuamente como os sistemas interagem e se essas interações criam caminhos exploráveis.
O último anúncio da CyCognito mostra esse desenvolvimento. Em vez de testar a acuidade como um exercício de validação ocasional, a empresa fornece testes contínuos orientados por IA que sempre ocorrem na exposição composta.
Internamente, como “Projeto Kineto”, a iniciativa inspira-se na transição da fotografia para o cinema, uma metáfora para a substituição de instantâneos de segurança periódicos por visibilidade contínua da evolução das superfícies de ataque.
À medida que a adoção da IA acelera nas empresas, o desafio pode ser encontrar vulnerabilidades mais conhecidas, mas compreender como inúmeras pequenas inovações se somam a riscos empresariais significativos. O pentesting contínuo de IA representa uma abordagem emergente para resolver esse problema.
