O Google anunciou que descobriu e interrompeu a primeira exploração de dia zero desenvolvida com IA. De acordo com um relatório de Grupo de inteligência de ameaças do Google De acordo com (GTIG), um “proeminente ator de ameaça ao crime cibernético” planejou explorar esta vulnerabilidade em um “evento de exploração massiva” que poderia permitir que uma “ferramenta de gerenciamento de sistemas baseada na web de código aberto” sem nome ignorasse a autenticação de dois fatores.
Os pesquisadores do Google encontraram dicas de assistência de IA no script Python usado na exploração, incluindo uma “pontuação CVSS alucinada” e um formato de “livro didático estruturado” que correspondia aos dados de treinamento do LLM. A exploração aproveita “uma falha na lógica semântica de alto nível na qual os desenvolvedores codificam suposições de confiança” no sistema 2FA da plataforma. Isso segue semanas de agonia sobre as capacidades dos modelos de IA focados na segurança cibernética, como o Mythos da Anthropic, e vulnerabilidades recentemente reveladas do Linux descobertas com assistência de IA.
Esta é a primeira vez que o Google encontra evidências de envolvimento de IA em tal ataque, mas os pesquisadores do Google disseram que “não acreditam que o Gemini tenha sido usado”. O Google afirma que foi capaz de “frustrar” essa exploração específica, mas também afirma que os hackers estão usando cada vez mais a IA para encontrar e explorar vulnerabilidades de segurança. O relatório também menciona a IA como alvo dos invasores, afirmando: “O GTIG observa que os invasores estão cada vez mais visando os componentes integrados que dão utilidade aos sistemas de IA, como habilidades autônomas e conectores de dados de terceiros”.
O relatório do Google também detalha como os hackers podem usar “jailbreaks baseados em personalidade” para forçar a IA a encontrar vulnerabilidades de segurança, incluindo exemplos de prompts que dizem à IA para fingir ser um especialista em segurança. Os hackers também estão usando o OpenClaw de uma forma que sugere que estão interessados em alimentar modelos de IA com um repositório completo de dados de vulnerabilidade e refinar cargas geradas por IA dentro de um ambiente controlado para aumentar a confiabilidade das explorações antes da implantação.
