bem-vindo a A primeira edição do Kernel Panic! Um boletim informativo semanal de Lily Hay Newman e Matt Burgess, sobre o novo mundo da privacidade e segurança digital. Para receber esta newsletter em sua caixa de entrada todas as semanas, inscreva-se aqui.
Os pessimistas da IA trocaram recentemente um pior cenário por outro, deixando de lado potenciais catástrofes de bugs de software e concentrando-se na possibilidade de IA desonesta causar mortes humanas em massa na próxima década. No entanto, à medida que os líderes da IA consideram que a colaboração pode abrandar o desenvolvimento de modelos de ponta, um aspecto de uma mudança radical na segurança cibernética surgiu devido às capacidades existentes e amplamente disponíveis dos principais produtos de IA, incluindo modelos de peso aberto.
A onda de vulnerabilidades descobertas com recurso à inteligência artificial intensificou-se nos últimos meses, colocando maior pressão sobre as equipas de TI e de segurança com poucos recursos e com poucos recursos humanos, e sobre os voluntários que mantêm software de código aberto crítico. Antes do surgimento da caça a vulnerabilidades aprimorada por IA, os pesquisadores também descobriram e divulgaram inúmeras vulnerabilidades, mas o aumento recente é evidente.
A Microsoft disse na semana passada que lançou 974 patches CVE neste mês, estabelecendo um novo recorde. (CVE, ou Common Vulnerabilities and Exposures, é o termo de segurança cibernética para falhas de software confirmadas.) Em julho, a Oracle Enviado 1.448 patches, em comparação com 309 Julho de 2025. As duas versões principais do Google Chrome lançadas em junho continham 1.072 patches, mais do que todas as correções de bugs lançadas nas 23 versões principais anteriores combinadas. A Mozilla disse em abril que encontrou 271 vulnerabilidades no Firefox durante uma corrida de caça a bugs usando o modelo Mythos da Anthropic.
No geral, 66.401 CVEs foram registrados até quarta-feira, de acordo com Jerry Gamblin, diretor de pesquisa da Empirical Security e fundador do RogoLabs, que dirige o projeto de análise de CVE. unidade de terapia intensiva. Até 16 de setembro do ano passado, cve.icu registrou um total de 33.512 CVEs, quase metade do total atual. Ao longo de 2022, ano em que a OpenAI lançou a primeira versão do ChatGPT, cve.icu registrou 25.000 CVEs.
Entre os investigadores de segurança e IA, os especialistas estão divididos sobre se este aumento e outros impactos da IA na segurança cibernética serão catastróficos ou amplificarão as dinâmicas e desafios existentes. Alguns observam que a lenta adoção de patches e os atrasos nos investimentos em segurança cibernética deram muitas vantagens aos invasores, levando a desastres de hackers antes do surgimento da inteligência artificial. Mas à medida que o número de vulnerabilidades descobertas continua a aumentar e a discussão se torna menos teórica, os dois lados parecem estar a aproximar-se.
“Não acho que isso seja exagero”, disse Gamblin sobre a aparente explosão na descoberta de vulnerabilidades em todo o setor. “Meu contra-argumento é que números maiores são inerentemente prejudiciais. Mais CVEs não significam mais vulnerabilidades. São mais vulnerabilidades.” conhecido Vulnerabilidades, este é principalmente um problema de operação do sistema. “
A preocupação, no entanto, é que a descoberta de um grande número de vulnerabilidades fará com que os desenvolvedores fiquem para trás na aplicação de patches, que os usuários de software não estejam corrigindo com rapidez suficiente e que mais invasores estejam usando inteligência artificial para descobrir eles próprios novas vulnerabilidades, desencadeando uma série de ataques cibernéticos crescentes. Como o Centro Nacional de Segurança Cibernética do Reino Unido diga“Apenas encontrar vulnerabilidades não melhora sua segurança.”
