EUm junho de 2024, um ataque cibernético a uma empresa de serviços de patologia causou caos em hospitais de Londres. Mais de 10.000 compromissos foram cancelados. Ocorre escassez de sangue e atrasos nos exames de sangue causam um morte do paciente.
Felizmente, ataques cibernéticos mortais como este são raros. Mas o lançamento de uma nova IA poderá mudar isso – levando-nos para um novo mundo de caos e perturbação dos sistemas digitais em que confiamos.
Esta semana a Antthropic, uma empresa líder em IA em São Francisco, anunciado “Claude Mythos Preview”, um modelo de IA que a startup diz ser muito perigoso para ser divulgado ao público, graças às suas extraordinárias capacidades de segurança cibernética – e de ataque cibernético. Mythos, afirma a empresa, descobriu vulnerabilidades nele todos os principais navegadores e sistemas operacionais. Por outras palavras, este novo modelo de IA poderá ajudar os hackers a perturbar alguns dos softwares mais importantes do mundo.
“Estes são níveis preocupantes do Y2K”, disse um especialista em segurança disse. A Mythos descobriu um bug de 27 anos em uma parte crítica de sua infraestrutura de segurança e várias vulnerabilidades no kernel Linuximportante para sistemas de computador em todo o mundo. Esses pontos fracos podem ameaçar quase tudo na Internet, desde os serviços de streaming que você usa até os sistemas bancários dos quais você depende.
Se a tecnologia estivesse amplamente disponível e tivesse as capacidades reivindicadas pela Antrópica, o impacto poderia ser catastrófico. Os ataques cibernéticos não são mais apenas um problema digital. Quase tudo em que confiamos no mundo físico envolve software. Nos últimos anos, aeroportos, hospitais e redes de transporte foram prejudicados por ataques cibernéticos. Até agora, um ataque desta magnitude exigia muita habilidade. Mythos dará essas habilidades aos amadores – e aumentará a capacidade dos profissionais de causar estragos.
Especialistas em segurança cibernética alertaram sobre isso. Anthony Grieco, da Cisco, uma empresa de redes e segurança cibernética, disse: “As capacidades de IA ultrapassaram um limite que muda fundamentalmente a urgência necessária para proteger infraestruturas críticas… e não há como voltar atrás”. Lee Klarich, chefe de gerenciamento de produtos da Palo Alto Networks, disse que o modelo “sinaliza uma mudança perigosa” e alertou que “todos precisam se preparar para ataques assistidos por IA”.
“Haverá mais ataques, ataques mais rápidos e ataques mais sofisticados”, Klarich disse.
Felizmente, não estamos completamente destruídos. Em vez de lançar o Mythos ao público, a Anthropic primeiro o oferece às empresas que administram grande parte de nossa infraestrutura crítica, incluindo Apple, Microsoft e Google. A esperança é que eles possam usar o Mythos para encontrar falhas em sua segurança e corrigi-las antes que atores mal-intencionados obtenham capacidades semelhantes.
Isso significa que agora estamos correndo contra o tempo. Graças à falta de regulamentação a nível nacional e internacional, nada obriga outras empresas a seguir a estratégia de implementação da Antrópico. Poderá ser apenas uma questão de meses até que partes menos responsáveis – seja nos EUA ou noutros lugares – lancem um modelo com capacidades semelhantes. Quando isso acontece, só podemos esperar que o software em que confiamos esteja adequadamente protegido.
Em tempos de maior cooperação, estou optimista de que os EUA poderão fazer um esforço de toda a sociedade para se prepararem para isto.”vulnerabilidade“. Mas a administração Trump declarou guerra à Anthropic, proibindo agências governamentais e militares de usarem a sua tecnologia e chamando-a publicamente de “empresa de esquerda radical” por não permitir que os militares usassem as suas ferramentas para realizar vigilância em massa dos americanos. A hostilidade significa que é improvável que o governo trabalhe com a Anthropic para fortalecer os seus próprios sistemas notoriamente frágeis – que estão entre os sistemas mais importantes a proteger.
Existem vários motivos para estar otimista. Antrópico talvez exagerar Habilidades do Mythos: No entanto, ele tem interesse em desenvolver seus próprios produtos. Mas vulnerabilidades documentadas e a disposição dos concorrentes em fazer parceria com a Anthropic sugerem que a ameaça é real. Entretanto, algumas partes do governo estão a começar a prestar atenção: na terça-feira, Scott Bessent, secretário do Tesouro dos EUA, e Jerome Powell, presidente da Reserva Federal, alegadamente juntar Os executivos de Wall Street estão se preparando para os riscos representados pela Mythos e pelos futuros modelos de IA focados na segurança cibernética.
Mas o quadro geral é sombrio. Os mitos não são apenas um problema de segurança cibernética, mas também muito perturbadores ajudando as pessoas a projetar armas biológicase às vezes conscientemente trair usuários e cobrir seus rastros. Isto mostra os riscos da IA “superinteligente” que a Antthropic e os seus concorrentes querem espalhar para a sociedade – as consequências são terríveis. Com o Mythos, talvez tenhamos tempo para enfrentar os riscos. Mas se o governo continuar a permitir que estas empresas operem sem regulamentação, poderemos não ter tanta sorte no futuro.
-
Shakeel Hashim é o editor Transformadoruma publicação sobre o poder transformador e a política da IA
