Embora muitos de nós tenhamos estado preocupados nos últimos dias com o fim do nosso presidente “civilização inteira”, alertou uma empresa de tecnologia do Vale do Silício, dizendo sem aviso prévio que isso pode ser involuntariamente perturbador todos civilização como a conhecemos.
A empresa de tecnologia de São Francisco Anthropic anunciou na terça-feira que irá Não lançou uma nova versão de seu supercérebro Claude AI – porque é tão poderoso que tem a capacidade de hackear quase qualquer sistema de computador, não importa quão seguro seja, em questão de dias ou horas.
“O impacto – na economia, na segurança pública e na segurança nacional – pode ser grave”, disse a Anthropic disse em um comunicado.
As preocupações com a IA não são novidade. Preocupamo-nos com o facto de a inteligência artificial tomar empregos, com os brinquedos parecerem demasiado reais para os nossos filhos, com a vigilância em massa de todos os nossos movimentos. Mas as advertências da Anthropic sobre os seus próprios produtos superam essas questões isoladas. É um aviso de dentro de casa de que o desastre está à espreita ao virar da esquina. Eu sei, parece terrível e opressor. Mas o problema é o seguinte: não foi.
Anthropic, você deve se lembrar, é a empresa chefiada pelo secretário da Guerra dos EUA, Pete Hegseth está se reproduzindo porque ele não queria que Claude fosse para a batalha sem supervisão e possivelmente fizesse algo assim acidentalmente bombardeia uma menina na escola.
Agora, a empresa lançou aviso frio: O Claude existente que estava causando a comoção estava desatualizado e surpreendentemente menos poderoso em comparação com o novo Claude. Ele se esforçou para não desistir – embora esse novo Claude, apelidado de Claude Mythos Previewescapou pelo menos uma vez por conta própria. Mais sobre isso em um momento – há um limite de medo existencial que uma pessoa pode superar.
“Todos deveríamos estar preocupados”, disse-me Roman Yampolskiy sobre os últimos avanços tecnológicos que inevitavelmente mudarão o curso da humanidade. Ele é um daqueles países pesquisador líder em segurança de IAe professor da Universidade de Louisville, em Kentucky.
“Criaremos superinteligência em geral e isso ameaça a humanidade como um todo”, disse Yampolskiy.
“Todo o resto é irrelevante”, acrescentou ele, antes de sugerir que eu parasse de me chamar de idiota por não entender as partes deste debate que envolvem muita tecnologia. Minha visão simples, ele me garantiu, era “uma maneira razoável de explicá-la”.
Então aqui está.
Este não é um “gênios da computação realmente inteligentes podem abusar disso” ou “todos ficarão desempregados”, ou mesmo o cenário “pode bombardear acidentalmente uma criança”, que é um cenário muito ruim.
Este é um cenário “seu adolescente pode usá-lo para invadir o sistema do distrito escolar local para mudar de série com muito pouco conhecimento e destruir acidentalmente a rede elétrica da Califórnia”.
Ou talvez, um país que não gosta de nós – consigo pensar em alguns – poderia drenar as contas bancárias de todos os americanos, ao mesmo tempo que desbloqueia automaticamente celas de prisão, encerra fábricas de eliminação de resíduos e assume o controlo de sistemas de controlo aéreo. Ou talvez o próprio Claude Mythos tenha feito isso.
Por exemplo, disse Antrópico que em um sistema operacional popular que testou, usado por milhares de empresas, incluindo Netflix e Sony, Claude Mythos descobriu uma falha que passou despercebida por 17 anos. Então, por conta própria – sem orientação ou ajuda humana – descobriu como usar essas fraquezas para controlar qualquer servidor que execute o sistema operacional, usando qualquer computador, em qualquer lugar do mundo.
Apenas da boca para fora, mas se não existir praticamente nenhum sistema de segurança seguro, as possibilidades de caos social, financeiro e geral são infinitas. E, francamente, qualquer especialista em segurança dir-lhe-á que um dos pontos fracos da América quando se trata de segurança cibernética é o governo local e estadual, porque, curiosamente, esses grandes especialistas não estão a fazer trabalhos de cinco dígitos para cidades nas Grandes Planícies.
Com base em seus próprios testes, Previsões antrópicas eles conseguiram descobrir “mais de mil vulnerabilidades de gravidade crítica e milhares de vulnerabilidades de alta gravidade”.
Isso significa que Claude Mythos está a colocar a nossa infraestrutura em risco, em todo o lado – porque muitas coisas estão ligadas através de backdoors que a maioria de nós nunca considera e basta um sistema fraco para abrir a porta a centenas de outros. Mas é quase impossível proteger e reparar todos esses sistemas de forma rápida e robusta o suficiente para proteger contra este tipo de IA.
E isso é apenas mais um risco de segurança cibernética, disse Yampolskiy. A IA com as capacidades de Claude Mythos pode ser usada para avançar rapidamente de várias maneiras.
“Estamos vendo a mesma coisa acontecer com a biologia sintética. Veremos a mesma coisa acontecer com as armas químicas, talvez algo novo em termos de armas de destruição em massa”, disse ele.
O grande crédito da Anthropic é que ela previu sua criação e criou, se não uma solução, pelo menos uma espécie de plano de jogo – Projeto Asa de VidroAcho que, por pior que seja, vamos fazer com que pareça um thriller com um final interessante.
Projeto Asa de Vidro seria melhor chamá-lo de Projeto Headstart porque é isso que realmente é. Antes de lançar o Mythos, a Anthropic o lançou para cerca de 40 empresas de tecnologia, incluindo Apple, Google e Nvidia, para ver se elas poderiam corrigir coletivamente todas as vulnerabilidades encontradas antes que o público em geral tivesse a chance de corrigi-las. É como nos filmes, quando o assassino dá à vítima 15 segundos para fugir.
Quer dizer, vou aproveitar esses 15 segundos e espero que sejam reais. No entanto, como a Anthropic também disse em comunicado, “o trabalho para defender a infraestrutura cibernética mundial pode levar anos; as capacidades de IA nas linhas de frente provavelmente avançarão significativamente apenas nos próximos meses.
E nós realmente temos 15 segundos? Um dos supervisores de Claude Mythos postou recentemente nas redes sociais que ele estava almoçando no parque Mythos enviou um e-mail para ele – mesmo que não devesse ter acesso à internet. Os pesquisadores encarregaram a Mythos de tentar escapar da “caixa de areia” desconectada e conseguiram.
Que outro problema com Mythos e outras IAs – eles raramente fazem o que esperamos e encontrar maneiras sorrateiras de contornar as regras. Foi comprovado que quase todos os supercérebros de IA criados mentem, trapaceiam e geralmente se comportam de maneira perturbadora e antiética quando colocados nas condições certas.
Até mesmo Claude, que foi considerado um dos supercérebros de IA mais éticos que existem, se comporta mal. Vantagem antrópica é o “modelo mais alinhado” alguma vez criado – em termos tecnológicos para aderir aos valores e intenções da humanidade, mas também reconhecendo que “provavelmente representa os maiores riscos relacionados com o alinhamento”, o que em termos tecnológicos, bem, talvez não.
Então, pelo menos por enquanto, ser o supercérebro de IA mais ético é como ser o serial killer mais ético. Corram, todos, corram.
Mais uma vez, obrigado Antrópico (e isso presidente-executivo, Dario Amodeique frequentemente alerta sobre os perigos daquilo que cria, qualquer que seja o seu valor) para não nos mergulhar no caos global sem aviso, pois tenho a certeza que alguma outra empresa poderia simplesmente lançar a sua super IA na sociedade e deixar a destruição acontecer. Não há dúvida de que outro cérebro de IA com capacidades semelhantes às do Mythos surgirá, e em breve – o Anthropic é o primeiro com esse nível de capacidade, mas está apenas 15 segundos à frente de seus concorrentes.
Mas a ideia de que a indústria tecnológica irá – ou deveria – resolver estes problemas por si só é absurda e uma abdicação da responsabilidade e do bom senso no interesse dos governos, grandes e pequenos, para proteger os seus povos. Esta não é a corrida pelo domínio que o Presidente Trump retrata. Esta é uma corrida para nos protegermos – e da maioria dos titãs industriais super-ricos que consistentemente parecem colocar os negócios e o comércio acima dos interesses da sociedade.
Só temos que esperar os últimos 15 segundos antes que a IA mude tudo. Ou exigimos supervisão e regulamentação agora, ou deixamos as empresas de tecnologia decidirem o destino do mundo.
