Estarão legiões de dispositivos inteligentes – frigoríficos, fornos, aspiradores de pó, cortadores de grama, câmeras de segurança e TVs – conspirando para dominar a Internet? Não vai. Mas podem rapidamente tornar-se anfitriões desconhecidos de modelos de IA auto-replicantes que se espalham de dispositivo para dispositivo e se revelam extremamente difíceis de conter.
Bem-vindo ao mundo inquietante dos worms de IA, onde a perspectiva de modelos se espalharem descontroladamente em eletrodomésticos é um risco iminente de segurança cibernética ou outro caso de empresas de IA espalhando uma campanha publicitária com toques de destruição, dependendo de para quem você perguntar. em um Postagens de blog publicadas esta semanaA Antthropic alertou que pode levar “meses” para que pequenos modelos de IA ganhem tais capacidades. As suas experiências fornecem algumas provas que apoiam isto, mas existe uma enorme lacuna entre o que os investigadores demonstraram e o que prevêem ser uma ameaça iminente. No entanto, os especialistas entrevistados borda Embora os worms de computador e o medo da inteligência artificial auto-replicável não sejam novidade, desenvolvimentos recentes sugerem que há boas razões para levar a sério os avisos.
Máquinas autorreplicantes têm uma longa história assombrado Segurança de Inteligência Artificial pesquisador. Levantam a perspectiva de sistemas fora do controlo humano que são difíceis, se não impossíveis, de encerrar. Tal como acontece com muitas preocupações sobre o desenvolvimento da inteligência artificial, a atenção tem se concentrado em modelos de ponta cada vez mais poderosos, como o Astra da OpenAI ou o Mythos da Anthropic. Mas um fator limitante importante é o tamanho: eles são enormes. Modelos de ponta podem conter trilhões de parâmetros (valores aprendidos durante o treinamento) e exigir enormes recursos computacionais, confinando-os em grande parte a data centers onde podem ser monitorados mais facilmente e, em princípio, desligados.
No entanto, modelos menores apresentam problemas diferentes. Eles estão melhorando rapidamente, podem ser executados em hardware de consumo e geralmente podem ser baixados gratuitamente. Os pesquisadores antrópicos queriam saber se as pessoas poderiam operar em uma rede de dispositivos menores e menos potentes. Eles dividiram com sucesso o Gemma 4 do Google (um modelo com 26 bilhões de parâmetros) em 15 caixas de smart TV Android, mas nenhuma era poderosa o suficiente para executá-la sozinha. Funcionou, embora muito lentamente.
Depois de demonstrar que o modelo poderia ser executado em dispositivos domésticos, os pesquisadores queriam ver se a IA poderia realizar as etapas necessárias para a autorreplicação nesse ambiente. Eles construíram uma rede simulada de computadores que se comportavam como dispositivos Android e, em seguida, lançaram um “worm” controlado por IA – um tipo de malware que se replicava e se espalhava automaticamente pela rede – com a tarefa de encontrar novas máquinas, copiar o modelo de IA para elas e executá-lo em cada máquina. Vale ressaltar que o modelo que está sendo propagado (parâmetro de 8 bilhões do Meta, Llama 3.1-8B) é diferente do modelo do ataque coordenado e é muito menor.
Apenas o modelo mais complexo testado (GLM-5.2 da Z.ai da China) foi propagado com sucesso por toda a rede, embora modelos menores tenham concluído etapas individuais com sucesso. Com base na taxa de melhoria, os pesquisadores da Anthropic prevêem que o modelo menor poderá ser tão poderoso quanto o GLM-5.2 até o final deste ano.
“Como uma previsão além dos nossos experimentos, esperamos que o futuro seja povoado por agentes executados em todos os tipos de hardware, incluindo alguns que não estão sob controle humano”, escrevem os pesquisadores. Eles reconhecem que ainda não demonstraram “um replicador completamente desonesto” e não sabem como ele pode ser (eles sugerem um “mofo viscoso digital lento e distribuído” ou “um enxame de moscas da fruta”). Mas eles disseram que suas descobertas mostraram “sinais de vida para um worm de IA” e pediram maior segurança nos muitos dispositivos que os sistemas replicantes podem usar para se espalhar.
“Nosso objetivo deveria ser fortalecer nossos sistemas para que tais replicadores tenham mais dificuldade em se espalhar, mas também estejam preparados para lidar com o mundo em que vivem”, escreveram. Notavelmente, a Anthropic não utilizou os seus próprios modelos para estes testes e argumentou repetidamente que alternativas abertas aos seus modelos de IA têm “Mais riscos” Do que um sistema fechado.
O aviso desencadeou acusações familiares dos departamentos de relações públicas Moda e inteligência artificial teoria da desgraçainclusive de leitores bordaprimeiros relatórios. Afinal, há um abismo considerável entre demonstrar que a IA pode funcionar lentamente em um monte de caixas de TV baratas e um worm de IA auto-replicante que destrói dispositivos domésticos. Mas embora certamente valha a pena questionar os motivos de uma empresa, as acusações de fomento deliberado do medo são difíceis de fundamentar, especialmente dada a longa história da Anthropic de levantar preocupações sobre a segurança da IA. A Anthropic não é a única empresa que investiga a ameaça da inteligência artificial auto-replicável ou que pede maior segurança nos dispositivos conectados.
No início deste ano, a Palisade Research, uma empresa de pesquisa de segurança de IA com sede na Califórnia comprovado Os modelos de IA podem copiar-se automaticamente para outras máquinas. “A novidade aqui é que esses modelos são muito menores em termos de número de parâmetros do que os modelos anteriores que se mostraram auto-replicantes”, disse Jeffrey Ladish, diretor executivo da Palisade. borda. O trabalho da Anthropic vai um passo além ao mostrar que a inteligência artificial pode funcionar em vários dispositivos de baixo consumo de energia. “O mesmo vale para os modelos maiores”, disse Ladish, prevendo que mesmo os modelos de ponta poderão eventualmente ser capazes de rodar em grandes redes de chips de consumo, como os dos MacBooks.
“Pesquisas anteriores demonstraram que a ameaça de worms de computador controlados por IA é real”.
worm de computador não é novo Qualquer um deles. Eles infectam máquinas há décadas. Mas a IA pode torná-los mais inteligentes, mais adaptáveis e mais capazes de lidar com qualquer obstáculo. Radish observou que modelos ainda menores são melhores na execução de ataques cibernéticos de forma autônoma. “Pesquisas anteriores demonstraram que a ameaça dos worms de computador controlados por IA é real”, disse Nicolas Papernot, professor da Universidade de Toronto. estudado eles, diga borda.
Em conjunto, o Anthropic demonstra capacidades que poderiam expandir significativamente a gama de dispositivos dignos de ataque cibernético. “Dispositivos que anteriormente não eram alvos devido aos recursos e tempo limitados dos atacantes humanos podem agora tornar-se alvos, se não pelos dados que detêm, e depois usá-los como plataformas de lançamento para atacar alvos mais valiosos”, disse Papernot. E não faltam alvos: a Internet está repleta de dispositivos inteligentes mal protegidos.
Papernot alertou contra a antropomorfização da IA, mas disse que a ameaça dos worms de computador impulsionados pela IA era “concreta” e “digna de ação imediata”, especialmente quando se trata de proteger infraestruturas críticas como hospitais e redes elétricas.
“A menos que grandes esforços sejam feitos para proteger vários dispositivos, é provável que haja um terreno fértil para a colonização de worms de IA”, disse Radish. “Espero que veremos o primeiro destes animais na natureza nos próximos 12 meses”.
