A Anthropic passou grande parte desta semana lutando para colocar os modelos de IA mais recentes online depois que a administração Trump ordenou repentinamente o acesso a todos os cidadãos estrangeiros, incluindo usuários nos EUA e seus funcionários, forçando a Anthropic a bloquear o acesso ao Fable 5 e ao Mythos 5 para todos.
“Que eu saiba, esta é a primeira vez que o modelo de controle de exportação dos EUA é usado para controlar o acesso à IA desta forma.”
A administração Trump não explicou publicamente a base legal da ordem, mas numa declaração no seu website, Anthropic ele disse o governo citou “autoridades de segurança nacional” para justificar os exemplos da directiva de “exportar a casa” nos modelos. (A Anthropic também afirmou que a preocupação do governo sobre um “jailbreak” potencialmente usado por grupos ligados à China para acessar seus modelos não permite que os usuários contornem todas as proteções da empresa.
Mas porque é que a administração utilizou regulamentos de exportação para resolver esta questão? Especialistas dizem que o episódio parece incomum, expondo o estágio incerto e instável do regime de IA. O que deveria ser a educação antrópica? (Você não respondeu na empresa Beirapedido de comentário).
Os controlos de exportação aplicam-se tradicionalmente a coisas que podem ser transferidas através das fronteiras: armas, hardware, ferramentas, esse tipo de coisas. Com o tempo, a estrutura se expandiu para abranger bens menos tangíveis, como software, código-fonte, dados técnicos e até placas de armas impressas em 3D. Estes ainda são confidenciais e podem ser copiados, recebidos, publicados ou de outra forma transmitidos e recebidos, não simplesmente através da utilização do serviço remoto. No contexto do presidente da IA, Joe Biden movido controlar os pesos do modelo de IA — os dados principais que compõem o modelo de trabalho que podem ser copiados e executados em outro lugar — desta forma; Essa foi a ideia saiu rapidamente por Trump no segundo mandato do governo.
A ordem antrópica não se enquadra perfeitamente neste quadro. Nenhuma tradução clara é realizada: Mythos e Fable permanecem em servidores humanos e os usuários não recebem o código, os pesos do modelo ou o modelo em si, mas obtêm as respostas do chatbot às suas perguntas. A exportação de determinadas informações poderia ser produzida pelos modelos, mas não está claro por que isso exigiria a desativação do acesso a todo o sistema e não apenas a uma parte restrita. Também poderia ser a abordagem em si – embora o acesso remoto a serviços em nuvem seja uma lacuna bem conhecida nas actuais políticas de exportação do governo, uma lacuna que o Congresso já está a analisar. fechar pelo Senado agora tramitando as leis.
Hanna Dohmen, analista de pesquisa sênior do Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, relatou Beira É uma “questão em aberto” se a ordem não vê a linguagem precisa por trás das regras existentes. “Obviamente, esta regulamentação é bastante significativa porque, tanto quanto sei, é a primeira exportação do governo dos EUA que foi utilizada para controlar o acesso a um modelo de IA desta forma.
“Dizer que este é um país inflexível para exportar é um eufemismo”, disse Andrew Reddie, professor da Escola Goldman de Políticas Públicas da UC Berkeley. Ele disse que os controles de exportação e outras regulamentações, como as regulamentações sobre armas, dão ao governo “margem de manobra” para restringir o acesso a certos produtos. Mas “a ambiguidade por parte das sucessivas administrações sobre quais são as responsabilidades dos modelos de desenvolvimento” tornou difícil compreender o que se espera deles, disse ele.
Ele deixa a indústria na liga. Se o antropomorfismo foi alvejado, porque Mythos e Fable são excepcionalmente capazes, a organização passa a abordar as questões para a posteridade de modelos de OpenAI, Google, Meta, xAI e quaisquer outras limitações de laboratório. Se for direcionado para questões específicas de proteção, o governo deve definir o que considera proteção suficiente. E se o antropomorfo estiver ligado devido à sua estreita relação com a administração Trump, a ordem é mais difícil de compreender.
“Este fato esclarece a inconsistência do governo existente.”
De qualquer forma, os especialistas dizem que esta não é uma forma sustentável de governar a IA, especialmente se os EUA quiserem manter a sua liderança global. O incidente já veio reforçar os argumentos de que os governos e as empresas fora dos EUA deveriam ser cautelosos ao confiar nas empresas americanas para obterem acesso ao sistema financeiro estratégico.
Reddie tinha preocupações semelhantes. “De certa forma, na minha opinião, este facto esclarece a inconsistência do governo existente”, disse ele. Isto é especialmente verdade se o governo estiver mais preocupado com a possibilidade de os utilizadores dos modelos afrouxarem os laços da prisão e contornarem as suas protecções. “Se a criação de modelos impossíveis de jailbreak se tornar o padrão de fato nos Estados Unidos, você não terá nenhum modelo de IA.”
Tudo isto se resume à mesma questão: a administração Trump quer as duas coisas em relação à IA. Ele tem dito muitas vezes que quer tirar as mãos do acesso e defender a tecnologia americana, mas forçou o campeão nacional a retirar sem cerimônia seus modelos limitados por meio de uma ordem que ele ainda não explicou oficialmente. Se Washington quiser controlar quem pode aceder a sistemas poderosos de IA, precisa de dizer como e como as empresas farão o fornecimento real antes do lançamento. Estas intervenções, ao que parece, não são sustentáveis a longo prazo — e estão a caminho de os EUA caírem na corrida da IA.
