A Anthropic disse que “desativaria abruptamente” seus modelos de IA mais avançados para todos os usuários depois que o governo dos EUA ordenou que suspendesse o acesso a eles para cidadãos estrangeiros, citando preocupações de segurança nacional.
A empresa recebeu uma diretiva de controle de exportação para suspender o acesso ao Fable 5 e ao Mythos 5 para todos os estrangeiros, sem receber detalhes específicos sobre questões de segurança nacional, disse a Anthropic em comunicado.
Com base no entendimento da Anthropic, o governo acredita que existe um método para contornar, ou “jailbreak”, proteções que impediriam o Fable 5 de ser usado para identificar vulnerabilidades de software, disse a empresa.
A ordem ocorre no momento em que disputas anteriores entre funcionários do governo Trump e o IPO da Anthropic mostram sinais de abrandamento em partes do governo dos EUA.
O relacionamento da Antrópico com o governo fraturou-se este ano depois que o governo se recusou a permitir que os militares dos EUA usassem modelos de IA para vigilância doméstica e sistemas de armas totalmente autônomos. O governo respondeu colocando a Anthropic em uma lista negra da cadeia de abastecimento, que entrará em vigor no final deste ano.
A ação também marca uma grande escalada nos esforços dos EUA para interromper as capacidades de IA de adversários estrangeiros. Durante anos, os controlos de exportação dos EUA concentraram-se nos chips e equipamentos que alimentam a IA, em vez de restringir o acesso estrangeiro à própria IA.
A Antthropic disse que o governo forneceu apenas “evidências verbais de uma potencial fuga da prisão que eram estreitas e não universais”.
“Não concordamos que a descoberta de um pequeno potencial de jailbreak deva ser um motivo para retirar um modelo comercial aplicado a centenas de milhões de pessoas”, afirmou a empresa.
A directiva governamental e a resposta da Anthropic destacam as tensões crescentes entre os criadores de IA e os reguladores sobre como avaliar os riscos dos chamados “jailbreaks”, ou métodos utilizados para contornar modelos de protecção.
Ainda na quarta-feira, a Anthropic apelou a uma maior supervisão da IA pelos EUA, incluindo a capacidade de bloquear modelos com riscos inaceitáveis. Mas afirmou que as ações do governo na sexta-feira não seguiram princípios regulatórios justos e baseados em fatos.
A diretora de informação do Pentágono, Kirsten Davies, disse em uma postagem no X que o departamento de defesa apoia as prioridades de segurança nacional.
“Há poucas coisas mais importantes do que ciclos de lucros, clickbait e avaliações pré-IPO. América em primeiro lugar. Sempre”, disse Davies.
A Anthropic entrou com pedido confidencial de IPO nos EUA no mês passado, superando a rival OpenAI na corrida para alcançar os mercados públicos.
No início desta semana, a Anthropic revelou um modelo de IA chamado Claude Fable 5, representando um novo nível de capacidade chamado “classe Mythos”. O modelo vem com restrições que proíbem seu uso em áreas de risco, como segurança cibernética, que alguns usuários reclamam ser “muito ampla”, disse a Anthropic.
Os especialistas dizem que o modelo Mythos, nas mãos erradas, poderia acelerar dramaticamente ataques cibernéticos sofisticados, especialmente em sectores como o bancário, que dependem de sistemas tecnológicos complexos, interligados e, muitas vezes, com décadas de existência.
A Anthropic disse que tem trabalhado com o governo dos EUA, entre outros, na segurança antes do lançamento do Fable e que modelos de fornecedores rivais de IA mostraram uma capacidade semelhante de encontrar pequenos bugs no código.
“O efeito líquido deste pedido é que tivemos que desativar repentinamente o Fable 5 e o Mythos 5 para todos os nossos clientes para garantir a conformidade. O acesso a todos os outros modelos da Antrópico não será afetado”, disse a Anthropic.
A Antrópica disse acreditar que houve um “mal-entendido” e está trabalhando para restabelecer o acesso ao modelo o mais rápido possível.
Um funcionário dos EUA confirmou que o departamento de comércio emitiu uma diretiva de controle de exportação para suspender todo o acesso ao Fable 5 e ao Mythos 5 por parte de cidadãos estrangeiros.
