A Anthropic PBC desativou o acesso aos seus modelos de inteligência artificial mais avançados, incluindo o Mythos, seguindo uma ordem sem precedentes da administração Trump para manter a tecnologia fora do alcance de todos os cidadãos estrangeiros.
O governo dos EUA disse à Anthropic para suspender o acesso aos seus modelos Fable 5 e Mythos 5 por parte de cidadãos estrangeiros “dentro ou fora dos Estados Unidos”, citando preocupações de segurança nacional, disse a empresa em um comunicado.
Uma autoridade dos EUA confirmou que o Departamento de Comércio enviou a carta. Os desenvolvedores de modelos fecharam o acesso a ambos os sistemas a todos os clientes para garantir a conformidade.
Nunca antes o governo dos EUA tomou medidas tão abrangentes para restringir o acesso estrangeiro aos principais modelos de IA desenvolvidos por empresas americanas. As administrações Trump e Biden limitaram o acesso a outras tecnologias críticas, como semicondutores e supercomputadores no estrangeiro, e alguns debateram os méritos de bloquear o acesso a modelos de IA. Mas as restrições ao próprio software levantaram preocupações constitucionais e comerciais.
A Anthropic disse acreditar que o governo dos EUA emitiu a ordem depois de descobrir que era possível fazer o “jailbreak”, ou contornar as grades de proteção, do Fable 5, a versão recentemente lançada do Mythos que a empresa bloqueou de cumprir suas funções de segurança cibernética.
“Não concordamos que a descoberta de um potencial limitado de jailbreak deva ser uma razão para retirar um modelo comercial aplicado a centenas de milhões de pessoas”, disse a Anthropic em uma postagem no site. “Se este padrão fosse implementado em todo o setor, acreditamos que interromperia todas as implantações de novos modelos para todos os principais fornecedores de modelos.”
Pesquisadores da Amazon.com Inc. conduziram pesquisas de jailbreak que revelaram várias vulnerabilidades em modelos antrópicos, de acordo com um relatório do Wall Street Journal.
A Amazon e o governo dos EUA entraram em contato sobre a vulnerabilidade antes de os controles serem implementados, de acordo com pessoas familiarizadas com o assunto que falaram sob condição de anonimato para discutir conversas delicadas. O presidente-executivo da Amazon, Andy Jassy, esteve envolvido na troca, disse uma das fontes. Informações relatadas anteriormente de que Jassy expressou suas preocupações a altos funcionários dos EUA.
Um porta-voz da Amazon disse que não é incomum o governo consultar a empresa sobre riscos de segurança, mas se recusou a fornecer detalhes de tais discussões.
A decisão do governo de restringir amplamente o acesso a alguns modelos de IA em nome da segurança nacional estabeleceria um precedente para todos os principais desenvolvedores de modelos de IA, incluindo OpenAI, Google da Alphabet Inc. e Meta Platforms Inc.
“Para qualquer um que é ingênuo e espera que esses impactos não sejam implementados, este é um grande alerta”, disse Aidan Gomez, cofundador da Cohere Inc., uma startup de IA apoiada pela Nvidia Corp., disse no sábado em uma entrevista. “Ninguém pode mais negar.”
A Antrópica disse que recebeu a ordem do governo às 17h21. Horário de Nova York na sexta-feira. A orientação final de hoje contradiz declarações anteriores, bem como uma ordem executiva recentemente assinada pelo Presidente Trump, afirmando que a administração não implementaria um regime de licenciamento para análises de modelos.
A diretriz de sexta-feira também ameaça aumentar as tensões de longa data entre a Anthropic e alguns membros da administração Trump. No início deste ano, os criadores de IA entraram em confronto com o Pentágono sobre a utilização da sua tecnologia para fins militares e de vigilância. O governo dos EUA disse que a empresa representava um risco para a cadeia de abastecimento dos EUA devido à explosão e ordenou que as agências dos EUA eliminassem gradualmente o uso de seus produtos.
A empresa privada Anthropic, que há muito se posiciona como um desenvolvedor de IA mais responsável, lançou pela primeira vez o modelo Mythos em abril para um grupo muito limitado de empresas e instituições, alertando que a sua capacidade de encontrar vulnerabilidades de segurança cibernética tornava demasiado arriscado distribuí-lo de forma mais ampla.
Há sinais de que a divulgação limitada está funcionando para aliviar as tensões entre a Antrópico e a administração Trump: Em abril, o governo dos EUA estava se preparando para disponibilizar uma versão do Mythos para as principais agências federais, informou a Bloomberg anteriormente.
A Mythos também acelera os esforços da administração Trump na política de IA, incluindo uma recente ordem executiva que exige uma revisão voluntária dos modelos. O despacho diz explicitamente que nada nos regulamentos pode ser interpretado como a criação de um regime de licenciamento obrigatório.
David Sacks, ex-czar da IA de Trump e atual copresidente do Conselho Presidencial de Consultores de Ciência e Tecnologia, disse que a Anthropic se recusou a consertar o jailbreak em seus modelos Fable.
“A esperança do administrador agora é que o Anthropic resolva os problemas de segurança, os controles de exportação sejam suspensos e o Fable retorne ao lançamento geral”, escreveu ele em um post no
As últimas restrições do governo colidem com uma corrida entre os desenvolvedores dos EUA para fornecer modelos de IA de última geração e provar aos seus investidores que a tecnologia pode gerar lucro. Tanto a OpenAI quanto a Anthropic estão buscando ofertas públicas iniciais (IPOs) ainda este ano, após o histórico IPO da SpaceX.
A pressa em fornecer modelos de IA de última geração levou a própria Anthropic a escrever um longo blog no início deste mês, pedindo a criação de um sistema onde governos e desenvolvedores de IA decidam coletivamente quando desacelerar o trabalho na tecnologia para evitar os riscos que ela pode representar.
“Seria melhor para o mundo ter a opção de exibir ou pausar” trabalhos de IA potencialmente prejudiciais, disse a empresa em um post na época. A IA está avançando ao ponto em que a tecnologia pode tornar o trabalho humano milhares de vezes mais eficiente ou até mesmo substituí-lo, criando um novo conjunto de riscos, disse a empresa.
O braço executivo da União Europeia disse que estava a avaliar a declaração da Anthropic e a continuar a falar com os seus aliados sobre os riscos potenciais e preocupações de segurança cibernética associados ao seu novo e poderoso modelo de IA. A Comissão Europeia acrescentou que estes últimos desenvolvimentos sublinham a necessidade da Europa de soberania tecnológica.
‘”Como alguém no terreno, não estou muito feliz em ver isso”, disse Gomez sobre Cohere. “Não creio que este seja um ato de parceria e não creio que seja a coisa certa a fazer em prol da aliança tecnológica mais ampla que se desenvolveu nos últimos 80 anos.”
Eastland e Lowenkron escrevem para a Bloomberg. Com a assistência de Shirin Ghaffary, Yi Wei Wong, Gian Volpicelli, Spencer Soper e Thomas Seal.
