Funcionários da administração Trump concluiu as negociações com a Anthropic na segunda-feira sem os controles de exportação que foram impostos na semana passada aos modelos de IA mais avançados da empresa para atender às preocupações com as prisões, de acordo com três pessoas informadas sobre o assunto.
A administração continua acreditando que existem maneiras de desabilitar alguns guardas no Claude Fable 5 da Anthropic, permitindo efetivamente que os usuários acessem os poderosos recursos de segurança cibernética da empresa, o modelo Mythos, disseram as pessoas.
A Anthropic disse há dias que as preocupações do governo são infladas, ele enfatizou a posição do grupo em reuniões comerciais realizadas com pesquisadores do governo do Centro de Padrões e Inovação de IA e do Gabinete do Diretor Nacional Cibernético, Sean Cairncross, disse uma das pessoas.
Também foram realizadas reuniões com o secretário do Comércio, Howard Lutnicki, que participava de uma teleconferência na cúpula do G7 em Evian, França. O próprio Cairncross não estava envolvido, disse a pessoa.
Do lado humano, o cofundador e diretor de computação Tom Brown e a chefe de relações externas Sarah Heck lideram as discussões. O chefe da Fronteira Vermelha Antrópica, Logan Graham, e o pesquisador sênior de segurança Nicholas Carlini voaram para Washington para as negociações.
“Ambas as partes precisam resolver esta questão rapidamente”, disse um porta-voz da Antropologia em comunicado à WIRED. Um porta-voz da Casa Branca não quis comentar.
Não está imediatamente claro como qualquer uma das próximas etapas poderá ocorrer. O Departamento de Comércio indicou que está disposto a encontrar uma maneira de trazer o Fable 5 de volta ao uso online do consumidor, mas isso dependerá de uma abordagem completa às preocupações antropogênicas da prisão, disse a pessoa.
Eles estão tingidos de medo
As discussões mais úteis surgiram sobre a importância política da Antropologia, que já estava numa longa batalha com o Pentágono sobre se os seus modelos de IA poderiam ser usados para algumas aplicações militares.
A administração Trump foi alertada pela primeira vez sobre a fuga na semana passada. O CEO da Amazon, Andy Jassy, ligou diretamente para o secretário do Tesouro, Scott Bessent, sobre as supostas vulnerabilidades, que tiveram um papel importante no discurso do governo, disseram as pessoas. A entrevista de Jassy com a administração Trump foi a primeira anunciado pela Informação.
Alarmados, os funcionários da Casa Branca recrutaram a NSA para analisar as vulnerabilidades. A NSA respondeu que acreditava que poderia de fato roubar os guardas do Fable V, com a administração impondo restrições ao modelo.
Lutnick então conversou com o presidente-executivo da Anthropo, Dario Amodei, na sexta-feira, enquanto o Departamento de Comércio redigia sua carta impondo controles ao Fable 5. No fim de semana, depois que a Anthropo cortou o acesso ao modelo para todos os usuários, Lutnick esteve em inúmeras ligações com Brown e Heck, de acordo com uma pessoa com conhecimento do assunto.
Não está claro por que a Amazon, um dos maiores investidores da Anthropica, soou o alarme na Story 5. “Como fornecedor líder de nuvem que atende uma série de clientes públicos e privados, não é incomum que os governos busquem nosso conselho sobre possíveis riscos de segurança”, disse um porta-voz da Amazon à WIRED. “Quando eles se reúnem, não compartilhamos os detalhes dessas discussões”.
Desconexão de segurança
No meio das conversas entre a antrópica e a administração há um desentendimento sobre a severidade de Cláudio Fábula 5 em romper os vínculos.
Em um postagem no blog Na sexta-feira, a Anthropic deu a entender que as contas da administração sobre riscos potenciais estavam infladas. Alguns pesquisadores de segurança cibernética enfatizaram essa ideia às autoridades na segunda-feira, enviando um arquivo . uma carta aberta alegando que a ação ilegal de exportação contra o antrópico foi recebida.
“Os modelos da classe Antrópico Mythos são bons o suficiente para encontrar falhas e consertar coisas. Mas esses trabalhos não são os únicos bons, e muitas pessoas abaixo assinadas usam regularmente outras fundações e modelos abertos para segurança do público e hacking diário”, diz a carta aberta. “No entanto, esta ação retirou os melhores exemplos dos defensores, criou um mercado incerto e submeteu a América aos líderes da IA sem qualquer risco real para provar isso.”
