Diz que é antrópico desativar os dois modelos de IA lançados no início desta semana, Claude Fable 5 e Mythos 5, para cumprir a diretiva de controle de exportação recebida na tarde de sexta-feira pelo governo dos EUA, citando preocupações de segurança nacional.
O último incidente marca o último ponto de conflito entre a Antropologia e a administração Trump. Embora a empresa afirme ter solicitado uma ordem para suspender o acesso a “qualquer cidadão estrangeiro, seja dentro ou fora dos Estados Unidos, incluindo os funcionários estrangeiros da Anthropo”, ela removeu o acesso a todos os seus clientes para garantir o cumprimento.
No início deste ano, o Departamento de Defesa de Trump rotulou a “ameaça à cadeia de abastecimento” antropogénica depois de o criador da nuvem ter procurado traçar limites sobre como os militares dos EUA poderiam usar a sua tecnologia. O projeto impediu efetivamente que agências governamentais e empreiteiros usassem tecnologia feita pelo homem. A Anthropica respondeu entrando com ações judiciais contra a administração Trump.
Na terça-feira, a Anthropica lançou oficialmente Claude Fable V, uma versão dos modelos Mythos AI da empresa com precauções que os impedem de responder perguntas sobre segurança cibernética, biologia e química. Antes do lançamento público, que a Anthropica disse ter feito em cooperação com o governo dos EUA, teve uma prévia limitada do modelo Mythos AI em abril. O objetivo era fornecer às empresas e organizações a capacidade de utilizar capacidades de segurança cibernética para melhorar as suas defesas e garantir que as tecnologias fossem exploradas por malfeitores para desenvolver ferramentas poderosas de hacking.
Em um postagem no blog Na sexta-feira, a Anthropic afirma ter recebido uma carta do governo dos EUA às 17h21 horário do leste dos EUA. “A carta não apresentava quaisquer preocupações específicas de segurança nacional”, escreveu o antropólogo.
“É nosso entendimento que o governo compreendeu o método de contornar, ou ‘jailbreak’, Fable V, acrescentou a empresa. “Revisamos uma demonstração desta técnica específica sendo usada para identificar um pequeno número de feridas menores previamente conhecidas. Todas essas divulgações parecem ser relativamente simples, e descobrimos que outros modelos disponíveis publicamente também podem detectá-las sem serem esquecidos”.
Numa publicação no blog, a empresa confirmou que reforçou as salvaguardas para reduzir a probabilidade de explorações do Fable V. A Anthropic também afirmou que o regime prisional dos EUA para Claudia Fable 5 era restrito e não tornava o invasor significativamente mais perigoso do que seria com outro modelo de IA.
“Até o momento, o governo apenas nos deu documentação verbal de bandas de potência estreitas e não universais, que consiste essencialmente em pedir ao modelo para instalar uma determinada base de código e corrigir quaisquer falhas de software”, disse a empresa em seu blog. “Nosso entendimento é que uma potencial fuga de prisão foi compartilhada com o governo.”
Porta-vozes da Casa Branca e do Departamento de Comércio dos EUA não responderam imediatamente ao pedido de comentários da WIRED.
O CEO da Anthropic, Dario Amodei, disse em uma declaração política no início desta semana que ele e a empresa apoiam um processo de governança justo, estruturado e transparente que impediria o lançamento de modelos de IA inseguros. No blog da empresa na sexta-feira, a Anthropic argumentou que “esta ação não segue esses princípios”.
