O site de notícias Axios informou que o Pentágono está perto de cortar relações com a Anthropic e pode rotular a empresa de inteligência artificial como uma ameaça à cadeia de suprimentos, depois de ficar frustrada com as restrições sobre como pode usar a tecnologia.
As negociações da Antrópico com o Pentágono sobre a extensão do contrato estão sendo adiadas devido a salvaguardas adicionais que a empresa de inteligência artificial deseja colocar em sua ferramenta de nuvem, disse uma pessoa familiarizada com o assunto.
A Anthropic quer implementar salvaguardas para evitar que a nuvem seja usada para vigilância em massa de americanos ou para desenvolver armas que possam ser implantadas sem o envolvimento de um ser humano, disse a pessoa, pedindo para não ser identificada porque as negociações são privadas.
O Pentágono quer poder usar a nuvem desde que a sua implantação não viole a lei. Axios relatou pela primeira vez a discrepância.
Casos de utilização de IA para desenvolver armas e recolher dados pessoais são uma ameaça crescente a modelos poderosos. Anthropic, que se posiciona como uma empresa de IA mais responsável que visa prevenir danos catastróficos da tecnologia, Claude Gov foi concebido especificamente para o aparelho de segurança nacional dos EUA e visa servir os utilizadores do governo dentro dos seus limites éticos.
Claude Gov aumentou as capacidades no tratamento e interpretação de materiais e informações confidenciais e na compreensão de dados de segurança cibernética.
