Não manipule antrópicos O modelo generativo de IA de Claude tem um ex-militar dos EUA, escreveu o executivo em um processo judicial na sexta-feira. Foi uma resposta às acusações da administração Trump de potencialmente adulterar as suas ferramentas de IA durante a guerra.
“A Anthropica nunca teve a capacidade de fechar por motivos de interrupção do trabalho, alteração de funcionalidade, bloqueio de acesso ou de outra forma influenciar ou colocar em risco operações militares”, Thiyagu Ramasamy, chefe do setor público da Anthropica; ele escreveu. “A Anthropic não tem acesso para desabilitar tecnologia ou mudar padrões de comportamento antes ou durante as operações em andamento.”
O principal laboratório de IA do Pentágono passou meses concentrando-se em como a sua tecnologia pode ser usada para a segurança nacional e como pode ser usada. Este mês, o secretário da Defesa, Pete Hegseth, rotulou uma ameaça antropogénica à cadeia de abastecimento, uma designação que impedirá o Departamento de Defesa de utilizar o software da empresa, inclusive através de empreiteiros, durante os próximos meses. Outras agências federais também deixaram Claud.
A Anthropica ajuizou duas ações questionando a constitucionalidade da proibição e buscando ordem para revogá-la. No entanto, os clientes já estão trabalhando no projeto. A audiência de um dos casos está marcada para 4 de abril no tribunal federal de São Francisco. Um juiz pode decidir sobre uma reversão temporária logo depois.
Num documento apresentado no início desta semana, funcionários do governo escreveram que o Departamento de Defesa “não é obrigado a tolerar o risco de que sistemas militares críticos sejam comprometidos em áreas-chave para a defesa nacional e operações militares activas”.
O Pentágono usou o Close para analisar dados, escrever memorandos e ajudar a gerar planos de batalha, informou a WIRED. O argumento do governo é que os antropólogos podem perturbar as operações militares activas, bloqueando o acesso ao Claude ou promovendo actualizações prejudiciais se a empresa desaprovar determinadas utilizações.
Ramasamy rejeitou essa possibilidade. “Anthropic não retém nenhum ‘kill pass’ remoto”, escreveu ele. “Os eleitores antrópicos não podem, por exemplo, alterar ou desabilitar o log nos modelos do sistema DoW em operação; a tecnologia simplesmente não funciona dessa forma.”
Ele disse que a Anthropica só pode fornecer atualizações com a aprovação do governo e de seu provedor de nuvem, neste caso a Amazon Web Services, embora não os tenha mencionado especificamente. Ramasamia acrescentou que a Anthropic não pode acessar sugestões ou outras informações militares dos usuários de Claude.
Os executivos da Antrópico afirmam que, nos tribunais, os restos da sociedade não querem intervir nos julgamentos militares e táticos. Sarah Heck, chefe de planejamento; ele escreveu “Para evitar dúvidas, (Anthropic) entende que esta licença não concede ou confere qualquer direito de controlar ou proibir a tomada de decisões operacionais legais do Departamento de Guerra”, de acordo com o documento, que se referia a outro nome do Pentágono.
A empresa também estava disposta a aceitar a linguagem usada por Claude para abordar as suas preocupações sobre tiros fatais sem supervisão humana, disse Heck. mas finalmente o tratado foi quebrado.
Por enquanto, o Departamento de Defesa ele disse no processo judicial que “toma medidas adicionais para reduzir o risco da cadeia de suprimentos” propostas pela empresa “trabalhando com provedores terceirizados de serviços em nuvem para que a liderança antrópica não possa fazer mudanças unilaterais” nos sistemas atualmente em vigor.
