A aplicação da literatura antropogénica pelo governo dos EUA, que efetivamente forçou a empresa a retirar os seus mais recentes modelos de IA do ar durante o fim de semana, deveria ser um alerta para qualquer empresa de tecnologia dos EUA – laboratório de IA ou outro.
Para ficar por dentro das notícias RÁPIDO: Na tarde de sexta-feira, o Departamento de Comércio dos EUA enviou uma carta à Anthropic invocando uma obscura diretiva de controle de exportação que proíbe não-americanos, incluindo funcionários da Anthropic, de acessar Fable 5 e Mythos 5, citando preocupações incertas de segurança nacional. A Anthropic disse acreditar ter uma carta para passar as amostras de custódia, mas não tem certeza porque a carta não fornece detalhes específicos. A carta não foi publicada.
Resposta: Antrópico fechado Ambos os seus principais modelos atenderam a todos os clientes, pois ele cumpriu a diretriz. Como resultado, o governo dos EUA forçou com sucesso a empresa de tecnologia a retirar os seus modelos do ar com uma ação rápida e unilateral que não parecia exigir a aprovação de um juiz.
A intervenção de sexta-feira da administração Trump demonstra que a indústria de IA não está imune à interferência governamental. Até mesmo a indústria de tecnologia em geral foi avisada: cumpra ou poderemos encerrar você e seus produtos.
citar fontes; Eixos Ele descreveu a situação tensa no fim de semana entre os dois principais atores, dizendo que “diferenças de personalidade” entre a Anthropic e a administração Trump levaram à diretiva de exportação, em vez de um problema técnico com produtos de IA.
Novos detalhes sobre o evento, que surgiram no fim de semana, lançaram agora mais dúvidas sobre o raciocínio instável do governo.
Katie Moussouris, veterana em segurança cibernética e pesquisadora que fundou a Mud Security, disse em uma postagem de blog A Anthropic recentemente compartilhou com ela uma cópia privada do artigo supostamente escrito por pesquisadores de segurança que passaram pelo guarda descrito na Fábula 5. (O Wall Street Journal relata os autores do artigo. Eles são pesquisadores de segurança da Amazon.) Moussouris disse que uma mão antrópica se estendeu para receber o papel solicitado.
A postagem no blog de Moussouris descreveu como os investigadores correram para contornar os guardas, mas disse que o desvio em si “nunca acionou o controle de exportação”. A diferença está em grande parte entre pedir a um modelo de IA para “revisar o código em busca de problemas de segurança” e pedir para “consertar esse código”. Em geral, o resultado final é o mesmo, embora as questões sejam apresentadas de forma um pouco diferente.
“Os comportamentos descritos no documento não podem ser corrigidos de forma significativa, e qualquer tentativa de enfraquecer o modelo de defesa apenas enfraquecerá”, disse Moussouris, que criticou a directiva de exportação do governo como precipitada, onerosa e perversa.
Moussouris e dezenas de outros pesquisadores e especialistas em segurança, que desde então apelaram à administração Trump para revogar a ordem de controle de exportação, consideraram “perigosa” a medida para retirar capacidades avançadas de segurança cibernética dos defensores de rede nos EUA.
As administrações anteriores tomaram decisões abrangentes sobre as lacunas de conhecimento. Por exemplo, a linguagem utilizada pelo governo dos EUA na década de 2010 para corrigir a lei de exportação de ferramentas de segurança cibernética, que também era tão ampla que poderia ser usada inadvertidamente para ataques cibernéticos, foi quase me afoguei pesquisa legítima de segurança e vulnerabilidade.
No entanto, a directiva da administração Trump parece ser uma retaliação.
Justin Hendrix, o Editor da Tech Policy PressEle disse que a medida do governo Trump “provavelmente provocará alarme nas capitais estrangeiras sobre a credibilidade da IA americana para aplicações críticas”. Esta mensagem é que as empresas de IA não podem operar nos Estados Unidos sem a interferência do governo dos EUA.
A administração Trump não confirmou por que invocou a directiva de controlo de exportações. A polícia e o jogo tiveram notícias de Hermola? O CEO da Amazon, Andy Jassy, disse algo a altos funcionários do governo que provocou uma reação, cautelosa ou maliciosa? Perdeu-se alguma coisa na transferência ou foi caminho para a pressão antrópica, com a qual o governo já tem uma relação rompida? É possível que a Casa Branca não esteja consciente das consequências das exigências da carta e que os responsáveis estejam a correr para pagar pelas perdas do seu próprio partido.
De acordo com Hendrix, “o clima é de nuvem de suspeita de que altos funcionários atraem favores com base em fatores pessoais e políticos”. O resultado final é que o governo está a dar um exemplo perigoso de quanto o governo pretende lançar software fabricado nos EUA.
Nessa época a liderança começou pelo antrópico; amanhã com qualquer outra pessoa.
Quando você compra através dos links de nossos artigos, podemos ganhar uma pequena comissão. Isto não afeta a nossa independência editorial.
