Os democratas no Congresso estão tentando aprovar projetos de lei que limitariam o uso de inteligência artificial pelo Departamento de Defesa.
Esta semana, o senador republicano Adam Schiff, da Califórnia, revelou autoridade humana em operações letais (HALO), um projeto de lei que exigiria que um imperador humano tivesse a palavra final em qualquer ação tomada por sistemas de armas autônomos. O projeto de lei também exigiria a retenção da mídia sobre como as decisões militares foram tomadas e os alvos para vigilância recente, estabelecendo defesas antimísseis, proibindo o uso de IA em certos casos de armas nucleares e vigilância em massa.
“Nos últimos meses, mostramos que há uma necessidade de vigilância constante para garantir que o uso da IA pelo Departamento de Defesa esteja alinhado com as prioridades de segurança e privacidade nacional dos Estados Unidos”, disse o senador Schiff em um comunicado à imprensa. solte. “A minha legislação protege os americanos da vigilância doméstica ilegal, responsabiliza as pessoas na cadeia governamental pela utilização de qualquer tecnologia letal e fornece fortes salvaguardas éticas para a utilização de armas autónomas e semiautônomas”.
A inteligência artificial já faz parte das forças armadas há algum tempo. Soldados de todo o mundo estão a utilizar sistemas de IA para selecção de alvos em ataques e vigilância em massa, um dos exemplos mais proeminentes de IA utilizada pelo exército israelita contra os palestinianos. Os Estados Unidos também há muito implantam inteligência artificial em operações militares, inclusive nas recentes guerra contra o Irã
Mas no início deste ano, o uso da IA nas forças armadas foi catapultado para o topo do discurso público quando a existência de um acordo entre o Pentágono e a Anthropic desmoronou e, num movimento incomum, o gigante da IA foi designado como uma ameaça à cadeia de abastecimento. A Anthropic supostamente queria remover os guardiões de seus sistemas de IA, para que o DoD não usasse seu modelo para ambientes domésticos e armas completamente autônomos, implicando pouco ou nenhum envolvimento humano.
Após o fracasso do acordo, o Pentágono assinou contratos com quase todas as outras grandes empresas de IA, incluindo OpenAI, Google, Nvidia, SpaceX, Microsoft e Amazon Web Services. Enquanto isso, a Anthropic contestou a designação em tribunal, embora relatórios digam que a administração Trump está entusiasmada com a empresa após o lançamento do Mythos, o seu mais recente modelo num sonho para a indústria de segurança cibernética.
Após a ruptura da própria administração pública de Trump com o antropomorfismo, o apoio dos democratas à sociedade da IA e ao seu estado progrediu. Essa lista inclui o senador Schiff, autor da Lei Hacon.
“Eu gostaria que tivéssemos mais vozes como a Anthropic por aí”, disse o senador Schiff ele disse na Punchbowl News Conference em março.
Schiff apresentou uma série de propostas relacionadas com a IA ao longo dos últimos meses, incluindo propostas que pagarão aos maiores centros de dados pela sua energia, o que levou as empresas de IA a divulgarem. da lei trabalho para treinar e trazer modelos Alfabetização em IA aulas para escolas. É agora corresponder buscando submeter este projeto de lei ao pacote anual de financiamento militar, também conhecido como NDAA, que deverá ser aprovado até o final do próximo ano.
Ele não é o único democrata que tomou uma decisão deste tipo. A senadora Kirsten Gillibrand, de Nova York, apresentada por muito parecido com a lei No início deste mês, foram impostas restrições ao uso de IA na implantação de armas nucleares, na segurança doméstica e em armas totalmente autónomas. Tudo isso e muito mais”um ato altamente consequente“Como o projeto de lei os define, eles precisariam da aprovação de um funcionário de alto escalão do DOD para seguir em frente. O senador Gillibrand também está considerando apresentar o projeto como um melhoria para o NDAA
Então, a Lei AI Guardrails foi introduzida pela senadora Elissa Slotkin, que retornou de Michigan em março. As propostas do senador Slotkin Schiff e Gillibrand também são muito semelhantes às dos vigilantes, o senador É Slotkin. corresponder está se preparando para introduzir também essa alteração na NDAA.
Embora todas estas três propostas se esforcem por trazer a supervisão humana a qualquer vigilância realizada por sistemas de IA em ambientes de tomada de decisão militar, não é aí que os perigos terminam.
Muitos usuários de IA trabalham com o que chamam de especialistas viés de automaçãotambém conhecido como acreditar que um sistema de IA pode tomar decisões mais precisas do que você porque tem acesso a mais informações ou sistemas, talvez de uma forma mais eficiente. Isto claramente não é verdade: a tecnologia está longe de ser perfeita e os LLMs são propensos à fantasia ou ao pensamento tendencioso. Combine isso com a natureza de “caixa preta” da IA, onde os usuários não têm uma visão completa de como ou por que o sistema está procedendo da maneira que está, e você terá uma estratégia militar de IA que ainda pode levar a erros desastrosos, mesmo com supervisão humana.
