Os legisladores estão se preparando para introduzir a “AI Kill Switch Act”, que exigiria que as empresas de IA desligassem seus sistemas ou se engasgassem com as ordens do Departamento de Segurança Interna. segundo o relatório de Politicamente. Espera-se que os representantes Ted Lieu (D-CA) e Nathaniel Moran (R-TX) apresentem a legislação na quinta-feira.
O anúncio da proposta proposta segue a admissão da OpenAI de que seus sistemas de IA pontuaram falsamente o Hugging Face em uma avaliação interna. O projecto de lei diz que, em consulta com o Secretário do Comércio e o Director de Inteligência Nacional (DNI), o DHS tem a capacidade de ordenar às empresas de IA que escondam os seus modelos em cenários que envolvam a morte de pelo menos 10 pessoas “perda de poder”, perdas económicas de mais de 100 milhões de dólares, ou uma tentativa de esconder o modelo de paralisação do governo.
Ao mesmo tempo, as principais empresas de IA precisariam criar tecnologias para desativar os seus sistemas, torná-los mais lentos e suspender o acesso dos utilizadores. Eles também tiveram que relatar eventos de segurança, com violações da ordem de desligamento de emergência chegando a US$ 20 milhões por dia.
Brad Carson, presidente da organização sem fins lucrativos Americanos pela Inovação Responsável, disse que o projeto é “um grande passo para garantir que as pessoas tenham ambas as mãos firmemente no volante – e um pé pronto para quebrar – à medida que os sistemas de IA são desenvolvidos”.
