O NHS England normalmente abre o código do software que desenvolve
Mark Thomas/Shutterstock
A decisão do NHS England de retirar o código-fonte aberto criado com fundos dos contribuintes britânicos devido aos riscos representados pelos modelos de IA de hacking de computadores provocou uma reação negativa.
No mês passado, foi amplamente divulgado que Mythos, uma IA desenvolvida pela empresa de tecnologia Anthropic, tem a capacidade de descobrir falhas em praticamente qualquer software, permitindo potencialmente que hackers penetrem nos sistemas que executam esse software. O NHS England disse agora aos funcionários que o software existente e futuro deve ser removido da vista do público e mantido a portas fechadas até 11 de maio devido a este risco.
Esta decisão é contrária às normas de serviço do SNS. A norma exige que o software criado pela equipe seja de código aberto, permitindo que as ferramentas sejam construídas, melhoradas e usadas sem duplicação de esforços. E os especialistas dizem que remover o código da vista do público não contribuirá em nada para melhorar a segurança.
Agora, carta aberta Centenas de assinaturas foram recolhidas apelando ao NHS England para reverter a decisão. Até o momento em que este livro foi escrito, 682 pessoas assinaram a carta, incluindo autores e ativistas dos direitos digitais. cory doutorow O ex-secretário de Saúde do Reino Unido, Matt Hancock, foi contatado para comentar. novo cientistaapontou para Postar no LinkedIn Nele, ele chamou a política de “grande erro”.
“Uma das coisas mais inteligentes que o NHS fez nos últimos anos foi abrir seu código. O contribuinte pagou por isso, então eles deveriam se beneficiar dele”, escreveu Hancock. “Mas o caso do mundo real é igualmente forte: o código-fonte aberto é testado com mais rigor, é mais seguro e pode ser desenvolvido por pessoas talentosas em qualquer lugar do mundo.”
Vlad Stefan Halbs da Universidade de Edimburgo, Reino Unido, é coautor da carta aberta. Ele tem acesso ao Mythos e recentemente fez parte de um grupo que o utiliza para verificar vulnerabilidades no código de código aberto do NHS. Eles descobriram “várias vulnerabilidades relativamente sérias” e as divulgaram de forma responsável ao NHS antes de decidirem encerrar o projeto de código aberto.
“Não sabemos se a vulnerabilidade que reportamos foi o gatilho para este problema, mas provavelmente foi parte dele”, disse Harbuz. “Auditorias regulares de segurança e[modelos de linguagem em grande escala]disponíveis publicamente provavelmente encontrarão as mesmas vulnerabilidades que encontramos. Com o Mythos, o esforço é um pouco mais fácil. Mas o verdadeiro problema é uma falta sistêmica de investimento em segurança cibernética, e esse tem sido o caso mesmo antes da existência do Mythos.”
Harbuz acredita que os backups de todos os códigos do NHS ainda existirão e serão usados para treinar vários modelos de IA, mas ele se pergunta se recuperá-los do GitHub impedirá a contribuição de profissionais que se preocupam com a qualidade e segurança dos serviços públicos. “EU“Ao fechar o fornecimento, estamos prejudicando nossos apoiadores, não nossos agressores”, disse Halbs.
AI Security Institute (AISI), apoiado pelo governo do Reino Unido mitos pesquisados Descobriu que só poderia atacar “sistemas corporativos pequenos, mal defendidos e vulneráveis” e concluiu que não havia indicação de que redes ou software verdadeiramente seguros estivessem em risco.
Terrence ÉdenO funcionário público britânico, que tem uma vasta experiência de trabalho na abertura do acesso a dados públicos, concorda que a medida não faz sentido lógico.
“A confiança das pessoas no NHS depende de o nosso serviço de saúde ser aberto, transparente e honesto. Dado o quanto os nossos cuidados de saúde dependem de ferramentas digitais, o código aberto significa que não é negociável. Temos o direito de ver como estas ferramentas funcionam. Exorto o NHS a responder positivamente à petição e a cumprir as suas promessas às comunidades”, disse Eden.
Reino Unido O Departamento de Saúde e Serviços Humanos não respondeu aos pedidos de comentários. Um porta-voz do NHS England reiterou uma declaração anterior, dizendo: “Para fortalecer ainda mais a nossa segurança cibernética enquanto avaliamos o impacto do rápido desenvolvimento dos nossos modelos de IA, restringimos temporariamente o acesso a alguns códigos-fonte do NHS England.
tópico:
