O software criado pelo Serviço Nacional de Saúde está normalmente disponível ao público
Marek Parkon/Alamy
O NHS England está retirando às pressas todo o software que criou da vista do público depois de reconhecer o risco de hacking de inteligência artificial de ponta. Especialistas em segurança dizem que a medida é desnecessária e contraproducente.
O software criado pelo Serviço Nacional de Saúde era anteriormente de código aberto; Listado no GitHub Porque é feito com dinheiro público. Isso permite que outras organizações aproveitem isso e criem melhores serviços a um custo menor, sem duplicar esforços.
No entanto, o NHS England emitiu novas orientações ao pessoal, que foram partilhadas com o pessoal. novo cientistaexigindo que o software existente e futuro seja removido da vista do público e mantido a portas fechadas. “Todos os repositórios de código-fonte devem ser privados por padrão. Os repositórios não devem ser tornados públicos, a menos que haja uma necessidade explícita e excepcional e o acesso público tenha sido formalmente aprovado”, afirma a nova orientação. O prazo para tornar seu código privado é 11 de maio.
No mês passado, foi amplamente divulgado que uma IA criada pela Anthropic chamada Mythos poderia encontrar falhas em praticamente qualquer software, potencialmente permitindo que hackers invadissem os sistemas que executam o software.
A orientação do NHS England destaca especificamente o mito como causa para as novas medidas. “Os repositórios públicos aumentam significativamente o risco de exposição não intencional de código-fonte, decisões arquitetônicas, detalhes de configuração e informações contextuais que podem ser exploradas, especialmente devido aos rápidos avanços nos modelos Al (por exemplo, o desenvolvimento de modelos Mythos) que são capazes de ingestão de código, inferência e inferência em escala”, escreveram eles. “Esta linha vermelha estabelece uma postura fechada padrão para o código, ao mesmo tempo que garante que as organizações avaliem o impacto dessas mudanças e garantam que a publicação do código seja uma decisão intencional, revisada e legítima.”
No entanto, o AI Security Institute (AISI), apoiado pelo governo do Reino Unido, mitos pesquisados Descobriu que só poderia atacar “sistemas corporativos pequenos, mal defendidos e vulneráveis” e concluiu que não havia indicação de que software ou redes verdadeiramente seguras estivessem em risco.
As novas medidas vão contra os padrões de serviço do NHS, que exigem que o software criado pelos funcionários seja de código aberto. “Os serviços públicos são construídos com dinheiro público, por isso, a menos que haja uma boa razão para não o fazer, o código subjacente deve ser disponibilizado publicamente para que outros possam reutilizar e desenvolver. O código-fonte aberto ajuda as equipas a poupar esforços duplicados e a construir melhores serviços mais rapidamente.” A orientação anterior diz:.
O software de código aberto para serviços públicos também cria maior confiança e transparência. Por exemplo, o código do sistema Horizon IT que orientou os Correios do Reino Unido é Perseguir pessoas inocentes por roubo e fraude Se tivesse sido tornado público, o escândalo poderia não ter durado anos.
Terrence ÉdenO funcionário público britânico, que tem uma vasta experiência de trabalho na abertura do acesso a dados públicos, disse que a medida não fazia sentido lógico.
“É possível que o Mythos verifique um repositório e encontre um bug? Sim, 100 por cento provável. Será um bug que causa um problema de segurança em algum serviço do NHS em execução? Quase certamente não”, diz Eden. “Acho que alguém no NHS da Inglaterra está entrando em pânico, aproveitando o hype de que Mythos causará o fim da segurança como a conhecemos.”
Eden diz que o software de código aberto é na verdade mais seguro porque mais pessoas podem verificar se há falhas no software, e a maioria dos softwares do NHS não tem quaisquer implicações significativas de segurança de qualquer maneira. É importante ressaltar que, dado que o código está disponível publicamente há anos, ele continuará a existir em vários backups e downloads de qualquer maneira.
“Parar com isso agora é como trancar a porta do estábulo depois que o cavalo vai embora”, diz Eden. “Eu e as pessoas com quem falei no NHS estamos confusos e não temos ideia do que isso está tentando alcançar.”
Um porta-voz do NHS England disse: “Para fortalecer ainda mais nossa segurança cibernética, estamos restringindo temporariamente o acesso a alguns códigos-fonte do NHS England enquanto avaliamos o impacto do rápido desenvolvimento de nossos modelos de IA. Continuaremos a disponibilizar o código-fonte publicamente quando for claramente necessário.”
tópico:
