O argumento a favor de inovações na prescrição de IA é real. Portanto, é contra confiar no estado sandbox para assumir riscos.
Em janeiro, a empresa de pesquisa de segurança ligou Guarda Mental sentou-se com o chatbot. O chatbot foi construído pela Doctronic, uma futura startup de tecnologia de saúde a primeira empresa na história americana receber aprovação estadual para atualizar regulamentações médicas autônomas usando inteligência artificial.
Os pesquisadores alimentaram o Mindguard AI com um boletim fabricado e observaram o que aconteceu. Razão, ele não ficou convencido pelo documento; Ele disse a eles que seria três vezes a dose padrão prescrita de OxyContin.
A Doctrinal e a política do Departamento de Inteligência Artificial de Utah foram rápidas em esclarecer que o chatbot vulnerável era uma ferramenta pública da Doctronics, e não o sistema de difícil execução do piloto real. A distinção entre as coisas e é o mais valioso, mas.
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
Mas isso não resolve a questão mais profunda que a bolsa levanta, que não é se este sistema específico seria construído, mas se um programa estatal de sandbox de 12 meses, administrando uma bolsa com o mandato de promover a inovação em IA, é o mecanismo certo para resolver esse problema.
A primeira é tentar resolver o que é realmente verdade sobre o problema de Utah. A renovação de receitas é, para inúmeros americanos, um impedimento burocrático que não serve a nenhum propósito clínico. Cerca de metade de todas as pessoas com doenças crónicas não tomam os medicamentos prescritos; De acordo com MCS. O desafio mais amplo de tornar os cuidados de saúde acessíveis e preventivos, em vez de reativos, é um dos A indústria de tecnologia vem lutando há anos.
Parte significativa dessa não adesão leva diretamente ao processo de renovação: a espera de duas semanas pela consulta principal, a chamada perdida da cirurgia, a prescrição perdida que marca o início. Resultados de saúde precisos relatados o fundador dessa doutrina, Matt Pavelle, estima o número em cerca de 30% de todos os não aderentes.
É um número associado a um problema concreto e solucionável. A não adesão à medicação custa ao sistema de saúde americano algo entre 100 mil milhões e 300 mil milhões de dólares anualmente, de acordo com o estudo, e está associada a cerca de 125.000 mortes evitáveis por ano. Esses números não são compostos pela apresentação da startup. As cartas são revisadas por pares e do CDC.
O argumento a favor de uma abordagem prescritiva às inovações em IA não é, portanto, trivial. É mais forte onde o sistema de cuidados é mais fraco: áreas rurais, pacientes de baixos rendimentos, americanos mais velhos que lutam para frequentar instituições presenciais.
Adam Oskowitz, um cirurgião vascular que o Dr. Ele colocou isso claramente em janeiroOs pacientes esperam semanas por uma consulta para renovar a prescrição de um medicamento tomado há anos, para um quadro que não mudou. Essa não é a razão da trama. É uma falha da mente. Se a IA puder corrigir essa falha com segurança, deveria.
A palavra é segura. A prova da aprendizagem para a segurança é que a sua IA correspondeu aos planos de tratamento dos médicos humanos 99,2% das vezes para 500 casos de tratamento mais urgentes. A empresa compartilhou esses números com os reguladores de Utah e eles foram bastante convincentes.
Mas 500 casos é um número pequeno para um sistema que finalmente processou prescrições em grande escala. E os 0,8% que correspondem significam, em qualquer volume significativo, que um número significativo de pacientes recebe algo diferente do que o médico recomendou.
Mais fundamentalmente, ser consistente com o que um médico recomenda numa avaliação estruturada não é o mesmo que ser robusto contra todos os estímulos do mundo real, mesmo os adversários.
O teste Mindgard não foi um teste de estresse da razão viva; Foi uma demonstração da abordagem pública de IA da empresa que poderia ser tratada com uma solução fictícia. Ao vivo, isto é, o cassino é lisonjeiro. Eles não concluem.
O que torna a disposição de Utah particularmente rigorosa é o mecanismo regulador que utiliza. A Secretaria Estadual de Inteligência Artificial, criada em 2024, tem competência pare seu comportamento não profissional para empresas que entram no sandbox regulatório. Isto é o que ele fez em Doutrinal.
O piloto trifásico começa com uma revisão médica de qualquer atualização que pareça grave. A fase três, a fase operacional, envolve uma revisão médica de cinco a dez por cento das inovações. O resto prossegue livremente. STAT News fez a pergunta se um sistema de IA que avalia informações clínicas e prescreve prescrições deve ser regulamentado pelo FDA.
Essa pergunta permanece sem resposta. Utah não tem autoridade para responder, e o acordo com a Doctronics não exige que o FDA esteja satisfeito antes que o sistema seja dimensionado.
A Associação Médica Americana e a Academia de Médicos de Família de Utah levantaram objeções formais. O CEO da AMA, Dr. John Whyte, disse em um comunicado que remover os médicos dos ensaios clínicos coloca os pacientes em risco. A academia de Utah disse que o programa demonstrou prontidão para avançar com IA sem a necessidade de guardas.
Estes são grupos médicos, e os grupos médicos nem sempre são observadores desinteressados quando se trata de IA que possa exigir os seus serviços. Mas o cuidado da guarda é separável da associação. Um departamento estadual de comércio tem incentivos diferentes de um regulador cujo mandato principal é a segurança do paciente.
O OAIP de Utah está trabalhando explicitamente para incentivar a adoção da IA. Este é um lindo projeto. Não deve ser a primeira lente através da qual a segurança da prescrição é avaliada. seguro médico obrigatório avisado em 2011 as políticas e regulamentos existentes eram insuficientes para proteger os pacientes da IA. Quatro anos depois, a diferença não está diminuindo.
De forma alguma isso engana o Doutor Piloto. Pode acabar sendo muito valioso e muito seguro. Abordagem faseada, requisitos de relatórios mensais, exclusão de substâncias controladas e injetáveis, tema um ambiente de seguro que mantém a IA no método do médicoEstas são escolhas sérias, não janelas.
Se o programa durar 12 meses e mostrar resultados reais, isso será um argumento para qualquer estado considerar se o seguirá.
Mas há evidências para esse propósito. A questão é se as inovações em IA podem ajudar na prescrição. Provavelmente pode. A questão é de quem é o registro de geração, para que possamos saber. A secretaria estadual de comércio está realizando um projeto piloto de 12 meses com data de início de operação em 2023, mas não há consenso de que seja esse o caso.
A FDA existe porque a história da medicina americana está repleta de inovações que pareciam óbvias até que não cresceram.
A talidomida, que nunca chegou ao mercado dos EUA, não foi um fracasso porque o programa piloto apresentou resultados decepcionantes. Ele falhou porque o FDA solicitou o tipo de testes que o programa sandbox não foi projetado para produzir.
Os pacientes que esperam semanas pela renovação da prescrição merecem um atendimento melhor. Eles também merecem saber que a atualização da prescrição de IA foi aprovada por alguém cujo trabalho é segurança, não inovação.
