TL, DR *
Utah se tornou o primeiro estado dos EUA a atualizar seu chatbot de IA, Doctronic, sem receita médica, por meio de uma sandbox regulatória que flexibilizou as leis de licenciamento de privilégios. Cego pelo conselho de licenciamento médico do estado desde o lançamento em janeiro, ele apelou em abril para que o piloto parasse por risco de segurança, mas o estado recusou. O caso expõe um vácuo na regulamentação estadual federal em torno da IA na medicina.
Utah tornou-se silenciosamente o primeiro estado dos EUA a atualizar suas leis de chatbot de IA sem médico. de acordo com a Associated Press. O programa, denominado Doctronics pela empresa, foi lançado em janeiro e gerou um acalorado debate médico.
Os residentes podem dispensar o consultório médico e preencher receitas online por meio de um chatbot. Ele pergunta sobre o medicamento e seu histórico, passa na farmácia nacional e renova a receita ou vai ao médico humano.
Só podemos usar um “caixa de areia normal” o que permite que as autoridades de Utah aprovem leis que prometem IA. Os regulamentos estaduais e federais restringem a prescrição por profissionais médicos licenciados.
Espaço TNW City Coworking – onde o melhor trabalho é feito
Um espaço de trabalho para crescimento, colaboração e oportunidades infinitas de networking no coração da tecnologia.
“Nós cruzamos o limite em termos de conceder algo que é uma licença médica não humana, quer queiramos chamar assim”, disse o Dr. Eric Bressman da Universidade da Pensilvânia à AP. Ele e outros dizem que não são contra a prescrição de IA, mas querem que ela siga padrões mais rígidos do que os médicos humanos.
A mesa que saiu e
O conselho de licenciamento médico de Utah afirma que só tomou conhecimento do programa quando anunciou seu lançamento em janeiro. Na carta de abril, 11 membros chamou o piloto para pararapresentam o risco de medicamentos auto-renováveis com efeitos colaterais ou interações.
“Essencialmente, estamos sendo informados: ‘É assim que as coisas são’. E você não tem isso”, disse o Dr. Alan Smith, um médico de família que faz parte do conselho, mas falou em seu próprio nome.
Cidade Ele não queria ser suspensoneste primeiro período, notando os médicos humanos, ainda revisaremos todo o crescimento nesta primeira idade.
O programa é atualmente supervisionado por um conselho composto por cinco membros de especialistas em IA, nenhum dos quais é especialista. A Doctrinal espera migrar para recargas totalmente automatizadas em breve.
Smith alerta que os perigos são reais, ressaltando que a medicação do médico inclui cerca de 190 anticoagulantes recarregáveis, que podem se tornar perigosos se o paciente tiver hemorragia interna. A Associação Médica Americana reiterou a sua preocupação de que “as inovações na prescrição não inibirão a prática”.
Um vácuo regulatório
O caso envolve uma jurisdição complexa porque a tecnologia médica é regulamentada pelo governo federal, enquanto os profissionais médicos são atendidos pelos estados. Embora os seus conselhos de ensino tenham estabelecido a IA como parte da prática médica do governo, alguns especialistas argumentam que ela passou para o território da FDA.
A empresa não informou se solicitou permissão da FDA. A agência disse à AP que não implantou nenhum chatbots de IA, mas deseja incentivar a inovação, uma postura indiferente que acomoda a inclusão mais ampla de ferramentas de saúde baseadas em IA.
Os críticos veem a história como uma rima, quando Bressman compara o momento à medicina casual do início do século 20, antes de existirem comprimidos e selos. Um exemplo de licenciamento de IA para serviços médicos em outros estados vem do Cicero Institute, um think tank pró-IA fundado pelo cofundador da Palantir, Joe Lonsdale.
Os riscos não são elevados, como alertaram os investigadores de segurança, já que os chatbots alertam as autoridades quando apresentam planos perigosos. Outros alertam que retirar as pessoas dos cuidados pode prejudicar os resultados que prometem.
Os rivais também estão correndo para descrever esses métodos de fracasso. Meta chegou até a adolescência para experimentar como o caos competitivo lida com temas delicados.
As propostas acadêmicas foram revisadas por pares no final deste ano, embora o único artigo publicado tenha sido escrito por seus próprios cientistas e não revisado por pares de forma independente. Como disse um professor de direito de Utah, as empresas liberariam o risco de raça fora dos testes de tecnologia e trairiam a capacidade técnica do público.
