O objetivo da IA médica é liberar os médicos para cuidar dos pacientes. Duas histórias desta semana sugerem que as coisas podem acontecer no sentido contrário. Em Nova York, as enfermeiras substituíram o programa. Em Minnesota, o ex-chefe da Clínica Mayo disse que não é seguro confiar no programa.
Marilyn Shuler, de 39 anos, leu os prontuários dos pacientes no Hospital Montefiore, no Bronx. Este mês, uma em cada dez enfermeiras foi despedida, substituída por um programa de IA que faz parte do mesmo trabalho, afirma o seu sindicato.
Os enfermeiros foram tratados por meio de uma revisão. Eles leem os gráficos e discutem com as seguradoras sobre quais cuidados são cobertos. A Associação de Enfermeiras Leigas do Estado de Nova Iorque afirma que as enfermeiras quebraram o contrato depois de recentemente terem entrado em greve; O guarda relatou.
“Também deveria preocupar todos os médicos e pacientes que se preocupam em… receber cuidados de qualidade”, disse Shaiju Kalathil, enfermeiro de Montefiore e representante sindical. Montefiore discute a compota. Ele chama as alegações da fusão de “precisas e enganosas” e diz que a mudança envolve software não clínico e papelada.
O que o denunciante viu
Se Nova York é uma questão de empregos, Minnesota é uma questão de confiança. E foi mais assustador.
Tecnologia da UE
As últimas notícias sobre o cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte questionável de IA. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
Traci Tamiko Eto ingressou na Clínica Mayo em 2023 para ajudar a construir proteções em torno de sua IA. No novo processo, ela diz que o hospital a derrubou e a acordou em pânico com o lançamento da IA; Rádio Pública de Minnesota relatou.
Ele tem suas próprias reivindicações. A equipe por trás do assistente de IA, chamada MAYA, alega que ele excluiu os resultados dos testes de bajulação, exagerou no que a ferramenta poderia fazer e a jogou fora sem a devida inspeção. A certa altura, diz o processo, a ferramenta tinha uma taxa de erro de até 67%.
Mayo afirma que está comprometida com a IA responsável, com privacidade, segurança e conformidade incorporadas ao seu trabalho. Agora, se ele julgar, ele descreve outra coisa. Descreve um sistema que verifica o passado e quer detectar erros.
Um meio termo entre promessa e prática
Estes são dois casos, não uma tendência. A culpa é de quem lisonjeia essa parte.
O cuidado é onde os benefícios da IA devem ser mais claros e onde as suas falhas são menos perdoadas. Lacey tem vergonha de perceber. O papel rasgado é perigoso.
Os comentários agora estão mais preocupados. Utah liberou prescrições de IA para renovação sem médico. A investigação continua a constatar que confiar na IA pode desgastar silenciosamente as competências profissionais concebidas para proteger e abreviar as carreiras dos especialistas empresariais. Empregadores, desde a Allianz até a Thomson Reuters, já estão trocando funcionários por modelos.
Quem assume o risco
É o fio condutor que acaba segurando o risco. Montefiore fica com as economias; tudo o que o paciente deseja lamentar. Mayo ganha eficácia; ele disse, apontando para a porta.
Nenhum dos casos foi provado em tribunal e ambos os hospitais defendem-no. Mas, ao mesmo tempo, eles deixam claro que a IA médica apenas acrescenta uma mão amiga. Às vezes ele remove um. E às vezes o homem que entende a melhor máquina é o primeiro a dizer para sair.
