no programa de quinta-feira PeteEclodiram tensões de longa data sobre o uso de inteligência artificial em um centro médico de trauma em Pittsburgh.
Na segunda temporada do drama médico cinco vezes vencedor do Emmy, o novo médico Baran Al-Hashimi (Sepid Moafi) está determinado a tornar o hospital mais eficiente. Ela disse aos funcionários céticos que o novo sistema de IA poderia reduzir o tempo gasto em gráficos em 80%, dando-lhes mais tempo ao lado da cama e em casa.
Mas no episódio seis, os médicos descobriram que a ferramenta de IA havia fabricado detalhes falsos sobre os pacientes e confundido “urologia” com “neurologia”.
“A taxa de erro de 2% da IA ainda é melhor do que o ditado”, disse Al-Hashimi, acrescentando que precisaria ser revisado em busca de erros. Mas um médico furioso, Dr. Campbell (Monika Bhatnagar), responde: “Não me importo se você quiser usar um robô aqui. Quero informações precisas nos registros médicos.”
Como muitos dos temas do programa, este enredo reflete debates da vida real que ocorrem em hospitais de todo o país. Dois terços dos médicos afirmam usar inteligência artificial até certo ponto, de acordo com uma pesquisa Pesquisa 2025 Pela Associação Médica Americana. Alguns consideram-no inestimável na prestação de cuidados e na redução do esgotamento. Mas outros profissionais de saúde dizem que foi implementado demasiado rapidamente e cometeu demasiados erros numa área de tão alto risco.
Inteligência artificial como consultor médico
existir Petea inteligência artificial foi introduzida pela primeira vez como uma ferramenta de gráficos: médicos documentavam seus encontros com os pacientes. Os gráficos são um dos maiores problemas para os médicos, pois muitas vezes eles precisam ficar acordados por horas para concluí-los. Durante vários anos, os hospitais implementaram escribas de IA ambiental que ouvem as conversas com os pacientes e depois as resumem em gráficos para os médicos.
Murali Doraiswamy, médico e professor da Faculdade de Medicina da Universidade Duke, disse que os atuais escribas de IA permitem que os médicos se concentrem nos pacientes, em vez de digitar durante as consultas. Mas ele disse que essas ferramentas economizam apenas um a dois minutos por consulta porque os médicos gastam tempo editando o conteúdo criado pela IA (como aponta Al-Hashimi). Pete). “Isso não economiza significativamente o que chamamos de hora do pijama”, disse ele. “Mas, no geral, é um progresso e espero que fique cada vez melhor.”
Algumas ferramentas de gráficos de IA vão além. No ano passado, os Serviços Presbiterianos de Saúde no Novo México testaram um assistente de IA chamado GW RhythmX que poderia fornecer aos médicos um resumo do histórico médico de um paciente recebido, potencialmente evitando que os médicos tivessem que vasculhar meses de prontuários e arquivos de laboratório antes de uma consulta.
As ferramentas RhythmX também podem fornecer soluções para problemas complexos dos pacientes, disse Lori Walker, diretora de informações médicas da Presbyterian. Por exemplo, disse ela, um paciente que foi recentemente internado no hospital com uma infecção na ferida era alérgico a muitos dos antibióticos que podem tratar a bactéria. Anteriormente, os médicos consultavam especialistas em doenças infecciosas, um processo que podia levar de 24 a 48 horas. Em vez disso, o médico perguntou ao chatbot e recebeu imediatamente uma receita válida.
Sudheesha Perera, residente do segundo ano da Escola de Medicina de Yale, disse que ele e seus colegas usam o OpenEvidence, um grande chatbot de modelo de linguagem treinado em literatura médica revisada, quase todos os dias. “Se eu tiver um paciente com uma infecção, posso perguntar: ‘Escolhi este medicamento por esse motivo. Quais são as alternativas?'”, disse Pereira, observando que é mais rápido do que usar o Google ou um livro médico.
Pereira está ajudando Yale a desenvolver um currículo de inteligência artificial para aconselhar os residentes sobre as melhores práticas no uso da tecnologia. No Laboratório de Ciência de Dados Cardiovasculares de Yale, ele usa Claude Code e Gemini para ajudá-lo a escrever código de análise de dados. “Posso dizer em texto simples: ‘Estes são meus dados, é isso que eu quero’. Isso é uma verdadeira virada de jogo em termos de realização do trabalho.”
Erros e Riscos
Mas muitos medos e riscos surgem. como em Pete, As ferramentas de IA cometem muitos erros em ambientes médicos reais. Michelle Gutierrez Vo, enfermeira hospitalar e presidente da Associação de Enfermeiros da Califórnia e do Conselho Nacional de Organizações de Enfermeiros, disse que o seu hospital tentou implementar uma nova ferramenta há três anos para substituir o julgamento dos gestores de casos. Mas quando testaram a ferramenta, esta administrou mal muitos casos, incluindo a recomendação de que os pacientes com cancro internados para um mês de quimioterapia tivessem alta dentro de dois a três dias.
“Mostramos repetidamente que a IA é na verdade pior e mais cara para eles implementarem ou usarem”, disse ela. um Resultados da pesquisa de 2024 Dois terços dos enfermeiros sindicalizados dizem que a inteligência artificial prejudica as suas capacidades e ameaça a segurança dos pacientes.
Gutierrez Vo teme que a IA seja simplesmente usada para cortar custos e aumentar os lucros, forçando uma força de trabalho já cada vez menor a trabalhar ainda mais. Esta preocupação foi ecoada PeteProtagonista Dr. Robbie (Noah Wyle): “Isso nos tornará mais eficientes, mas o hospital espera que tratemos mais pacientes sem nenhum custo extra”, diz ele.
Ao mesmo tempo, existe uma grande preocupação relativamente à desqualificação: mesmo que a IA possa ajudar os médicos agora, comprometerá o seu conhecimento intrínseco e a tomada de decisões quando for mais necessário. Essa ideia será explorada no final do episódio desta semana Pete: Os ataques cibernéticos forçam os hospitais a simular completamente e a confiar apenas em suas habilidades e treinamento.
A cena ressoou em Pereira. “Quando um paciente desmaia diante de seus olhos, primeiro você precisa se lembrar do conhecimento. As ferramentas de IA são muito lentas”, disse Pereira. “Realmente, no final das contas, precisamos praticar sem as ferramentas.”
Pereira está particularmente preocupado com o facto de que, se uma nova geração de médicos depender demasiado de ferramentas de IA sem primeiro aprender as competências, toda a área médica poderá ser gravemente prejudicada. “O garoto que nunca escreveu um trabalho universitário e só usou o ChatGPT poderia se tornar um médico que nunca escreveu avaliações e planos críticos e só usou o OpenEvidence”, disse Perera. “É importante ensinar os residentes a serem bons administradores dessas ferramentas no momento certo do treinamento.”
Doraswamy deseja que a ferramenta seja construída de uma forma que apoie o julgamento dos médicos, em vez de substituí-los. “Quanto mais conseguirmos que a IA permita que os médicos façam as perguntas certas, em vez de aceitarem respostas automaticamente, melhor”, disse ele. “Queríamos algo que nos fizesse pensar.”
