Utah permite que sistemas de IA prescrevam medicamentos psiquiátricos sem médico. Esta é a segunda vez que o estado, e depois o país, envia um representante. esse tipo de Trazendo autoridade clínica para IA. Autoridades estaduais dizem que o programa poderia reduzir custos e aliviar a escassez de cuidados, mas os médicos alertam que é opaco, arriscado e pouco provável que se expanda para pessoas que necessitam de cuidados de saúde mental.
Em um piloto de um ano, anunciado na semana passadaem alguns casos, o chatbot de IA da Legion Health será capaz de atualizar certas prescrições de medicamentos psiquiátricos. A startup de São Francisco promete “recargas rápidas e fáceis” para pacientes de Utah por meio de uma assinatura mensal de US$ 19. O programa terá início em abril, mas atualmente a empresa opera apenas com lista de espera.
O chatbot AI irá, em alguns casos, atualizar certas prescrições de medicamentos psiquiátricos.
Este programa tem um âmbito intencionalmente restrito e é limitado tanto em termos dos medicamentos que cobre como das condições que os pacientes devem cumprir para se qualificarem. De acordo com a Legião acordo Em parceria com o Escritório de Política de Inteligência Artificial de Utah, o chatbot pode atualizar apenas os 15 medicamentos de manutenção de baixo risco que os médicos já prescreveram. Estes incluem fluoxetina (Prozac), sertralina (Zoloft), bupropiona (Wellbutrin), mirtazapina e hidroxizina, que são comumente usados para tratar ansiedade e depressão. O paciente também deve ser considerado estável. Foram excluídos aqueles com alterações recentes de dosagem ou medicação ou internações psiquiátricas no último ano, e os pacientes devem consultar seu médico a cada 10 recargas ou após 6 meses, o que ocorrer primeiro.
O sistema não pode emitir novas receitas ou processar medicamentos que exijam supervisão clínica mais rigorosa, como aqueles que exigem monitoramento de exames de sangue. Substâncias controladas também são proibidas e muitos medicamentos para TDAH são excluídos. Exclusão de benzodiazepínicos usados para ansiedade. Medicamentos antipsicóticos usados para doenças como esquizofrenia e transtorno bipolar. E o lítio, amplamente considerado o tratamento padrão-ouro para o transtorno bipolar, coloca muitos casos psiquiátricos mais complexos fora do escopo do projeto piloto.
Para utilizar o sistema, o paciente deve aderir, verificar sua identidade e comprovar que já possui receita, como foto do rótulo ou frasco do comprimido. Em seguida, você será questionado sobre seus sintomas, efeitos colaterais e a eficácia do seu medicamento. Você será questionado sobre pensamentos suicidas, automutilação, reações graves e gravidez para registrar sinais de alerta. Se a resposta estiver fora dos critérios de baixo risco do piloto, o caso deverá ser encaminhado a um médico antes que uma recarga seja emitida. Pacientes e farmacêuticos também podem solicitar revisão humana.
“Automatizar com segurança o processo de renovação de medicamentos de manutenção ajudará os pacientes a obter os cuidados de que necessitam de forma mais rápida e acessível”, disseram autoridades estaduais. disse No momento do anúncio do piloto. Com o tempo, disseram eles, o programa poderá permitir que os prestadores de cuidados de saúde “concentrem o seu tempo nas necessidades dos pacientes mais complexos e de maior risco” e ajudar a resolver a escassez que deixa meio milhão de habitantes de Utah sem acesso a cuidados de saúde mental. Yash Patel, cofundador e CEO da Legion, apresentou o programa em termos ainda mais grandiosos. descrição Esta é uma inovação mundial e expandirá dramaticamente o acesso aos cuidados de saúde e marcará “o início de algo muito maior do que um reabastecimento”.
Os psiquiatras não têm tanta certeza. disse Brent Kius, psiquiatra e professor da Escola de Medicina da Universidade de Utah. A beira Ele acredita que “os benefícios dos sistemas de recarga baseados em IA podem ser exagerados”. Ele duvida que a ferramenta “não aumente o acesso para aqueles que mais necessitam de cuidados”. Para utilizar este serviço, os pacientes elegíveis já devem ter um plano de tratamento estabelecido com um psiquiatra.
“Seria melhor se houvesse mais transparência, mais ciência, testes mais rigorosos antes de as pessoas serem solicitadas a usar isto”.
Kius sugere que a automação poderia contribuir para o que ele chama de “epidemia de tratamento excessivo” em psiquiatria, com alguns pacientes tomando mais medicamentos do que o necessário. John Taurus, diretor de psiquiatria digital do Beth Israel Deaconess Medical Center e professor de psiquiatria na Harvard Medical School, levantou uma preocupação relacionada, observando que algumas pessoas se beneficiam do uso de medicamentos psiquiátricos a longo prazo, enquanto outras se beneficiam da redução gradual ou da descontinuação de seus medicamentos. “Precisamos de uma gestão mais ativa, de mudanças e de uma consideração cuidadosa”, disse ele. Isso é ainda mais difícil de fazer se você estiver terceirizando os check-ins de recarga para um chatbot.
Uma preocupação ainda maior é se os chatbots podem automatizar com segurança até mesmo as partes mais mundanas dos cuidados psiquiátricos. Taurus disse que a prescrição envolve mais do que simplesmente verificar interações medicamentosas e questionou se os sistemas de IA atuais “podem compreender o contexto e os fatores únicos que fazem parte do regime de medicação de um indivíduo”. O Sr. Kius fez uma observação semelhante. “Isso pode ser seguro em princípio, mas tudo depende dos detalhes.” Estas preocupações são agravadas pelo quão novos são estes sistemas e quão opacos são para quem está de fora. “Parece um pouco com alquimia agora”, disse ele. “Seria melhor se houvesse mais transparência, mais ciência, testes mais rigorosos antes de as pessoas serem solicitadas a usar isto”.
Existem também preocupações de segurança mais urgentes. Kius disse que os chatbots podem perder alguma coisa durante a triagem. Os chatbots podem não fazer as perguntas certas, os pacientes podem não estar cientes dos efeitos colaterais ou podem responder de forma imprecisa. Algumas pessoas podem simplesmente dizer ao sistema o que ele deseja ouvir para agilizar o atendimento. Ele enfatizou que isso não é exclusivo dos chatbots. Grande parte da psiquiatria depende do autorrelato. Mas os médicos humanos normalmente têm acesso a outras informações, disse ele, acrescentando que, ao examinar um paciente, prestam atenção não apenas ao que o paciente está dizendo, mas também ao que não dizem e à forma como se expressam. Os pacientes também podem enganar os prestadores de cuidados de saúde humanos, disse Kius, mas os sistemas de chatbot podem ajudar os pacientes a ajustar as suas respostas até obterem o resultado desejado.
Taurus disse que também existem riscos de segurança mais óbvios, familiares a qualquer pessoa que conheça como os chatbots funcionam no mundo real. O chatbot da Legion é o segundo experimento de Utah com prescrição de IA e se junta a um piloto mais amplo em andamento focado na atenção primária com Doctronic. lançado Dezembro passado. Poucas semanas depois de ir ao ar, pesquisador de segurança Eles conseguiram invadir os sistemas da Doctoronic para espalhar teorias de conspiração sobre vacinas, gerar instruções para estimulantes culinários e triplicar doses de opioides para pacientes. Autoridades estaduais dizem que o programa mais focado com a Legião foi projetado especificamente para atingir “as deficiências de saúde mental do estado”.
Legion disse que os pilotos estavam operando sob rígidas barreiras de proteção. Além do que a empresa chama de “porta de elegibilidade conservadora”, seu acordo com o estado de Utah exige que ela envie relatórios mensais detalhados, tenha suas primeiras 1.250 solicitações examinadas por médicos e, posteriormente, obtenha amostras periódicas de cerca de 5 a 10 por cento das solicitações.
disse Arthur McWaters, cofundador e presidente da Legion. A beira “Existem riscos em qualquer modelo de telemedicina, seja assistido por IA ou totalmente conduzido por humanos”, disse ele, sublinhando que o “fluxo de trabalho da empresa não depende de uma única resposta auto-relatada para iniciar o tratamento”. Ele disse que as principais salvaguardas incluem limites estreitos na dosagem piloto e na elegibilidade do paciente, telas de segurança de IA integradas, envolvimento do farmacêutico e capacidades de escalonamento médico. “Acreditamos que isto é importante para expandir o acesso a centenas de milhares de pessoas em Utah que vivem em comunidades com deficiências de saúde mental e como um importante campo de testes para IA nos cuidados de saúde.”
McWaters não comentou sobre casos de uso adicionais, medicamentos ou expansão para outros estados, mas disse que a empresa está “entusiasmada com o que o futuro reserva”. Ele também não forneceu um cronograma para os planos de expansão da Região, embora tanto McWaters quanto a Região tenham sugerido publicamente ambições mais amplas além de Utah. O site de reabastecimento da região afirma que o serviço estará disponível “em todo o país em 2026”, e McWaters disse: proposto “Isso vai acontecer em todos os estados em breve.”
Para os psiquiatras com quem conversei, tudo isso parece levantar uma questão bastante básica: que problema a Legion está realmente resolvendo? Kius disse que os pacientes existentes muitas vezes nem precisam de uma consulta para reabastecer, e explicou que a maioria dos psiquiatras provavelmente ficaria “feliz em reabastecer uma receita sem hora marcada, gratuitamente”, a menos que estejam preocupados com o paciente ou se o medicamento apresentar riscos significativos. Esses são exatamente os casos que a IA da Legion está proibida de tratar.
“Pessoalmente, gostaria de evitar isso por enquanto”, disse Taurus, acrescentando que se você encontrar um bom plano de tratamento que funcione para você, provavelmente é melhor seguir esse médico.
