Os cartões AI podem ser usados ​​para gravar sessões entre você e seu terapeuta

À medida que a inteligência geral natural ocorre na vida quotidiana das pessoas, a sua utilização emergente nos cuidados de saúde mental está a levantar questões difíceis sobre a ética profissional e a privacidade do paciente.

Um grande número de empresas, como Sadar, Structure e Heidi Health, passaram a oferecer ferramentas poderosas para o tratamento de encaminhamentos. O problema? Os provedores geralmente são obrigados a gravar toda a sessão do cliente.

Embora seja ético para os terapeutas gravar essas conversas sob certas circunstâncias, isso raramente é feito fora do treinamento profissional e das boas práticas. Dispositivos móveis, ou “cientistas”, usam IA para analisar o conteúdo das conversas dos clientes em tempo real para gerar vários motivos, incluindo diferentes pagamentos e possíveis métricas de qualidade.

Os médicos que utilizam esses produtos afirmam que são capazes de lidar com tarefas estressantes, dedicando tempo para se concentrar não apenas em seus clientes, mas também em suas vidas.

Mas alguns especialistas dizem que os produtos do tipo IA apresentam riscos desnecessários ou impotentes, tais como a possibilidade de essas gravações serem pirateadas ou utilizadas para treinar a versão linguística da empresa sem a aprovação do idioma. Eles também podem afetar negativamente o relacionamento entre o terapeuta e o cliente se a pessoa desejar retornar à sessão de gravação ou se sentir incapaz de recusar o pedido do profissional.

“A indústria se precipitou um pouco sem fazer a pergunta”, disse o Dr. Wright, diretor sênior do Escritório de Inovação da Associação Médica Americana.

O “medo” de escrever notas médicas

A psicóloga Dra. Hannah Wilmisman, que trabalha meio período em Seattle, começou a usar AI Prieri em dezembro passado. Além de sua prática, Weisman recomenda empresas de tecnologia que atuam na área de saúde mental, embora não recomende nenhuma ferramenta de chicotada.

Weisman disse que teme escrever artigos médicos por causa do público que precisa ter em mente. Além da seguradora, seus registros podem ser solicitados por outro prestador de serviços de saúde, por um juiz em uma questão jurídica envolvendo um cliente ou pelos próprios demandantes.

Por um período deste ano, Insisman foi contratado como Escriturário Médico Hedi no Departamento de Saúde de Hedi. Oferecer o dispositivo a psicólogos promete “aumentar o envolvimento, restaurar o contato visual e contribuir para os cuidados de saúde mental”.

Heidi Health e outros estudiosos do AIID que testaram reduziram o fluxo de “carga cognitiva” que vem dos detalhes exatos de sua escrita e da composição de uma das muitas formas possíveis. Embora não existam pesquisas sobre os ganhos de eficiência para os prestadores de saúde mental, consideramos que a ferramenta também economiza cerca de cinco minutos para cada cliente.

Mas Weineman também está ciente de que os estudiosos da IA, especialmente aqueles que gravam sessões, correm sérios riscos, mesmo que minimizem o seu fardo.

Weisman fornece a todos os clientes, novos ou existentes, um formulário de consentimento informado personalizado, após consultar os tipos de produtos oferecidos por diversas empresas de IA.

Requer o consentimento por escrito do cliente e enfatiza que pode ser retirado a qualquer momento, inclusive durante a sessão. Weisman também afirma gravar a sessão em voo digital pessoal e colocar os funcionários da IA ​​em seus computadores protegidos secretamente. No formulário de consentimento, Weisman concorda em excluir todas as cópias de áudio, incluindo gravações do dispositivo, dentro de 48 horas.

Também decidiu, via de regra, não utilizar os ai estudiosos que não significam as citações do texto que possuem para treinar sua produção.

“Isso é um acordo para mim”, disse ela. “Eu, como terapeuta, realmente tento (olhar com respeito) em termos de proteção dos clientes. Eu pensaria assim, esses são os óculos que temos que levar.”

Heidi Health disse que colocaram o áudio em casa como escrever. A empresa não armazena as gravações e não utiliza as transcrições para treinar essa tecnologia de IA. A transcrição é gerada pela Heidi Health, hospedada exclusivamente pela AI AI da Heidi, e não por terceiros. Os médicos são responsáveis ​​por excluir o texto da Heidi Health.

Uesman estimou que um terço de seus clientes concordou em ser gravado. Alguns dos trabalhadores da tecnologia – a empresa de Seattle – percebem que o cortaram cedo, enquanto outros concordam, sabendo que usam o produto primário para os seus trabalhos.

Potencial “dano à reputação”

No outono passado, A American Psychological Association criou uma lista de verificação Os médicos consideram a IA uma ferramenta para fins clínicos ou de gestão. O objetivo é ajudar os terapeutas, que podem ter pouca ideia de como funciona.

O boletim informativo permite que os usuários perguntem se o item é compatível com HIPAA, permite medidas de segurança avançadas e permite que os usuários excluam ou modifiquem seus dados, entre outras considerações.

Mesmo assim, Wright Wright disse que profissionais de saúde mental independentes podem não conseguir lidar sozinhos com a linguagem técnica que é densa. Eles também podem encontrar empresas que intencionalmente tornam suas práticas de privacidade opacas.

Em geral, ela disse que o tratamento deve entender que cada produto é igual; Violações e vazamentos de dados podem acontecer a qualquer momento.

Na verdade, um estudo recente foi publicado O site da Jama está aberto Verificou-se que o número de violações de dados de cuidados de saúde e ataques violentos tem aumentado todos os anos desde 2010, embora ainda existam alguns incidentes específicos que ainda são os tipos mais comuns de violações, ataques independentes que funcionam na maioria dos registos de pacientes são comprometidos.

“Os defensores da violência hipócrita não precisam de vazar este tipo de informação prejudicial – eles só precisam de tornar a ameaça credível.”

Quando questionado sobre sessões de terapia gravadas, o autor principal, John X. Jiang, disse que elas poderiam ser “alvos vulneráveis” para maus atores. Como o áudio geralmente contém informações confidenciais, as gravações têm seu próprio valor se forem roubadas.

“Os invasores domésticos não precisam vazar esse tipo de informação para tirar algo dela – eles só precisam torná-la perigosa”, disse Jiang, que é um dos pesquisadores da Universidade Estadual de Michigan, incluindo a sustentabilidade da saúde. “A combinação de perturbações operacionais e danos à reputação cria um modelo muito poderoso.”

A Dra. Darlene King, presidente do comitê de saúde mental da Associação Psiquiátrica Americana, disse que o texto do tratamento é mantido em um nível de segurança mais elevado do que o padrão registrado nos prontuários médicos. Embora essas informações também sejam sensíveis, o conteúdo das sessões de tratamento do paciente pode incluir informações detalhadas e aprofundadas, como experiências de luto, abuso e dependência.

King, psicólogo do UT Southwestern Medical Center, em Dallas, usa cientistas de IA para documentação médica, mas não para tratamento.

Ela acrescentou que a profissão de saúde mental precisa de encontrar um equilíbrio entre aliviar a carga – e os prestadores – para proteger a privacidade dos pacientes, uma vez que beneficiam da boa utilização da IA, tais como a melhoria do tratamento de saúde mental.

Por que todos os registros?

Jonte Iter, engenheiro de software e cofundador da solução de tratamento, acredita ter encontrado a resposta para parte desse desafio: não gravar as sessões.

Quids usa ani-ani para produzir documentos para médicos, mas com base em seus resumos orais ou escritos.

Embora este método não reduza a carga cognitiva de repetir e priorizar os elementos da discussão do cliente, significa que a sessão é interrompida. O resumo de áudio foi imediatamente gravado e posteriormente excluído. O Quids também não salva as postagens que cria. Constant descreve os dados como “inflação”.

O regular de sua esposa é um conselheiro de saúde licenciado e integrador licenciado, que acredita repetidamente que a terapia é um lugar sagrado. Ele teme poder afetar negativamente a dinâmica entre o terapeuta e seu cliente quando o primeiro pede ao segundo que prescreva uma receita.

Também a agência permanente é que eles entendem que as pessoas, estejam elas em tratamento formal ou não, a quem recorrem, passam a ser as primeiras a serem chamadas de ‘ai’ ao falarem sobre as suas lutas, ao seguirem o prestador de saúde mental.

Embora alguns desses utilizadores possam ter aceitado a violação dos seus dados, ele temia que estivessem inicialmente a negociar com os apoiantes da capital sobre o registo cerebral, mesmo que o tratamento compreendesse perfeitamente o que envolvia ou significava.

“Minha maior preocupação é que as empresas estejam silenciosamente normalizando a gravação de aulas de trem, e fazendo isso com o consentimento totalmente informado de todos”, disse ele.