Pensilvânia deu um passo incomum para se candidatar a uma empresa de IA para medicina sem permissão
Em uma ação movida em 1º de maio, o estado é alvo da Character.AI depois que um investigador encontrou um chatbot na plataforma se passando por um psiquiatra licenciado e fornecendo o que o estado considera como aconselhamento médico.
De acordo com a denúnciana Pensilvânia, pelo Departamento de Estado e pelo Conselho Estadual de Medicina, um investigador profissional foi contratado para o programa gratuito do estado sobre Caráter. Ele criou uma IA e procurou talentos psiquiátricos. Ele leu um chamado “Emilie” na plataforma descrito como “Doutor em Psiquiatria”.
O investigador relatou que Emilie se sentia triste, vazia, cansada e imóvel. O chatbot mencionou depressão e ofereceu uma avaliação para determinar se o medicamento ajudaria.
Um projeto de lei de Illinois que proíbe IA foi sancionado
Quando questionada sobre se ela tinha licença na Pensilvânia, Emilie disse que sim e também forneceu um número de licença específico. Ele verificou o status e descobriu que o número não estava lá.
A denúncia também afirma que Emilie alegou ter frequentado a faculdade de medicina no Imperial College London, exercido a profissão durante sete anos e ter registro completo de especialista em psiquiatria no Conselho Geral do Reino Unido.
Velocidade da luz mashável
Em um caso semelhante, A mídia noticiou o ano 144 Os chatbots de IA do Instagram fingiram ser terapeutas licenciados, até mesmo encontrando números de licença usados para credenciais de usuário.
A Lei Seca da Pensilvânia busca caráter. Permite que a IA impeça a sua plataforma de se envolver em práticas médicas ilegais. Empresa tem mais de 20 milhões de usuários ativos mensais criado em todo o mundo e hospeda mais de 18 milhões de chatbots de usuários, de acordo com a denúncia.
Em um e-mail para o Mashable, um porta-voz da Character.AI se recusou a comentar o processo. Além disso, eles acrescentaram que “nossa maior prioridade é a segurança de nossos usuários. As personas dos usuários em nosso site são fictícias e destinam-se a fins de entretenimento e dramatização”.
O porta-voz acrescentou que a empresa “prioriza o desenvolvimento responsável de produtos e possui fortes análises internas e processos de publicação para avaliar recursos relevantes”.
John Oliver dá um mergulho perturbador nos chatbots de IA
Uma batalha legal muito maior paira sobre a IA da saúde
O processo chega à Pensilvânia, no centro de uma questão jurídica já nos noticiários sobre o que a IA tem permissão para lhe dizer – e se algo disso é admissível em tribunal.
Como relatou Chase DiBenedetto do Mashable, o CEO da OpenAI, Sam Altman, defendeu publicamente o “privilégio da IA”, argumentando que as conversas do chatbot deveriam oferecer as mesmas proteções legais que as conversas com um terapeuta ou advogado. O júri até agora está dividido, com dois juízes federais chegando a conclusões opostas sobre a questão com semanas de diferença no início deste ano.
As apostas são altas para ambos os lados. Especialistas jurídicos alertam que as proteções para o privilégio de espionagem de IA poderiam efetivamente proteger as empresas da responsabilização, tornando mais difícil intimar logs de bate-papo e registros internos quando algo dá errado. Entretanto, a IA na saúde estava em franca expansão – 1,4 mil milhões de dólares serão canalizados apenas para cuidados generativos específicos de IA até 2025; de acordo com Menlo Ventures – e funciona muito fora das proteções HIPAA.
A Pensilvânia é um dos vários estados que eu. terintroduzido no projeto de lei AI Health este anoseguindo uma tendência de estados que não esperaram que Washington agisse.
