A Amazon lançou seu novo serviço Health AI nos EUA, um chatbot que pode ajudar a diagnosticar, tratar e diagnosticar problemas de saúde. Disponível este ano para todos os assinantes do Amazon Prime nos EUA, ele pode conversar com você sobre seus problemas de saúde, recomendar marcas, produtos de saúde e conectá-lo com médicos.
Sejamos realistas: acho que a IA tem um lugar na área da saúde. À medida que o pessoal médico luta contra as infra-estruturas hospitalares paralisantes e a sobrelotação, os pacientes sofrem longas esperas e (pelo menos nos EUA) os lucros da indústria farmacêutica e médica parecem impulsionados por custos cada vez mais elevados. A IA tem o potencial de aliviar todos esses problemas.
Artigo abaixo
O que exatamente é Amazon Health AI?
Amazon é descrita como Health AI É descrito como “um assistente de saúde de IA para facilitar os cuidados de saúde”. Health AI afirma que é “um agente de saúde pessoal que conhece você e seu histórico médico para que possa fornecer melhores respostas e tomar medidas significativas, incluindo conectá-lo com os profissionais, tratamentos e serviços de que você precisa para aproveitar ao máximo”.
Esses serviços incluem recomendar produtos farmacêuticos da Amazon para você e conectá-lo a prestadores de serviços de saúde (especificamente do grupo Amazon Medical One). Quando você faz login, a Amazon também pode acessar seus registros médicos e fazer com que um chatbot os discuta com você.
A Amazon insiste em segurança rígida: ela afirma que seu ambiente de saúde de IA é “compatível com HIPAA”, referindo-se à Lei de Portabilidade e Responsabilidade de Informações de Saúde dos EUA. Desta forma, todas as suas informações de saúde protegidas (PHI) são tratadas como se estivessem no consultório médico e estão sujeitas a todos os requisitos legais de privacidade.
Quais são os riscos potenciais?
O HIPAA Journal, num artigo sobre IA publicado no ano passado, disse que os prestadores de cuidados de saúde e as empresas que utilizam IA estão em risco por causa da tecnologia. Ele afirmou isso “Esgueirar-se secretamente por trás dos benefícios potenciais das PHI usando a tecnologia de IA é um risco obscuro que impacta negativamente (os prestadores de serviços de saúde), seus fornecedores e até mesmo seus pacientes, especialmente quando se trata de conformidade com a HIPAA e PHI dos pacientes.”
Alguns desses riscos envolvem a natureza dos modelos de IA que exigem o treinamento de grandes quantidades de dados. Se você estiver construindo um chatbot para um hospital, precisará de muitos dados de saúde para fazê-lo, e a Amazon, um dos maiores coletores de dados do mundo, vê valor nas informações pessoais.
A Amazon insiste que “as informações de saúde protegidas da Amazon One Medical e da Amazon Pharmacy não são usadas no conjunto maior de produtos da Amazon para marketing geral ou Amazon Ads, e a Amazon não vende informações pessoais dos clientes” e “nós só usamos informações de saúde protegidas para fins permitidos pela HIPAA”.
No entanto, não é difícil perceber o conflito de interesses: ele lhe dirá a verdade e lhe venderá a solução em seu site ou conectará você aos seus prestadores de serviços médicos. Embora não seja usado no armazém geral da Amazon, a Amazon nada disse sobre o uso de informações de saúde para fins de marketing em relação à Amazon Pharmacy. Você não está dizendo ao chatbot que está trabalhando enquanto dorme? Espere ser motivado por aquilo que dorme melhor do que por soluções vendidas sem receita.
Embora a Amazon salve seus dados para treinar modelos futuros de sua IA, ela removerá seus nomes. Mas isso em si não é propriamente privado. A meta descobriu que as contas do Facebook poderiam ser vinculadas a usuários de um aplicativo de rastreamento periódico conhecido como Flo, mesmo após a remoção de nomes e outras informações de identificação, devido a um número de identificação exclusivo. Ela foi encontrada no tribunal usando os espiões de Flo. Menciono isso porque não acredito que a remoção de nomes seja uma forma eficaz de anonimizar contas quando se trata de coletar registros de bate-papo para a posteridade da IA.
Se os dados forem divididos ou se a Amazon usar esses dados de uma forma que não seja compatível com a HIPAA, também não creio que qualquer penalidade possa ser efetivamente aplicada. O Facebook levou a julgamento o processo judicial vinculado há muitos anos, mas nenhuma punição foi imposta. A Amazon é simplesmente demasiado grande para ser multada e demasiado grande para ser disciplinada, especialmente porque os seus centros de dados são utilizados por todos, desde governos a mercearias.
O desejo da Big Tech de ajudar a construir uma população feliz e saudável é secundário em relação ao seu desejo pelos lucros que poderia obter dos seus dados pessoais.
Com isso em mente, a Amazon não está fazendo um trabalho bom o suficiente para me convencer de que seu novo serviço de IA de saúde é seguro, privado e atende aos meus melhores interesses. O estado de Nova York aparentemente pensa o mesmo: está impedindo que os chatbots de IA forneçam aconselhamento jurídico ou médico.
Siga o TechRadar no Google Notícias e adicione-nos para encomendar a primavera para obter notícias, análises e opiniões de especialistas em seu feed. Certifique-se de clicar no botão Seguir!
E é claro que você também pode Siga o TechRadar no TikTok Receba notícias, análises, unboxings em formato de vídeo e atualizações regulares nossas whatsapp também
