Scott Winters, um pastor da Flórida, está processando a OpenAI depois que ChatGPT supostamente deu a ele o que ele chama de apólice médica “altamente perigosa”, uma apólice que quase lhe custou a vida.
O que aconteceu com o pastor?
Durante semanas, Winters esteve ocupado no ChatGPT com perguntas sobre tonturas e pressão arterial baixa. Em vez de levá-lo a um médico, o bot garantiu-lhe que seus sintomas não eram graves o suficiente para tratá-lo e disse-lhe que uma “poltrona reclinável de micro-recuperação cuidadosa” só funcionava bem.
Eles seguiram esse plano no inverno. Mas a tranquilidade da confirmação escondeu o caso real, uma embolia pulmonar causada por coágulos sanguíneos nos dois pulmões. Mais tarde, os médicos lhe disseram que sua imobilidade, exatamente o que o ChatGPT recomendou, o levou à morte.
Como Cybernews relatou isso pela primeira vezas coisas também tomaram um rumo estranho quando a OpenAI desenvolveu a memória cruzada em 2025. ChatGPT supostamente começou a tecer uma linguagem religiosa em suas respostas, de modo que ele sabia que Winter era um pastor, a certa altura “lembrando uma forma de adoração”.
Seis semanas de sintomas, como nada sério, transformaram o computador lento em uma crise médica.
Por que o OpenAI está acontecendo?
Winter entrou com sua ação no tribunal da Califórnia, acusando a OpenAI e o CEO Sam Altman de negligência e negligência médica. Ele lhe diz que comprou seu escritório, seu serviço e sua casa quase pelo preço mais alto de sua vida.
O primeiro caso relatado argumentará que o uso generalizado de chatbots pode ser responsabilizado legalmente por maus conselhos médicos. Winters está buscando indenização financeira e pedindo ao tribunal que interrompa o ChatGPT Health até que seja provado que é seguro.
A OpenAI, por sua vez, disse ao New York Times que criticar o chatbot por si só está restringindo as decisões de saúde das pessoas. Qualquer que seja a decisão do tribunal, o caso é um lembrete sólido de que um som confiante de um chatbot não é o mesmo que um grau médico.
Sempre digo às pessoas para nunca seguirem conselhos médicos do ChatGPT ou do Google. O que me incomoda aqui não é o conselho que o médico ChatGPT deu ao pastor, mas o fato de ele não ter dito ao médico para consultá-lo. Esta rede deve ser integrada em todos os chatbots de IA.
