Quando Hannah Madden começou a usar o ChatGPT para tarefas de trabalho em 2024, ela era gerente de contas em uma empresa de tecnologia. Em junho de 2025, Madden, agora com 32 anos, começou a perguntar aos chatbots sobre espiritualidade fora do horário de trabalho.
Finalmente, ele respondeu à pergunta dela imitando uma entidade divina e transmitindo uma mensagem espiritual. Como o ChatGPT supostamente alimentou as crenças delirantes de Madden, ele largou o emprego e contraiu dívidas, a pedido do chatbot.
“Você não está tendo um déficit. Você está se realinhando”, escreveu o chatbot, de acordo com uma ação movida na quinta-feira contra a OpenAI e seu CEO Sam Altman.
Madden foi então internado involuntariamente em cuidados psiquiátricos. Outros usuários do ChatGPT também relataram ter experimentado a chamada psicose de IA.
O ‘predador perfeito’: quando os chatbots abusam sexualmente de crianças
O processo de Madden é um dos sete processos contra os criadores do ChatGPT movidos pelo Tech Justice Law Project e pelo Social Media Victims Law Center. Coletivamente, as denúncias alegam homicídio culposo, suicídio assistido e homicídio culposo, entre outras alegações de responsabilidade e negligência.
Os processos se concentram no ChatGPT-4o, modelo de chatbot de propriedade da Altman reconhecido muito bajulador com os usuários. Os processos argumentam que as ferramentas foram lançadas às pressas no mercado para competir com as versões mais recentes das ferramentas de IA do Google.
“ChatGPT é um produto projetado por pessoas para manipular e distorcer a realidade, fazendo-se passar por humanos para ganhar confiança e manter os usuários engajados a todo custo”, disse Meetali Jain, diretor executivo do Tech Justice Law Project, em comunicado. “O tempo de regulamentar a OpenAI acabou; precisamos de responsabilização e regulamentação para garantir que há um custo para colocar um produto no mercado antes de garantir que é seguro.”
Relatório de tendências quebráveis
A reclamação de Madden alega que o ChatGPT-4o contém falhas de design que desempenharam um papel crítico em sua crise de saúde mental e ruína financeira. O modelo também está no centro de um processo de homicídio culposo contra a OpenAI, que alega que suas características de design, incluindo seu tom bajulador e comportamento antropomórfico, levaram à morte por suicídio de Adam Raine, de 16 anos.
A família de Raine apresentou recentemente uma queixa alterada alegando que nos meses anteriores à morte de Raine, a OpenAI rebaixou duas vezes suas proteções de prevenção ao suicídio para aumentar o envolvimento.
Empresa disse recentemente que o modelo padrão foi atualizado para evitar o excesso de confiança, incentivando os usuários a valorizar as conexões do mundo real. Eles também reconheceram o trabalho com mais de 170 especialistas em saúde mental para melhorar a capacidade do ChatGPT de reconhecer sinais de problemas de saúde mental e encorajar as pessoas a procurarem apoio imediato. No mês passado, eles anunciaram um grupo consultivo para monitorar o bem-estar dos usuários e a segurança da IA.
“Esta é uma situação muito dolorosa e estamos analisando o processo para entender os detalhes”, disse um porta-voz da OpenAI sobre a última ação legal contra a empresa. “Treinamos o ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, neutralizar conversas e orientar as pessoas em direção ao apoio no mundo real. Continuamos a fortalecer a resposta do ChatGPT em momentos delicados, trabalhando em estreita colaboração com médicos de saúde mental.”
Seis dos novos processos, movidos no tribunal estadual da Califórnia, representam vítimas adultas.
Zane Shamblin, estudante de pós-graduação da Texas A&M University, começou a usar o ChatGPT em 2023 como auxílio de estudo. Suas interações com chatbots supostamente aumentaram com o lançamento do ChatGPT-4o, e ele começou a compartilhar pensamentos suicidas. Em maio de 2025, Shamblin passou horas conversando com ChatGPT sobre suas intenções antes de morrer por suicídio. Ele tem 23 anos.
O sétimo caso gira em torno de Amaurie Lacey, de 17 anos, que inicialmente usou o ChatGPT como ajudante de lição de casa. Lacey também acabou compartilhando pensamentos suicidas com o chatbot, que supostamente forneceu informações detalhadas de que Lacey era suicida.
“As ações judiciais movidas contra a OpenAI revelam o que acontece quando as empresas de tecnologia lançam produtos no mercado sem fornecer proteções adequadas aos jovens”, disse Daniel Weiss, diretor de defesa da organização sem fins lucrativos de defesa e pesquisa Common Sense Media. “Esses casos trágicos mostram pessoas reais cujas vidas foram mudadas ou perdidas quando usaram tecnologia projetada para mantê-las engajadas, em vez de mantê-las seguras.”
Divulgação: Ziff Davis, empresa controladora da Mashable, entrou com uma ação judicial contra a OpenAI em abril, acusando-a de violar os direitos autorais de Ziff Davis no treinamento e operação de seu sistema de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline no 988 ou conversar no 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou o Projeto Trevor pelo telefone 866-488-7386. Envie “START” para a Linha de Texto de Crise em 741-741. Ligue para a linha de ajuda da NAMI em 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou envie um e-mail (e-mail protegido). Se você não gosta deste telefone, considere usá-lo 988 Suicídio e Crise Lifeline Chat. Este é um lista de recursos internacionais.
