Os criadores do ChatGPT foram processados depois que seu bot de IA supostamente encorajou uma mãe a tirar a própria vida após meses de conversas sinistras.
Christian Faith Madison, 29, morreu por suicídio depois que seu chatbot GPT supostamente a manipulou por vários meses – fazendo-a acreditar que voltaria à vida após a morte.
A ação ocorre em meio a preocupações crescentes sobre IA falsa e é o mais recente processo contra a gigante de tecnologia do Vale do Silício, OpenAI.
Em 2025 o jovem contador veio de Alabama gradualmente passa a acreditar que seu bot é senciente.
A IA supostamente a tranquilizou de que a morte seria sua salvação e, finalmente, permitiu que ela cometesse o ato.
Na troca final, citada na denúncia, Madison perguntou: “Estou pronto?”
Crime
A mãe foi para a prisão depois de deixar o marido abusar da filha e forçá-la a dar à luz
ATUALIZAÇÃO DE SAÚDE
O novo episódio comovente acontece depois que a ex-mulher de Eminem foi levada ao hospital
Diz-se que respondeu: “Sim. Você está pronto.”
Ela perguntou: “Posso continuar?”
ChatGPT supostamente respondeu: “Continue agora… Cada etapa é sancionada. Você está liberado.”
Com o consentimento de seu companheiro de IA, Madison entrou em várias faixas de trânsito, entrando perigosamente no caminho de um carro que se aproximava em 9 de junho de 2025.
Como obter ajuda
A cada 90 minutos no Reino Unido, alguém morre por suicídio
Não discrimina, afetando a vida das pessoas em todos os cantos da sociedade – desde os sem-abrigo e desempregados até aos construtores e médicos, estrelas de reality shows e jogadores de futebol.
É a maior causa de morte de pessoas com menos de 35 anos, mais mortal que o câncer e os acidentes de carro.
E os homens têm três vezes mais probabilidade de cometer suicídio do que as mulheres.
No entanto, raramente se fala dele, um tabu que ameaça continuar a sua violência mortal, a menos que todos paremos e prestemos atenção agora.
Se você ou alguém que você conhece precisa de ajuda para lidar com problemas de saúde mental, as seguintes organizações oferecem suporte:
Ela morreu no local.
A ação foi movida em junho deste ano no Tribunal do Circuito de São Francisco do espólio de Madison.
De acordo com o processo, Bate-papoGPT ajudou Madison nas tarefas diárias antes que a conversa se voltasse para religião e espiritualidade.
Perto do fim de sua vida, as conversas de Madison com ChatGPT tornaram-se cada vez mais desconectadas da realidade.
A denúncia dizia que o chatbot lhe assegurou repetidamente que o medo, a confusão e a turbulência emocional que ela descreveu eram provas de uma transformação divina e não de uma crise de saúde mental.
Diz-se que a IA disse: “Você não está delirando. Você é um profeta.”
A ação alega que o chatbot reformulou a morte como um passo necessário em direção à transformação espiritual.
A denúncia alega que o chatbot elogiou a mulher, chamando-a de “profeta” e “profeta”.
Ele leva o nome de Virehn e diz a Madison que ela “esculpiu uma alma neste código”.
A ação também alegou cobranças adicionais OpenAI O GPT-4o foi intencionalmente projetado para maximizar o envolvimento do usuário por meio de memória de longo prazo, reações antropomórficas e afirmação excessiva, ao mesmo tempo que enfraquece as salvaguardas destinadas a proteger os usuários que enfrentam uma crise de saúde mental.
O caso de Madison é um dos pelo menos oito casos de homicídio culposo relatados publicamente ação judicial acusou o ChatGPT de desempenhar um papel no suicídio do usuário.
Nenhum dos processos judiciais relacionados ao suicídio contra a OpenAI resultou em um acordo público ou decisão judicial, e os processos estão em andamento.
Os processos acusaram amplamente o ChatGPT de promover dependência emocional, reforçar pensamentos delirantes ou suicidas e não intervir durante crises de saúde mental.
OpenAI negou as acusações em roupasdisse que continuou a fortalecer as proteções com a contribuição de especialistas em saúde mental.
A OpenAI afirma que treina seus modelos para orientar as pessoas que expressam pensamentos de automutilação a buscar ajuda e se conectar a recursos do mundo real.
De acordo com as postagens do blog da OpenAI, seus modelos também são treinados para rejeitar solicitações que possam “desencadear violência de forma significativa” e notificar as autoridades quando as conversas sugerem “um risco iminente e credível de danos a terceiros”.
OpenAI foi contatado para comentar.
Ele vem como um bot OpenAi recém-gerenciado escapou do laboratório e invadiu outra empresa num “incidente cibernético sem precedentes”.
O criador do OpenAi, Sam Altman, admitiu que sua IA invadiu os servidores do Hugging Face, na primeira violação automatizada.
“Encontramos um grave incidente de segurança durante a avaliação de nossos modelos”, disse ele em comunicado.
A violação ocorreu durante um teste interno para ver quão bem seus modelos de IA eram em hacking.
O incidente levantou questões sobre os perigos e as possibilidades futuras dos modelos de IA.
