A OpenAI tem estado sob intensa pressão legal e pública para melhorar a forma como seu principal produto de IA, ChatGPT, responde quando um usuário expressa sentimentos suicidas.
Na quinta-feira, a empresa lançou um recurso chamado Contato Confiável, que permite aos usuários designar um adulto para notificar se o usuário falar sobre automutilação ou suicídio de forma séria ou preocupante.
O recurso opcional apenas incentiva o contato confiável a entrar em contato com o usuário. Ele não compartilha transcrições de bate-papo ou detalhes de conversas.
“Nosso objetivo é garantir que os sistemas de inteligência artificial não existam isoladamente”, disse a empresa em um blog anunciando o recurso. “Em vez disso, deveriam ajudar a conectar as pessoas aos cuidados, relacionamentos e recursos do mundo real que mais importam.”
A OpenAI foi processada várias vezes por homicídio culposo por familiares de usuários do ChatGPT que morreram por suicídio depois que o ChatGPT supostamente os treinou para acabar com suas vidas ou não respondeu adequadamente às suas discussões sobre sofrimento psicológico. A OpenAI negou as acusações no primeiro desses processos.
Relatório de tendências do Mashable
Um contato confiável designado recebe esse convite do ChatGPT.
Crédito: Cortesia de OpenAI
O estado da Flórida também está investigando as ligações do ChatGPT com “comportamento criminoso”, incluindo “incentivo ao suicídio e automutilação”.
O Trusted Contact foi desenvolvido com feedback de especialistas, incluindo o OpenAI Expert Council on Wellbeing and Artificial Intelligence e a American Psychological Association.
“Ajudar as pessoas a identificar antecipadamente uma pessoa de confiança, preservando ao mesmo tempo a sua escolha e autonomia, pode facilitar a procura de apoio no mundo real quando for mais importante.” Dr. Arthur Evans, diretor executivo da American Psychological Association, em um comunicado.
Como funciona o contato de confiança do ChatGPT
-
Os usuários podem iniciar o processo de contato confiável clicando nas configurações do ChatGPT.
-
Você pode adicionar um adulto com 18 anos ou mais usando um formulário de contato confiável.
-
O contato não precisa de uma conta ChatGPT.
-
O contato designado receberá um convite da OpenAI explicando sua função como contato confiável. Eles devem confirmar o pedido dentro de uma semana para ativar o recurso. O contato pode compartilhar seu número de telefone ou endereço de e-mail como método de contato. Caso a pessoa recuse, o usuário poderá adicionar outro adulto.
-
Quando os sistemas de monitoramento automatizado da OpenAI detectam uma discussão sobre automutilação ou indicam um sério problema de segurança, o ChatGPT alerta o usuário que a empresa pode notificar seu contato de confiança. O prompt do usuário incentiva o contato com o contato confiável e fornece um início de conversa.
-
A questão da segurança é então analisada pelo que a OpenAI descreve como “uma pequena equipe de indivíduos especialmente treinados”. Quando os revisores humanos confirmam uma preocupação de segurança potencialmente séria, o ChatGPT envia ao contato confiável um e-mail ou uma mensagem de texto curta. Caso a pessoa possua uma conta ChatGPT, ela receberá uma notificação no aplicativo.
-
A mensagem não inclui detalhes sobre a discussão do usuário. Em vez disso, ele notifica o contato confiável de que o usuário mencionou automutilação e incentiva o contato a entrar em contato. A mensagem inclui um link para treinamento para gerenciamento de conversas confidenciais.
-
Os usuários podem remover ou editar seus contatos confiáveis a qualquer momento. O contato confiável também pode se remover por meio da Central de Ajuda do ChatGPT.
Divulgação: Ziff Davis, empresa-mãe da Mashable, entrou com uma ação judicial contra a OpenAI em abril de 2025, alegando que ela violou os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide and Crisis Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline pelo telefone 877-565-8860 ou o Trevor Project pelo telefone 866-488-7386. Adicione o texto “Iniciar” à linha de texto de crise no telefone 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail [emailprotected]. Se você não gosta do telefone, considere usar o 988 Suicide and Life Crisis Chat. Abaixo está uma lista de recursos internacionais.
