A OpenAI está sob intensa pressão regulatória para melhorar a forma como seu produto de IA ChatGPT responde quando um usuário expressa sentimentos suicidas.
Na quinta-feira, a empresa lançou um recurso chamado Contact Trusted, que permite aos usuários designar um adulto para notificá-los caso o usuário fale sobre automutilação ou suicídio de forma séria ou relevante.
O modo opcional solicita apenas que conexões confiáveis entrem em contato com o usuário. Ele não compartilha notas de conversas ou detalhes de bate-papo.
4 razões para não transformar o ChatGPT em seu terapeuta
Nosso objetivo é garantir que os sistemas de IA não existam isoladamente”, afirmou a empresa em comunicado. postagem no blog anunciando o vídeo. “Em vez disso, eles deveriam ajudar as pessoas a se conectarem com cuidados, relacionamentos e recursos importantes do mundo real.”
A OpenAI foi processada várias vezes por homicídio culposo por familiares de usuários do ChatGPT que morreram por suicídio depois que o ChatGPT supostamente os treinou para acabar com suas vidas ou não respondeu adequadamente ao seu sofrimento emocional. A OpenAI inicialmente negou as acusações nesses processos.
Relatório de tendências do Mashable
Uma conexão confiável designada recebe esse convite do ChatGPT.
Crédito: Cortesia de OpenAI
O estado da Flórida é Verifique também a conexão ChatGPT “Comportamento criminoso”, incluindo “motivação para suicídio e automutilação”.
O link confiável foi criado com feedback de especialistas, incluindo o Conselho de Especialistas em Bem-estar e IA da OpenAI e a Associação Americana de Psicologia.
“Ajudar as pessoas a identificar antecipadamente em quem podem confiar, ao mesmo tempo que protege as suas escolhas e autonomia, pode facilitar a obtenção de apoio no mundo real quando é mais importante.” Dr. Arthur Evans, diretor executivo da American Psychological Association, em um comunicado.
Como funciona o contato confiável do ChatGPT
-
Os usuários podem iniciar o processo de comunicação confiável clicando nas configurações do ChatGPT.
-
Um adulto com 18 anos ou mais pode ser adicionado por meio do formulário de contato do administrador.
-
A conexão não requer uma conta ChatGPT
-
A conexão designada receberá um convite OpenAI explicando sua função como conexão confiável. Eles devem aceitar o convite no prazo de uma semana para ativar o recurso. Um contato pode compartilhar seu número de telefone ou endereço de e-mail como formulário de contato. Caso a pessoa recuse, o usuário poderá adicionar outro adulto.
-
Quando os sistemas de monitoramento automatizado da OpenAI detectam uma discussão sobre automutilação ou indicam um sério problema de segurança, o ChatGPT alerta o usuário para que a empresa possa notificar seus contatos de confiança. O usuário é imediatamente incentivado a entrar em contato com o contato confiável e oferece um início de conversa.
-
A questão da segurança é então analisada pelo que a OpenAI descreve como “uma pequena equipe de pessoas especialmente treinadas”. Quando revisores humanos confirmam uma preocupação de segurança potencialmente séria, o ChatGPT envia ao contato confiável um breve e-mail ou mensagem de texto. Caso a pessoa possua uma conta ChatGPT, ela receberá uma notificação dentro do aplicativo.
-
O aviso não contém detalhes sobre o argumento do usuário. Em vez disso, informa ao contato confiável que o usuário relatou automutilação e incentiva o contato a entrar em contato. A mensagem contém um link para um guia de bate-papo confidencial
-
Os usuários podem remover ou editar seus links confiáveis a qualquer momento. O Trusted Connections também pode remover a central de ajuda do ChatGPT.
Divulgação: Ziff Davis, empresa controladora da Mashable, em abril de 2025 entrou com uma ação contra a OpenAI, acusando-a de infringir os direitos autorais de Ziff Davis para treinamento e operação de sistemas de IA.
Se você estiver se sentindo suicida ou tiver um problema de saúde mental, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Crisis Lifeline 988 ou falar com 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Projeto Trevor em 866-488-7386. Digite “START” na linha de texto para o tempo verbal 741-741. Entre em contato com a linha de apoio da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail (e-mail protegido). Se você não gosta do telefone, considere usar o 988 Suicide and Crisis Lifeline. Aqui está uma lista de recursos internacionais.
