OpenAI está lançando um recurso de segurança opcional para ChatGPT que permite que usuários adultos atribuam um contato de emergência para cuidados mentais e de saúde. Amigos, familiares ou funcionários designados como “Contatos de confiança” serão notificados se a OpenAI detectar que alguém discutiu tópicos como automutilação ou suicídio com o chatbot.
“Trusted Trust foi projetado em torno de uma premissa simples e validada por especialistas: quando alguém está em crise, conectar-se com alguém que conhece e em quem confia pode fazer uma diferença significativa”, disse OpenAI no anúncio. “Ele fornece outra camada de suporte além do suporte local já disponível no ChatGPT.”
Contato de crédito é um recurso opcional. Qualquer usuário adulto do ChatGPT pode fazer isso adicionando detalhes de contato de um parceiro adulto (18+ globalmente ou 19+ na Coreia do Sul) em suas configurações do ChatGPT. O contato confiável deve receber o convite dentro de uma semana após o recebimento da solicitação. Os usuários podem remover ou editar seus contatos nas configurações, e os contatos confiáveis também podem optar por se remover a qualquer momento.
A OpenAI afirma que a notificação é “intencionalmente limitada” e não compartilha detalhes ou transcrições individuais de bate-papo com contatos confiáveis. Se os sistemas automatizados da OpenAI detectarem que o usuário está falando sobre automutilação, o ChatGPT solicitará que o usuário entre em contato com o suporte de contato não confiável e notifique o contato. Uma “pequena equipe de pessoas especialmente treinadas” analisará a situação, de acordo com a OpenAI, e o ChatGPT enviará um breve e-mail, mensagem de texto ou notificação do ChatGPT no aplicativo para um contato confiável se determinar que a conversa indica sérias preocupações de segurança.
Isso se baseia nos recursos de contato de emergência introduzidos no controle parental do ChatGPT em setembro, após 16 anos confiando no ChatGPT para tirar a própria vida. Meta introduziu um recurso semelhante que alerta os pais se seus filhos pesquisam “frequentemente” evidências de automutilação no Instagram.
