OpenAI apresenta uma nova precaução de ‘Contato Confiável’ para casos de possível automutilação

OpenAI quinta-feira relatado A nova linha, chamada Contato com o Credor, tem como objetivo alertar um credor terceirizado caso ideias de danos pessoais sejam expressas na conversa. O recurso permite que um usuário adulto do ChatGPT designe outra pessoa como contato confiável em sua conta, como um amigo ou familiar. Nos casos em que uma conversa se transforma em automutilação, o OpenAI agora solicitará que o usuário entre em contato com esse contato. Ele também envia intenções de contato automatizadas e os incentiva a entrar em contato com o usuário.

A OpenAI recebeu uma enxurrada de ações judiciais de famílias de pessoas que perceberam que estavam morrendo após conversarem com seu chatbot. Na maioria dos casos, a família ChatGPT. eles dizem encorajado ou até mesmo matar seus entes queridos Você os ajudou com seus pensamentos.

A OpenAI agora usa uma combinação de automação e revisão humana para lidar com incidentes potencialmente prejudiciais. Certos gatilhos estimulam o sistema de conversação da empresa a detectar incidentes fatais, que então fornecem informações à equipe de segurança humana. A empresa afirma que sempre que recebe tal notificação, o incidente é analisado por uma pessoa. “Nosso objetivo é revisar essas notificações de segurança em menos de uma hora”, afirma a empresa.

Se a equipe interna da OpenAI determinar que a situação representa um sério risco à segurança, o ChatGPT enviará um contato confiável por e-mail ou notificação no aplicativo. Pretende ser breve e confirmar contacto para verificar com a pessoa em questão. Não inclui informações individuais sobre os assuntos em discussão, como ferramenta para proteger a privacidade do usuário, afirma a empresa.

Um contato confiável segue as salvaguardas da empresa Apresentado em setembro passado que conferia aos pais o poder de exercer alguma supervisão sobre os assuntos do adolescente, exceto no acolhimento notificações de saúde projetado para alertar os pais se o sistema OpenAI acreditar que seu filho está enfrentando um “sério risco de segurança”. Já há algum tempo, o ChatGPT também inclui alertas automatizados para procurar serviços profissionais de saúde, direcionando a conversa para o tema da sua doença.

Fundamentalmente, o Trust Contacts é opcional e, mesmo que a segurança seja controlada por uma conta específica, qualquer usuário pode ter várias contas ChatGPT. A propriedade parental do OpenAI também é opcional, apresentando uma limitação semelhante.

“O Trusted Contact faz parte do esforço mais amplo da OpenAI para construir esses sistemas de IA.” ajudar pessoas em tempos difíceis“A empresa escreveu um comunicado à imprensa.” “Ajudaremos médicos, pesquisadores e formuladores de políticas a compreender como os sistemas de IA respondem quando as pessoas passam por sofrimento”.