Os chatbots de IA tornaram surpreendentemente fácil falar sobre qualquer assunto, e isso inclui alguns dos tópicos mais sérios que se possa imaginar. Essa abertura sempre foi uma espada afiada. A OpenAI está agora dando um passo para resolver isso, com um novo recurso que traz uma pessoa de confiança a bordo quando as coisas ficam sérias.
A empresa está lançando um novo recurso chamado Ele confiou no contatoe começa a aparecer nas configurações do ChatGPT para usuários adultos. Ele permite que os usuários indiquem uma pessoa que pode ser alertada se o ChatGPT detectar um problema sério autoinfligido.
Como funciona o Localizador de contatos?
Configurar um contato de crédito é opcional, mas se você decidir configurá-lo, certifique-se de que o contato que você nomeou tenha pelo menos 18 anos ou 19 anos na Coreia do Sul. Quando você nomeia alguém, ele recebe um convite para explicar o que a função realmente significa e tem uma semana para aceitá-lo antes que o recurso seja lançado. Se eles recusarem, você pode escolher outro.
O sistema de observação em si não é automático. Se os sistemas ChatGPT solicitarem uma conversa possível sobre o assunto, o chatbot primeiro informa ao usuário que seu contato de confiança pode ser notificado e também solicita que o usuário entre em contato diretamente com uma plataforma de conversa em primeiro lugar. Uma pequena equipe de inteligência humana especialmente treinada entra então para avaliar a situação. Somente se confirmarem um risco grave o contato é realmente notificado, por e-mail, texto ou notificação no aplicativo. O Watch não compartilha transcrições de bate-papo ou detalhes de conversas. Ele simplesmente diz que a perda ocorreu de forma potencial e que está procurando um contato para verificar. A OpenAI afirma que pretende concluir essa revisão humana em menos de uma hora.
Por que a OpenAI está adicionando isso agora?
A identidade confiável faz parte de uma linha mais ampla de segurança na plataforma. Anteriormente, a OpenAI adicionou recursos que os pais deveriam observar quando um adolescente mostra sinais de sofrimento emocional. Acredita-se que o contato seja uma extensão adulta da face com a mesma característica. O relatório foi desenvolvido com contribuições de médicos, pesquisadores e organizações de saúde mental, incluindo a Associação Americana de Psicologia.
Dito isso, é importante notar que o Contact Finder não substitui linhas diretas de crise, serviços de emergência ou profissionais de saúde mental. O ChatGPT ainda direcionará os usuários para esses recursos quando necessário. Os usuários podem remover ou alterar um contato confiável a qualquer momento e podem remover contatos a qualquer momento.
O fato é que o ChatGPT é usado para algumas conversas pessoais na internet, quer a OpenAI tenha pretendido ou não. Adicionar um recurso como Contatos confiáveis é um passo na direção certa e também uma admissão de que um chatbot só pode fazer isso.
