O “modo adulto” atrasado da OpenAI para ChatGPT suportará conversas de texto atrevidas no lançamento, mas não suportará a capacidade do chatbot de gerar imagens, áudio ou vídeo. falar com jornal de Wall Streetum porta-voz anônimo da OpenAI explicou que o conteúdo fornecido pelo próximo recurso é obsceno, não pornográfico, e permitirá que os usuários do ChatGPT gerem chats de texto com tema adulto.
O atraso também se deveu a preocupações internas e desafios técnicos em relação às medidas de segurança do recurso, segundo jornal de Wall Street Relatório. O conselho de conselheiros eleito da OpenAI alertou a empresa em janeiro que o modo adulto do ChatGPT era acessível às crianças e poderia encorajar a dependência emocional prejudicial aos chatbots, e um membro anônimo do conselho disse que a OpenAI corria o risco de criar “treinadores suicidas sensuais”.
Problemas de gerenciamento de conteúdo também contribuem para atrasos. Uma fonte relacionada revelada. jornal A OpenAI afirma que está lutando para suspender as restrições do ChatGPT ao conteúdo NSFW, ao mesmo tempo que mantém fora dos limites cenários mais prejudiciais, como comportamento não consensual e abuso sexual infantil.
O sistema de previsão de idade desenvolvido pela OpenAI para manter as crianças longe do erotismo também classificou erroneamente os menores como adultos em cerca de 12% das vezes. Dado que o ChatGPT atrai aproximadamente 100 milhões de utilizadores com menos de 18 anos de idade todas as semanas, esta taxa de erro pode resultar em milhões de menores a terem conversas sexuais com chatbots. O algoritmo de previsão de idade da OpenAI tem desempenho semelhante ao de outros setores, disse um porta-voz anônimo. jornalMas “você nunca pode ter certeza absoluta”.
Manter conversas baseadas em texto pode tornar mais fácil para os criadores do ChatGPT contornar regulamentações como a Lei de Segurança Online do Reino Unido. A lei exige que as plataformas online exijam verificação de idade para imagens pornográficas, mas não para textos eróticos. Também contrasta com experiências NSFW mais visuais de fornecedores rivais de IA, como o companheiro “Spicy” de Grok, e Elon Musk da xAI disse na semana passada que os geradores de imagem e vídeo de GrokPermitido em filmes censurados”
