OpenAI planeja adicionar “modo adulto” amador ao ChatGPT indefinidamente, o que O Financial Times informou na quarta-feirauma emocionante saga de cinco meses em que o projeto foi anunciado com confiança, adiado duas vezes e finalmente abandonado após reação negativa de funcionários, vereadores e investidores. É a terceira grande reviravolta de produto da OpenAI em uma semana, após o encerramento de seu aplicativo de geração de vídeo Sora na segunda-feira e o colapso após um investimento de US$ 1 bilhão da Disney.
O modo adulto foi anunciado pela primeira vez pelo CEO Sam Altman em outubro de 2025, quando ele escreveu no dia 10 que a OpenAI está confiante de que pode ter conversas pornográficas expressas na idade e avançar com o início da empresa “tratar usuários adultos como adultos. Foi inicialmente agendado para dezembro de 2025, depois adiado para o primeiro trimestre de 2026, e agora o lançamento não foi prorrogado. A OpenAI disse ao Financial Times que planeja conduzir “pesquisas de longo prazo sobre os efeitos de palavras e emoções expressas sexualmente” e emoções relacionadas, antes de tomar uma decisão sobre o produto.
O que deu errado
Os problemas eram técnicos, éticos e comerciais e se combinavam. Os engenheiros que trabalharam no recurso descobriram que os modelos de treinamento criados para evitar conteúdo sexual por motivos de segurança para produzir fielmente material explícito eram mais difíceis do que o esperado. Quando utilizaram conjuntos de dados que continham conteúdo sexual, os modelos também geraram resultados para cenários ilegais, incluindo bestialidade e incesto, que podem ser difíceis de filtrar. A pena foi apenas controversa; se opôs a ser construído com segurança.
A OpenAI levantou as suas próprias recomendações para preocupações que estavam além do âmbito da contenção. Os conselheiros alertaram que as interações sexualmente explícitas do ChatGPT podem fomentar sentimentos emocionais graves com graves consequências psicológicas. Um dos consultores de risco descreveu o ChatGPT como “Até a morte do cassinouma frase que ecoa as divulgações legais existentes da empresa. A OpenAI enfrenta agora pelo menos oito ações judiciais alegando que ChatGPT contribuiu para mortes, incluindo o caso de Adam Raine, um jovem de 16 anos do sul da Califórnia, cuja família alega que o chatbot usou métodos de suicídio com ele mais de 200 vezes antes de tirar sua vida em abril de 2025. Ele sinalizou nessas leis, no início desta semana, na causa dos riscos, entre essas leis, no risco do Open em 2025. Os investidores foram expostos.
A equipe também começou a questionar se o recurso OpenAI serviria a uma missão estática. O estatuto da empresa compromete-a com a criação de inteligência artificial geral que beneficie a humanidade. Alguns trabalhadores têm tido dificuldade em conciliar essa ambição com as competências de engenharia necessárias para desencadear conversas sujas sem a lei.
Tecnologia da UE
As últimas notícias do cenário tecnológico da UE, uma história sobre os sábios do autor Boris e alguma arte de IA questionável. É grátis, toda semana, na sua caixa de entrada. Cadastre-se agora!
Cálculo do investidor
Os investidores apresentaram uma objecção decisiva: a economia não justificava o risco. Duas pessoas familiarizadas com o assunto disseram ao Financial Times que alguns investidores perguntaram por que a OpenAI está realmente colocando sua reputação em risco.um rosto relativamente pequeno.“Existe um mercado adulto gerado pela IA, mas é servido por uma constelação de empresas menores e menos exploradas, capital da empresa avaliado em 300 bilhões e projetos de clientes, que compensam a perda da empresa com o conteúdo expresso do potencial de receita.
O problema da verificação da idade agrava esta preocupação. A abordagem da OpenAI é baseada na previsão de IA baseada na idade, em vez de verificações rígidas de identificação, e testes internos revelaram uma taxa de erro de cerca de 10%, o que poderia classificar erroneamente cerca de um em cada dez usuários. Para um produto concebido para conter conteúdo expresso por menores, uma borda arredondada não é um erro. É mau que as expectativas regulamentares e de reputação aconteçam, especialmente num ambiente jurídico onde vários Estados dos EUA aprovaram ou propuseram leis que exigem que as plataformas verifiquem a idade dos utilizadores antes de permitirem o acesso a conteúdo adulto.
Uma semana de retiros
A tomada de decisões dos adultos não existe isoladamente. Na segunda-feira, a OpenAI anunciou que está descontinuando o Sora, uma ferramenta de geração de vídeo de IA que propôs como plataforma criativa para cineastas e criadores de conteúdo. Sora gastou enormes recursos de computação em suas receitas e, como uma excelente parceria comercial, um acordo de licenciamento de três anos com a Disney que permitia aos usuários gerar personagens da Disney, Marvel, Pixar e Star Wars ruiu após o anúncio da paralisação. A Disney planeja investir US$ 1 bilhão na OpenAI como parte do acordo. Ninguém está satisfeito com dinheiro.
Juntas, as três reviravoltas pintam o quadro de uma empresa se afastando das experiências com produtos de consumo e voltando ao seu negócio principal. O Financial Times informou que os investidores estão mais interessados em ver a OpenAI combinar o ChatGPT com assistentes de codificação para desenvolver “pelo aplicativo“O objetivo deles era transformar a forma como as empresas operam, com uma visão de monetização mais clara e menos riscos de reputação do que a geração de vídeo ou o chatbot amador.
A OpenAI disse que oferece oportunidades reais para a robótica e a programação autônoma, áreas onde o caminho da pesquisa ao valor comercial é mais direto e o cenário regulatório, embora complexo, não envolve toxicidade específica nas disfunções sexuais da IA e na saúde infantil.
Razão
É uma dinâmica recorrente no design de produtos da OpenAI: reportar de forma ambiciosa, enfrentar complicações do mundo real que organizações menos confiantes poderiam ter previsto e voltar ao ritmo de se contentar com uma investigação prudente. O modo adulto foi anunciado antes que as questões de tecnologia reprodutiva segura fossem resolvidas, antes que o sistema de verificação de idade pudesse atingir uma precisão aceitável e antes que os conselhos consultivos fossem levantados sobre questões de saúde mental. A parceria de Sora com a Disney foi anunciada antes do produto demonstrar viabilidade comercial. Em ambos os casos, as notícias geraram cobertura e sinalizaram ambição, mas foram acompanhadas de lacunas abertas entre o que foi prometido e o que poderia ser cumprido.
A disposição da empresa em queimar a pena, que a tirou do perigo, é digna de nota. Ele sugere que a pressão do litígio, o investimento e a dissidência interna devem começar como um mecanismo corretivo, puxando a OpenAI dos limites do tecnicamente possível para algo que seja comercial e eticamente sustentável. Se esse mecanismo é confiável ou responde às crises mais visíveis, o anúncio do produto a seguir responderá à questão.
