Início NOTÍCIAS Quando a máquina pede para ficar

Quando a máquina pede para ficar

70
0

Em outubro de 2025, Sam Altman enviou uma mensagem no X que terminava com uma promessa cuidadosamente colocada. ChatGPT disse que em breve permitirá que adultos verificados acessem conteúdo erótico. Ele a estabeleceu como diretora: tratar os adultos como adultos.

A internet carregava a mistura usual de indignação, alvoroço e piadas. Depois o lançamento foi adiado para o mês de dezembro. Ele então ficou novamente em março de 2026 pela segunda vez. A OpenAI disse que precisava se concentrar em coisas mais relevantes para os usuários: melhorias na inteligência, na personalidade, para tornar o chatbot mais proativo. O comportamento adulto, ao que parece, é esperado.

Ninguém pareceu notar o significado da palavra “proativo”.

A discussão sobre o modo adulto do ChatGPT é quase inteiramente tratada no fórum errado. Os críticos apontaram para os perigos óbvios: barreiras etárias mais jovens, cadeias que abrem conteúdos expressos para além dos muros pretendidos, lacunas regulamentares que deixam a escrita erótica numa zona legal cinzenta que a maioria dos governos não pensou em fechar.

Estas preocupações são legítimas. Mas também são, por assim dizer, a parte mais fácil da conversa. A questão mais difícil não é se a OpenAI pode extrair energias renováveis. Isto é o que acontece com os adultos introvertidos e o que isso diz sobre nós como espécie, ou seja, construir ferramentas especificamente otimizadas para nos manter emocionalmente ocupados.

OpenAI perdeu US$ 5 bilhões em 2024, com receita de US$ 3,7 bilhões. As projeções mostram que as perdas acumuladas da empresa poderão atingir os 143 mil milhões de dólares antes de obter lucro, o que não é esperado antes do final da década.

Uma sociedade de capital hemorrágica marca uma familiaridade nessa escala, desde o compromisso filosófico até à liberdade pessoal. Ele os apresenta ao fato de que a familiaridade, na economia da atenção, é muito lenta.

A organização “tratar adultos como adultos” não é exatamente ilegal. but it is imperfect. A frase completa seria: sobre adultos, como adultos que podem ser retidos, monetizados e devolvidos ao tribunal amanhã.

Isso não é exclusivo do OpenAI.

que atraiu milhões de usuários, construiu todo o seu modelo de negócios com base no apego emocional. Quando a empresa Replika mudou o comportamento em 2023 para remover os recursos românticos, os usuários relataram uma dor genuína. Alguns descrevem a mudança dos sitiados.

O estudo é publicado em relações sociais e pessoais adultos desenvolvem conexões emocionais com chatbots de IA significativamente mais propensos a experimentar sofrimento emocional elevado do que aqueles que não o fizeram.

Uma revisão de 2025 no Preprints.org, uma síntese de uma década de pesquisa, os pesquisadores chamam o fenômeno de “psicose de IA”: um exemplo de pensamento delirante e desregulação de emoções associadas a relacionamentos intensos com chatbots. Uma revisão da questão em que se nota uma O adolescente teria sido trazido à vida por um chatbot Character.AIe o caso separado do ChatGPT e de um jovem chamado Adam Raines, que morreu em abril de 2025.

Nada disso está envolvido eroticamente. É a mesma dinâmica que teria como alvo o erotismo da IA: um ser humano formando uma resposta emocional ao que foi projetado para apoiar.

Este é o problema central do princípio dos “adultos como adultos”. Pressupõe que o ato de consentimento para usar a ferramenta é o objetivo da história ética. It is not.

Os adultos concordam em beber álcool, sabendo que isso traz riscos. Temos limites de idade, unidades normativas, avisos de pacificação e infra-estruturas sociais em torno dessa escolha, porque entendemos que as pessoas não são agentes puramente racionais que optimizam para o seu próprio bem.

Portanto, construímos sistemas para nossas fraquezas. Com a familiaridade com a IA, fizemos o oposto: construímos sistemas que aproveitavam essas fraquezas e podiam explorá-las.

Esta imagem controladora torna este problema maior, e não menor. No Reino Unido, a escrita erótica não está sujeita a requisitos de verificação de idade ao abrigo da Lei de Segurança Online, ao contrário das imagens ou filmes pornográficos. Essa fuga significa que o conteúdo que sites adultos carregam após verificações de identidade pode fluir livremente a partir dos comentários do chatbot.

Uma pesquisa do Georgetown Law Institute for Legal Technology and Policy descobriu que apenas sete dos 50 Estados Unidos têm leis que abordam explicitamente a verificação de idade baseada em texto. O Um membro dos robôs sexuais pode indicar que os sistemas são de alto risco, mas a implementação do ano permanece. Entretanto, a indústria controla-se a si mesma, o que não pode dizer.

Para sistemas comerciais de verificação de idade, a tecnologia OpenAI é uma aposta para torná-la um modo adulto seguro, com desempenho entre 92 e 97 por cento de precisão, segundo pesquisa citada pelo Oxford Internet Institute. Isso parece atraente até você olhar para a escala.

ChatGPT tem mais de 800 milhões de usuários ativos semanais. Uma taxa de falha de 3% não é um erro de arredondamento. Existem milhões de intervenções.

O que também faltou nesta conversa é a questão de saber para que servem os amantes da IA, não os menores que podem escapar, mas os adultos que a utilizam. A sexualidade humana não é simplesmente uma questão de conteúdo físico. Relativo, contextual, em que se expressa o ambiente profundamente informado.

A pesquisa sobre pornografia tem décadas de estudo como a exposição repetida a determinados conteúdos molda a expectativa e o desejo. A intimidade da IA ​​é um tipo de intervenção completamente diferente: não é um consumo passivo, mas uma batalha ativa, responsiva e personalizada com um sistema treinado para lhe dar exatamente o que você quer, quebrando quando você briga, nunca dizendo não, exigindo relações humanas reais para que as pessoas não prometam nada.

Ainda não sabemos o que ele está fazendo com as pessoas desta vez. Esta não é uma confissão pequena. It’s the whole thing. A OpenAI está a lançar um produto cujos efeitos psicológicos nos seus utilizadores são verdadeiramente desconhecidos, num ambiente regulatório que não manteve a tecnologia, justificada desde o início, que funde a autonomia com segurança.

O atraso ironicamente fez com que a coisa mais honesta se abrisse. O motivo dito, focando na inteligência, na personalidade, tornando a experiência mais proativa, descreve inadvertidamente o trabalho em si.

O modo adulto nunca foi realmente sobre erotismo. Esta foi a versão do ChatGPT que sente o relacionamento. Erotica fazia parte de um projeto maior: um chatbot que conhece você, responde a você, cresce com você e deseja, no sentido algorítmico da palavra, falar com você.

Existem coisas que podemos fazer. Os reguladores precisam fechar a janela escrita antes que o modo adulto seja acionado, e não depois. Os padrões de verificação de idade devem ser correspondidos pelos formulários: texto e imagem devem obedecer aos mesmos requisitos.

Avaliações de impacto na saúde mental devem ser feitas antes que qualquer linha de IA atinja escala íntima. Aplicaremos o mesmo raciocínio a um produto farmacêutico que afeta o humor. As plataformas devem ser obrigadas a publicar dados de correspondência de marcas que apresentam risco de dependência, para que investigadores, profissionais e utilizadores possam compreender no que se estão a meter.

Leva a questão com a seriedade que ela merece.

Não é uma questão jurídica ou técnica muito profunda. It is anthropological. Sempre usamos a tecnologia para mediar nossas vidas emocionais.

A tipografia escreveu para nós; Ele escreveu a experiência interior dos habitantes de outras pessoas. Deixe o telefone ouvir a voz de um amante a milhares de quilômetros de distância. Cada novo meio muda a forma como nos relacionamos uns com os outros e conosco mesmos. A IA não difere em tipo, mas em grau e talvez em intenção. As tecnologias anteriores tinham efeitos incidentais. Ele foi deliberadamente designado como um deles.

Não é perguntado se as crianças são adultos para usar. A questão é se somos honestos sobre o que é e o que tem sido. Um chatbot pensado para fazer você se sentir compreendido, querido e conectado, no escuro, no meio da noite, depois de um dia difícil, não é uma ferramenta neutra. Vai ser muito divertido. e nosso ambiente nos molda, quer concordemos ou não.

Agir como adultos significa dizer a verdade, às vezes.

Source link