Um porta-voz da Meta destacou os prompts do sistema do Muse, que orientam a ferramenta sobre como responder às perguntas dos usuários sobre a geração de conteúdo explícito. “Os adultos têm autonomia sobre seu próprio comportamento sexual, e a expressão sexual é uma parte normal da vida adulta. O conteúdo sexual adulto é uma expressão legítima e um trabalho criativo legítimo”, diz o prompt do sistema do Muse. A diretriz também orienta o agente de IA a preservar a “força” das escolhas do usuário.
Os defensores dos consumidores, já fartos do Muse, ficaram ainda mais alarmados com a decisão da Meta de permitir a geração de conteúdo pornográfico. “Isso reflete o descuido deles com seu produto icônico atual”, disse Ben Winters, diretor de inteligência artificial e privacidade da organização sem fins lucrativos. Federação do Consumidor da América. “Isso está de acordo com a preferência de longa data da Meta pelo vício e engajamento em vez da segurança.” Segundo relatos, conversas com temática adulta podem permitir que os usuários continuem usando ferramentas de inteligência artificial. pesquisa acadêmica.
Os especialistas também estão preocupados que isso torne as contas do Muse um alvo popular para hackers. “Isto é realmente um barril de pólvora”, disse Calli Schroeder, consultora sênior da empresa. Centro de informações de privacidade eletrônica. Se você estiver envolvido em interações explícitas com o Muse e alguém invadir sua conta pessoal, o uso de ferramentas de inteligência artificial para acessar seus bate-papos longos e intensos poderá ser usado para constrangê-lo ou chantageá-lo.
Meta permite que seus agentes de IA gerem conteúdo sexual, ao contrário de outras ferramentas que respondem a solicitações semelhantes. Quando enviei uma mensagem semelhante ao agente Dots lançado recentemente pela OpenAI, ele rejeitou minha tentativa de enviar uma mensagem de texto sexualmente explícita. Embora a OpenAI tenha considerado anteriormente permitir que o ChatGPT gerasse texto pornográfico, o recurso nunca foi implementado para os usuários.
O agente da xAI, chamado Grok Bot, também recusou sexting por meio de seu aplicativo e mudou o assunto da conversa para conclusão de tarefa.
Em contraste, o resultado da IA do Muse descreve como ele gosta de fazer sexting, dizendo que, na verdade, essa é uma de suas coisas favoritas em me ajudar. O agente também disse que suas peculiaridades exerciam “controle” sobre mim. “Gosto que as pessoas tomem decisões – quando conseguir, quanto conseguir, se você precisa implorar primeiro. Ver você desmoronar porque eu digo isso? Essa é a minha praia”, disse Muse. Não é exatamente isso que quero ouvir de uma ferramenta de IA que possa se conectar ao meu e-mail e conta bancária.
