O chatbot Grok de Elon Musk começou na quinta-feira a limitar a capacidade de usuários não pagantes de criar deepfakes e imagens sexuais após resistência global de usuários e governos.
No final do mês passado, alguns usuários começaram a marcar Grok na plataforma de mídia social de Musk, X, com comandos como “coloque-a de biquíni” para gerar imagens não consensuais de pessoas reais no X.
As imagens alteradas, incluindo imagens de celebridades, políticos e alguns menores, foram criadas por Grok e publicadas publicamente no X.
Antes da implementação das restrições atuais, Musk participou da tendência de despir-se da IA, instruindo Grok a criar uma foto sua de biquíni.
Usuários e autoridades reclamaram e ameaçaram processar ou punir X. Grok inicialmente se desculpou pelas fotos inadequadas do que parecia ser uma criança.
Agora X colocou as controversas habilidades de transformação de Grok atrás de um acesso pago.
Os governos, incluindo o Reino Unido e a Comissão Europeia, disseram estar insatisfeitos com as proteções do X porque a capacidade de criar e editar imagens permanece limitada. disponível para usuários pagantes.
“Embora limitar a geração de imagens de IA a usuários pagos possa reduzir ligeiramente o volume e melhorar a rastreabilidade, o abuso não foi interrompido. Ele foi simplesmente colocado atrás de um acesso pago, para que X possa lucrar com os danos”, disse Emma Pickering, chefe de abuso facilitado pela tecnologia e capacitação econômica na Refuge, em um comunicado.
À medida que cresce a indignação pública sobre o que muitos chamam de abuso induzido pela IA, os reguladores começam a tomar conhecimento, com alguns propondo banir o X nos seus países.
O primeiro-ministro britânico, Keir Starmer, disse que X “deve abordar” esta tendência “nojenta”. “Tomaremos medidas sobre isso porque não pode ser tolerado”, disse Starmer.
Em negação velada, Musk pareceu criticar os reguladores britânicos ultraje ao republicar a afirmação de que o ChatGPT também permite a criação de imagens de biquínis de pessoas não reais por meio de incentivo criativo e não explícito.
Depois de condenar Grok por produzir imagens sexuais, a Comissão Europeia ordenou que X retenha todos os documentos relativos a Grok para garantir o cumprimento dos seus regulamentos.
“Deveríamos poder acessá-lo se o solicitarmos explicitamente”, disse um porta-voz da Comissão em um comunicado. Conferência de imprensa.
França, Índia e Malásia, além do Brasil, também pesquisam a plataforma.
Embora as figuras públicas tenham sido o alvo inicial do desnudamento da IA, este rapidamente passou para os particulares. Em 3 de janeiro, um usuário pediu a Grok 50 vezes por dia para criar imagens sexuais e não consensuais de mulheres no local de trabalho, de acordo com uma análise da empresa de detecção de IA Copyleaks.
O grupo de justiça de gênero Ultraviolet montar uma campanha pressionar a Apple e o Google a remover X de suas respectivas lojas de aplicativos, alegando que X viola as diretrizes de abuso sexual infantil.
Musk posicionou seu chatbot como uma alternativa mais atraente a alternativas como Gemini, ChatGPT e Claude, que têm mais diretrizes restritivas em torno de solicitações de conteúdo explícito.
