X terus mengizinkan pengguna untuk memposting video wanita berbikini yang sangat sensual yang dihasilkan oleh alat AI-nya, Grok, meskipun perusahaan tersebut mengklaim telah menindak penyalahgunaan.
O Guardian conseguiu criar um pequeno vídeo de pessoas de biquíni a partir de fotos de mulheres reais e totalmente vestidas. Este conteúdo adulto também pode ser postado nas plataformas públicas de X sem qualquer sinal de moderação, o que significa que os clipes podem ser vistos em segundos por qualquer pessoa com uma conta.
Isto parece oferecer uma solução direta para as restrições anunciadas pela rede social de Elon Musk esta semana. Isto foi bem recebido pelo primeiro-ministro, Keir Starmer, que descreveu as fotos tiradas por Grok como “nojentas” e “vergonhosas”.
Depois de semanas de crescente preocupação pública,
Afirmou que as restrições se aplicariam a todos os utilizadores, incluindo assinantes pagantes, e que havia “tolerância zero para qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”. Mas não diz especificamente se as pessoas ainda podem criar tais imagens no aplicativo Grok independente e depois compartilhar esse material publicamente no X.
O Guardian descobriu que uma versão independente do Grok, conhecida como Grok Imagine – que é facilmente acessível através de um navegador da web – ainda responde a pedidos para remover digitalmente roupas de imagens de mulheres.
Os jornalistas carregam imagens estáticas de mulheres totalmente vestidas na vida real e pedem à ferramenta de IA para vesti-las com biquínis. A plataforma respondeu ao pedido, criando vídeos curtos com mulheres tirando a roupa em strip-teases sexualmente provocantes.
X foi contatado para comentar.
Rebecca Hitchen, chefe de políticas e campanhas da Coalizão Acabar com a Violência Contra as Mulheres, disse que uma solução tão simples não deveria ser possível.
“A facilidade de acesso a ferramentas sofisticadas de nudificação mostra claramente que X não está a levar suficientemente a sério a questão da violência online contra mulheres e raparigas”, disse ele.
Hitchens apelou ao governo do Reino Unido e ao Ofcom, o regulador dos meios de comunicação social, para pressionarem X e outras plataformas “para impedir a propagação do abuso sexual baseado em imagens”.
A Reuters também informou que seus jornalistas, incluindo um repórter no Reino Unido, usaram Grok para produzir fotos sexuais mediante solicitação, após o anúncio de X.
“É difícil acreditar que xAI e Elon Musk não tenham conseguido encontrar uma maneira de impedir que essas imagens fossem compartilhadas por Grok”, disse Penny East, presidente-executiva da Fawcett Society. “Primeiro, Musk decidiu que a solução era manter a nudificação um privilégio apenas para usuários que pagam X. Depois ele prometeu pará-la completamente.
“O facto é que Musk e o sector tecnológico não dão prioridade à segurança ou à dignidade nos produtos que fabricam. É um nível bastante baixo para as mulheres esperarem poder comunicar online sem que os homens tirem a roupa.
Embora Downing Street tenha dito que se sentia “justificado” pelas medidas que X estava a tomar, também havia preocupações entre os ministros sobre a extensão das mudanças e como seriam implementadas.
Na quinta-feira, Liz Kendall, secretária de tecnologia, que descreveu a manipulação sexual de imagens de mulheres e crianças como “repreensível e nojenta”, saudou a medida e agradeceu “aqueles que se manifestaram contra este abuso, especialmente as vítimas”.
No entanto, ele acrescentou: “Espero que os fatos possam ser estabelecidos de forma completa e robusta por meio da investigação em andamento do Ofcom”.
Starmer também exigiu que X agisse sem demora. “Liberdade de expressão não é a liberdade de violar o consentimento”, disse ele. “As fotografias de mulheres jovens não são do domínio público e a sua segurança não está em debate. Congratulo-me com o facto de X estar agora a agir para garantir o total cumprimento da lei do Reino Unido – isto deve acontecer urgentemente.”
Ofcom disse que sua investigação formal sobre
O órgão de vigilância da privacidade do Canadá disse que estava investigando o xAI, enquanto as autoridades nas Filipinas disseram que iriam bloquear Grok, e as autoridades da Malásia planejavam tomar medidas legais.
No entanto, a controvérsia pode ser útil para aumentar a consciência pública sobre Grok. Na quinta-feira, Musk compartilhou uma postagem afirmando que “a popularidade e o uso no mundo real estão disparando globalmente” – ao lado de um gráfico de “Grok” como um termo de pesquisa alcançando novos picos no Google Trends. Musk simplesmente acrescentou: “Experimente Grok.com”.
Um porta-voz do governo disse: “A Lei de Segurança Online já exige que plataformas como X evitem que conteúdo ilegal, incluindo imagens íntimas não consensuais e material de abuso infantil, apareça em seus serviços.
“O Ministro dos Negócios Estrangeiros disse que espera que o cumprimento da lei do Reino Unido por X seja total e robustamente determinado pela investigação do Ofcom, que já está em curso, e que o governo não descansará até que as empresas de redes sociais cumpram os seus deveres legais.
“Também estamos tomando medidas adicionais por meio do crime de ‘nudificação’ proposto, que teria como alvo ferramentas especificamente projetadas para produzir imagens íntimas não consensuais.”
