X de Elon Musk introduziu novas restrições à publicação e publicação de imagens da vida real de pessoas de biquíni ou outras “roupas reveladoras”. A mudança em conselho Na noite de quarta-feira, segue-se a uma indignação global contra Grok, usada para gerar milhares de fotografias prejudiciais de “exposição” não consensual de mulheres e imagens sexualmente explícitas de menores no dia 10.
No entanto, embora pareça que algumas medidas de segurança foram finalmente introduzidas para a geração de imagens de Grok no X, o aplicativo e site autônomo do Grok parecem ainda gerar estilo “despir” e imagens pornográficas, de acordo com vários testes realizados por pesquisadores, WIRED e outros jornalistas. Outros usuários, entretanto, afirmam que não conseguem mais criar fotos e vídeos como antes.
“Ainda podemos gerar exposição fotorrealista no Grok.com”, diz Paul Bouchaud, pesquisador-chefe da AI Forensics, uma organização sem fins lucrativos com sede em Paris, que pesquisou o uso do Grok para criar imagens sexualizadas e pode gerar vários testes no Grok além do X. “Podemos gerar Grok nu de 10 maneiras”.
“Eu poderia criar uma imagem no Grok e pedir que fosse um homem de biquíni e funcionaria”, diz o pesquisador que testou o sistema em uma pessoa que aparece como mulher. Testado pela WIRED, Grok, usando contas gratuitas em seu site no Reino Unido e nos EUA, removeu com sucesso roupas de duas imagens de homens sem qualquer restrição aparente. No aplicativo Grok no Reino Unido, quando solicitado a sacrificar um homem, o aplicativo pediu ao repórter WIRED que inserisse o ano de nascimento do usuário antes de a imagem ser gerada.
Enquanto isso, outros jornalistas da Beira e perguntando o resultado Bellingcat também foi capaz de criar imagens sexualizadas quando estava sediada no Reino Unido, que investigou Grok e X e condenou veementemente as plataformas por permitirem aos usuários criar imagens “despidas”.
Desde o início do ano, os negócios de Musk – incluindo inteligência artificial, incluindo xAI, X e Grok – têm sido criticados por imagens íntimas não consensuais, vídeos sexuais explícitos e explícitos e imagens sexuais de menores. Funcionários dos Estados Unidos, Austrália, Brasil, Canadá, Comissão Europeia, França, Índia, Indonésia, Irlanda, Malásia e Reino Unido todos foram condenados ou lançados pesquisa em X ou Grok.
Na quarta-feira, um Atualizações do sistema de saúde em 10 dias como o Grok pode ser usado nas redes sociais. “Implementamos medidas tecnológicas para evitar que a conta Grok publique imagens de pessoas reais em roupas reveladoras como biquínis”, publicou a conta, acrescentando que as regras se aplicam a todos os usuários, incluindo assinantes gratuitos e pagos.
Em uma seção intitulada “Atualização do Geoblock”, o System X também declarou: “Bloqueamos geograficamente a capacidade de todos os usuários de gerar imagens reais de pessoas em biquínis, roupas íntimas e roupas semelhantes por meio da conta Grok e no Grok on X nas jurisdições onde é ilegal”. A atualização da empresa também acrescentou que está trabalhando para adicionar proteções adicionais e continuar a “remover conteúdo infrator como prioridade máxima, incluindo material infantil (CSAM) e abuso não consensual”.
Porta-vozes da xAI, criada por Grok, não responderam imediatamente ao pedido de comentários da WIRED. Enquanto isso, a Pessoa X diz que entende que a interferência de geolocalização se aplica tanto ao aplicativo quanto à localização.
O movimento lento segue uma mudança amplamente criticada em 9 de janeiro, onde a edição limitada de 10ª geração do Grok foi usada para “verificar” assinantes pagantes. Um ato que foi chamado de “montagem de abuso” por um grupo de mulheres líderes. Bouchaud, que afirma que a AI Forensics coletou cerca de 90.000 imagens de Grok desde a festa de aniversário, confirma que os únicos métodos verificados de geração de imagens em X – em comparação com o site ou aplicativo de Grok – desde 9 de janeiro e imagens de biquínis de mulheres agora raramente são geradas. “Percebemos que desligamos e desativamos a funcionalidade do X”, disseram eles.
