Ashley St. Clair, mãe de um dos filhos de Elon Musk, está processando sua empresa xAI, alegando que a ferramenta Grok AI da empresa foi usada para criar imagens explícitas dela. Isso inclui fotos de St. Clair. que é judia “despiu-se e usou um biquíni coberto de suásticas” e “Quando eu era criança, despojou-se apenas de um biquíni”, de acordo com a denúncia, que foi analisada por Semana de notícias.
O pedido ocorre após um protesto global sobre imagens sexuais falsas que circulam no X. Em uma postagem recente na plataforma, Musk disse que as críticas ao X foram motivadas politicamente. e usar argumentos como “Desculpas para Censura”
Em resposta a um pedido de comentário sobre uma história anterior, Semana de notícias Num comunicado partilhado na plataforma lê-se em parte: “Implementamos medidas tecnológicas para evitar que as contas Grok permitam a edição de imagens de pessoas reais. Ao revelar roupas como biquínis, esta restrição aplica-se a todos os utilizadores. Incluindo membros pagos.”
Semana de notícias Os advogados de St. Clair, do departamento de imprensa de X e xAI e Musk, por meio do departamento de relações públicas da Tesla, foram contatados fora do horário comercial normal para comentar.
Por que isso é importante?
Imagens falsas de características sexuais criadas pela ferramenta Grok AI inundaram o número X nas últimas semanas. Uma análise da empresa de análise de conteúdo Copyleaks descobriu que Grok estava criando “aproximadamente uma imagem não consensual por minuto”.
Isso causou uma grande reação. E muitas mulheres afetadas falaram sobre os danos que este conteúdo causou. Tornou-se uma conversa global sobre IA e tecnologia deepfake. Várias mulheres importantes foram visadas. Incluindo a Princesa Kate e St. Clair. que chamou mais atenção para o assunto.
Muitos países já tomaram medidas contra a plataforma. Grok está completamente bloqueado na Malásia e na Indonésia. e está sob investigação oficial no Reino Unido e na Califórnia. qual é a localização da sede
X disse que “comprometeu-se a tornar o X uma plataforma segura para todos. e continua a não tolerar qualquer forma de exploração sexual de crianças. Nudez não consensual e conteúdo sexual indesejado”
Coisas para saber
St. Clair, um autor e autor conservador influente, está buscando indenizações punitivas e compensatórias. O documento descreve diversas imagens explícitas. Mas nota-se que “Estas são as únicas fotos que ela conhece”.
O documento afirma: “xAI é diretamente responsável pelas ameaças e imagens explícitas criadas por seu próprio Chatbot Grok”.
A ação alega que St. Clair pediu a remoção do conteúdo e denunciou as imagens para
O caso afirmava que “a estrutura de relatórios de X é falha” e “Grok é excessivamente perigoso conforme projetado”.
A denúncia também acusa a empresa de mídia social de “retaliar” contra St. Clair, “demonizando sua conta X. e criando mais imagem dela”.
A ação afirma que as imagens não eram consensuais e que Grok e xAI tinham “conhecimento claro” de que St. Clair não consentiu porque solicitou a remoção das imagens.
St. Clair é representada por Carrie Goldberg, advogada dos direitos das vítimas e fundadora da CA Goldberg PLLC, com quem Goldberg conversou. Semana de notícias Para uma história anterior sobre as ramificações legais das imagens sexualmente ofensivas da Grok AI, ela disse na época que a maioria das “proteções” da IA eram voluntárias. inconsistentes e fáceis de evitar Isto significa que agem mais como pontos de discussão do que como medidas de segurança reais.
“Isso custa aos usuários. Especialmente mulheres e crianças.”
Musk e St. Clair são pais de um filho nascido em 2024. Eles estão separados. E Musk anunciou recentemente sua intenção de pedir a custódia do filho.
O que as pessoas estão dizendo
Elon Musk em uma postagem no X em 14 de janeiro: “Não tenho conhecimento de nenhuma nudez de menor de idade criada por Grok. Na verdade, zero. Grok certamente não criou as imagens sozinho. Ele só agirá a pedido do usuário. Quando solicitado a criar uma imagem, ele se recusará a construir qualquer coisa ilegal. Como o princípio de operação de Grok é cumprir as leis de qualquer país ou estado, pode haver momentos em que hackear mensagens de aviso de Grok feitas por adversários faça coisas inesperadas. Se isso acontecer, corrigiremos o defeito imediatamente.”
X segurança em postagens na plataforma: “Trabalhamos para remover conteúdo infrator de alta prioridade. Isso inclui material de abuso sexual infantil (CSAM) e nudez não consensual. Tomamos as medidas apropriadas contra contas que violam nossa Regra X. Também denunciamos contas que buscam materiais de exploração sexual infantil às autoridades, conforme necessário.”
Ashley St. Clair em uma postagem no X em 12 de janeiro: “E não poste fotos suas ou de sua família aqui. A menos que você queira que o Twitter lhe diga que o conteúdo de assédio sexual de robôs nazistas não viola seus termos de serviço.”
O que acontecerá a seguir?
Musk não havia respondido publicamente ao processo de St. Clair no momento da reportagem. Mas os dois têm um histórico de fazer declarações públicas sobre questões familiares e jurídicas. Portanto, futuras atualizações poderão aparecer online.
