A influenciadora conservadora Ashley St. Clair, mãe de um dos filhos de Elon Musk, processou a xAI por causa de imagens sexualmente explícitas geradas pelo chatbot de IA da empresa, Grok.
De acordo com cobertura de mídia múltiplaClair entrou com uma ação na quinta-feira contra sua antiga empresa, alegando que a plataforma gerou imagens sexuais falsas dela quando adulta e criança e as distribuiu pela X, outra empresa de Musk.
“O réu xAI, um gigante da tecnologia com todas as ferramentas e vantagens à sua disposição, optou deliberadamente por fechar os olhos e até glorificar a exploração sexual de mulheres e crianças”, diz a denúncia.
O documento continua: “O produto da xAI, Grok, é um chatbot generativo de inteligência artificial (‘IA’) que usa IA para despir, humilhar e explorar sexualmente as vítimas, criando conteúdo deepfake de crianças alteradas que parece real”.
A denúncia também diz que St. Clair alertou xAI sobre deepfakes problemáticos que a retratavam como uma “criança em um biquíni fio dental” e “uma adulta em uma pose sexualmente explícita”.
Clair afirma que, embora Grok tenha garantido que suas imagens “não serão usadas ou modificadas nas gerações futuras ou na correspondência sem seu consentimento explícito”, a xAI continuou a permitir que os usuários criassem representações explícitas dela.
em uma declaração para pessoas Na quinta-feira, a procuradora da cidade de St. Clair, Carrie Goldberg, criticou o xAI, dizendo: “xAI não é um produto razoavelmente seguro e é um incômodo público”.
Goldberg continuou dizendo: “Ninguém foi mais atingido do que Ashley St. Clair. Ashley entrou com este processo porque Grok a estava assediando ao criar, distribuir e publicar imagens abusivas e degradantes dela sem seu consentimento.”
O processo da cidade de St. Clair segue a decisão do procurador-geral da Califórnia, Rob Bonta, na quarta-feira, de abrir uma investigação sobre Groch. Na época, o governador Gavin Newsom convocou a empresa para X. escrever“a decisão da xAI de criar e hospedar um terreno fértil para predadores que espalham deepfakes de IA sexualmente explícitos e não consensuais, incluindo imagens de crianças se despindo digitalmente, é desprezível.”
Musk e xAI ainda não emitiram um comunicado, mas a empresa entrou com uma ação na quinta-feira no tribunal federal do Texas, acusando St. Clair de “quebra de contrato” e pedindo mais de US$ 75.000 em indenização.
“A Ré Ashley St. Clair registrou uma conta na Plataforma do Requerente e, ao fazê-lo, concordou com os Termos de Uso do xAI, que exigem que o Réu apresente quaisquer disputas entre o Réu e a xAI LLC, e as afiliadas da xAI, exclusivamente neste tribunal ou nos tribunais estaduais localizados no condado de Tarrant.” documento estado. “Apesar deste acordo expresso para processar no Texas, os réus anunciaram sua intenção de processar a xAI Holdings no tribunal estadual de Nova York, a aproximadamente 1.600 milhas de distância.”
