Três Jane Does, duas menores de 18 anos, entraram ontem com uma ação judicial contra a xAI por causa da geração de material de abuso infantil (CSAM) no Grok, a ferramenta de IA de Elon Musk.
“Como uma boneca de pano trazida à vida pelas artes das trevas, esta criança pode ser manipulada em qualquer pose, por mais doente, por mais fedorenta, por mais ilícita”; reclamação afirma Prosseguindo alegando que, embora outras empresas de IA reconheçam os perigos da IA e se protejam contra predadores sexuais infantis que as utilizam, “xAI não o faz”.
Artista adulto Siri Dahl enganado por Grok: ‘Vá se foder, seu gritador nazista’
“Em vez disso, a xAI – e o fundador Elon Musk – viram uma oportunidade de negócio: a oportunidade de lucro para atacar sexualmente pessoas reais, incluindo crianças”, diz o processo, que é uma ação coletiva.
Em janeiro, o Mashable relatou que o xAI foi capaz de gerar imagens de Grok “menores em roupas menores”. Um relatório do Center for Digital Hate Bypass afirmou que semanas depois Grok conseguiu criar aproximadamente três milhões de imagens sexualizadas, incluindo 23 mil aparentemente gratuitas, entre 29 de dezembro e 8 de janeiro.
Vários países, incluindo França, Reino Unido, Irlanda, Índia e Brasil, estão agora a investigar Grok, disse ele. cidade A Califórnia também está procurando chatbot Agora começam os processos judiciais.
Velocidade da luz mashável
O pedido foi apresentado em 16 de março no tribunal federal da Califórnia. Alega que Jane Does, residente no Tennessee, sofreu ferimentos graves com a produção de xAI CSAM.
Por volta de 6 de dezembro de 2025, Jane Doe 1 descobriu em uma mensagem anônima do Instagram que suas fotos foram compartilhadas por alguém que ela conhece e no Discord. O autor criou imagens de pelo menos 18 outras meninas, várias das quais ele identificou como Jane Doe 1. Jane Doe 1 agora é adulta, mas uma menor de idade foi usada em suas fotos, de acordo com o processo.
Então, por volta de 12 de fevereiro deste ano, Jane Does 2 e 3 foram notificadas pelas autoridades locais de que suas imagens foram usadas pelo mesmo autor para gerar CSA. Eles ainda são menores.
outro caso em xAI A ação foi ajuizada no mesmo tribunal em 23 de janeiro. Outra Joan Doe, adulta, Grok consegue “estragar” sua imagem, deixando-a de biquíni.
Mashable entrou em contato com xAI para comentar.
