A xAI, de propriedade de Elon Musk, está processando um homem da Carolina do Sul por supostamente usar seu chatbot Grok AI para gerar material de abuso sexual infantil (CSAM). em ação judicial relatado por mais cedo ReutersxAI alega que Terry Wayne Harwood violou as políticas da empresa ao “usar Grok consciente e intencionalmente para contornar salvaguardas, modificar imagens sem consentimento e gerar e distribuir CSAM”.
Harwood preso Em fevereiro, ele foi acusado de posse e distribuição de CSAM e enfrenta oito crimes. A denúncia alega que “pelo menos algumas” das imagens associadas às acusações criminais de Harwood foram “geradas ou modificadas” por Grok, e que Harwood contornou as salvaguardas de Grok e “abusou de ferramentas para transformar fotos não sexuais em imagens sexualmente explícitas” sem o consentimento dos sujeitos.
xAI afirma que as ações de Harwood expuseram a empresa a “riscos legais significativos e danos à reputação”. O tribunal pediu a Harwood que ordenasse que a xAI pagasse uma indemnização, bem como “custos substanciais incorridos na sua defesa em ações judiciais movidas pelas vítimas da conduta do réu”. A xAI também está pedindo a um juiz que impeça Harwood de criar uma conta xAI ou usar o Grok.
