Os demandantes incluem dois menores e um adulto que era menor de idade no momento em que ocorreram os eventos do processo. Uma das vítimas, identificada como “Jane Doe 1”, afirma que em dezembro do ano passado, ela soube que imagens explícitas dela mesma e de pelo menos 18 outros menores geradas por IA foram publicadas no Discord. “Pelo menos cinco desses arquivos (um vídeo e quatro imagens) retratavam seu rosto e corpo reais em ambientes com os quais ela estava familiarizada, mas se transformaram em poses sexualmente explícitas”, alega o processo.
O perpetrador, que mais tarde foi preso, supostamente usou o CSAM gerado por IA de Jane Doe 1 “como uma ferramenta de troca em um bate-papo em grupo do Telegram com centenas de outros usuários”, trocando seus arquivos CSAM por conteúdo sexualmente explícito de outros menores. A denúncia alega que os perpetradores usaram Grok para gerar imagens explícitas de Jane Doe 1 e duas outras vítimas. Ele também afirma que o xAI “falhou nos testes de segurança dos recursos que desenvolveu” e que Grok “tem um design defeituoso”.
X tentou dificultar a edição de imagens pelos usuários com Grok, A beira Acontece que ainda é possível manipular imagens carregadas na plataforma. X afirma que “qualquer pessoa que use o Grok ou incentive a criação de conteúdo ilegal usando o Grok sofrerá as mesmas consequências como se tivesse carregado conteúdo ilegal”. X não respondeu imediatamente A beiraEste é um pedido de comentário de .
“Essas crianças tiveram suas fotos escolares e de família transformadas em material de abuso sexual infantil pelas ferramentas de IA da empresa multibilionária e depois traficadas para predadores”, disse Annika K. Martin, de Reef Cabraser, uma das advogadas das vítimas, em um comunicado. “Iremos responsabilizar a xAI por cada criança que ela prejudicar desta forma.”
A ação busca indenização às vítimas afetadas pelas “imagens ilegais” de Grok. Também pede aos tribunais que impeçam a xAI de produzir e disseminar CSAM supostamente gerado por IA.
