Durante anos, as empresas de cartão de crédito e outros métodos de pagamento têm sido proativos na repressão ao abuso sexual infantil. Grok, de Elon Musk, começou então a despir as crianças no X.
Como parte dos seus esforços, o Centro de Combate ao Ódio Digital descobriu 101 imagens sexualmente explícitas de crianças. Uma amostra de 20.000 imagens criadas por Grok De 29 de dezembro a 8 de janeiro. Usando esta amostra, o grupo de pesquisa estimou que 23 mil imagens sexualizadas de crianças foram criadas nesse período. Ao longo desses 11 dias, estimaram que, em média, uma imagem sexualmente explícita de uma criança foi criada a cada 41 segundos. Parece que nem todas as imagens sexuais criadas por Grok são ilegais, mas pelo menos algumas podem ter ultrapassado os limites, segundo relatos.
Sempre houve muita confusão sobre o que é verdade em Grok. Grok forneceu respostas com detalhes enganosos, incluindo uma vez alegando que restringe a geração de imagens a assinantes X pagos, ao mesmo tempo que permite aos usuários gratuitos acesso direto ao X. Musk afirmou que as novas proteções impedem Grok de tirar a roupa das pessoas, mas nossos testes descobriram que isso não é necessariamente verdade. Com uma conta Grok gratuita, A beira Depois que as novas regras supostamente entraram em vigor, imagens falsas de pessoas reais vestindo roupas minúsculas e fotografadas em posições sexualmente sugestivas poderiam ser geradas. No momento em que este livro foi escrito, alguns avisos horríveis pareciam estar bloqueados, mas as pessoas são muito espertas para contornar proibições baseadas em regras.
No passado, os provedores de pagamento bloquearam agressivamente o acesso a sites que se acreditava serem fortemente preenchidos com CSAM.
No entanto, X parece estar restringindo pelo menos parcialmente os recursos de edição de imagens do Grok para membros pagos. Portanto, é muito provável que o dinheiro esteja realmente sendo trocado por pelo menos algumas dessas imagens perturbadoras. As assinaturas do X podem ser adquiridas no Stripe ou nas lojas de aplicativos Apple e Google usando cartão de crédito. Sr. Musk é também sugeriu através sua postagem Ele não acha que seja um problema tirar a roupa das pessoas. Esta não é a primeira vez que X se envolve com pornografia de IA. Tivemos vários problemas ao moderar deepfakes de nudez de Taylor Swift, gerados por Grok ou não.
No passado, os provedores de pagamento foram proativos no bloqueio do acesso a sites que se acredita serem fortemente preenchidos com material de abuso sexual infantil, bem como conteúdo sexual consensual e legal. Em 2020, Mastercard e Visa baniram Pornhub traseira ser tempos de Nova York O artigo mencionou a prevalência de CSAM na plataforma. Em maio de 2025, Civtai Desconectado pelo processador do cartão de crédito “Porque eles não querem apoiar uma plataforma que permita conteúdo explícito gerado por IA”, disse Justin Maier, CEO da Civitai. 404 Mídia. Em julho de 2025, Processador de pagamentos pressionou Valve para remover jogos adultos.
Na verdade, as instituições financeiras por vezes ameaçam pessoas e plataformas como se não quisessem correr o risco de reputação. Em 2014, uma arrecadação de fundos para a hospitalização do artista adulto Eden Alexander foi cancelada pela empresa de pagamentos WePay por causa de um retuíte. Em 2014, o JP Morgan Chase subitamente Feche as contas bancárias de várias estrelas pornôs. Em 2021, OnlyFans tentou proibir temporariamente conteúdo sexualmente explícito depois que os bancos relutaram em fazê-lo. (Ampla reação contra este movimento OnlyFans rapidamente se reverteu.)isso é jurídico, consensual O conteúdo sexual foi considerado picante demais para ser manuseado.
“A indústria não está mais disposta a auto-regular o que é amplamente aceito como a coisa mais abominável do mundo.”
Mas os geradores de pornografia de vingança e CSAM do Sr. Musk parecem estar bem.
É uma reversão impressionante. “A indústria já não está disposta a auto-regular o que é universalmente aceite como a coisa mais abominável do mundo”, afirma Lana Swartz, autora de CSAM. Dinheiro novo: como os pagamentos se tornaram mídias sociaisa inação do Stripe e das empresas de cartão de crédito.
Visa, Mastercard, American Express, Stripe e Discover não responderam aos pedidos de comentários. A Coalizão Financeira Americana Contra a Exploração Sexual Infantil, um grupo industrial formado por processadores de pagamentos, bancos e empresas de cartão de crédito, também não respondeu a um pedido de comentário. A FCACSE afirma no seu website que “como resultado dos seus esforços, a utilização de cartões de crédito para comprar material de abuso sexual infantil online foi praticamente eliminada em todo o mundo”.
Os problemas com a geração de imagens de Grok vão além das imagens sexualizadas de crianças
No passado, “as pessoas que faziam coisas completamente legais eram excluídas dos bancos”, disse Liana Pfefferkorn, investigadora política do Instituto Stanford para Inteligência Artificial Centrada no Ser Humano. Há um incentivo para impor limites excessivos em torno de imagens questionáveis, e a indústria financeira tem feito isso tradicionalmente. Então, por que X é diferente? É dirigido por Elon Musk. “Ele é o homem mais rico do mundo, tem laços estreitos com o governo dos EUA e é incrivelmente litigioso”, disse Pfefferkorn. Na verdade, Musk já entrou com uma ação judicial contra o Centro para a Prevenção do Ódio Digital. O processo agora arquivado alegou que dados que mostram um aumento no discurso de ódio foram coletados ilegalmente após a aquisição da plataforma anteriormente conhecida como Twitter.
O problema com a geração de imagens de Grok vai além das imagens sexualizadas de crianças. tempos de Nova York Estima-se que 1,8 milhão de imagens (aproximadamente 44% das postagens) geradas pela IA em nove dias eram imagens sexuais de mulheres adultas e, dependendo de sua explicitação, pode ser ilegal distribuí-las. Usando uma variedade de ferramentas, o Centro de Combate ao Ódio Digital estimou que mais da metade das imagens de Grok contêm imagens sexualmente explícitas de homens, mulheres e crianças.
A explosão de imagens sexuais ocorreu depois que Musk postou uma imagem sua de biquíni editada por IA em 31 de dezembro. Uma semana depois, Postado por Nikita Beer, chefe de produto da X Os quatro dias anteriores também foram os dias de maior engajamento de todos os tempos para X.
Carrie Goldberg, cuja carreira inclui desafiar a Seção 230 Processo de perseguição contra o Grindr e finalmente outro terno Desligue o cliente de bate-papo Omegleestá representando Ashley St. Clair, mãe de um dos filhos de Musk, em seu processo contra X. St. Clair é uma das muitas mulheres que Grok despiu – e agora ela está processando a plataforma, alegando que X causou um incômodo público. “No caso St. Clair, estamos nos concentrando exclusivamente em xAI e Grok porque, do nosso ponto de vista, eles são diretamente responsáveis”, disse ela por e-mail. “Mas existem outras possíveis fontes de responsabilidade”, disse ela, citando especificamente distribuidores como a Apple e as lojas de aplicativos do Google como áreas de preocupação.
“Muitos desses casos podem acabar em tribunal e caberá aos juízes decidir o que constitui ‘conduta sexual explícita’”.
Outras questões legais podem surgir. Em 2022, a Visa foi processada por fornecer serviços de pagamento ao Pornhub, supostamente sabendo que o Pornhub não gerenciava adequadamente o CSAM. Outras ações judiciais se seguiram. Embora o juiz do caso Visa tenha rejeitado o argumento de que o Pornhub não era responsável devido à Seção 230, ele também Negação provisória de pedido de visto em 2025A mulher que entrou com a ação Você pode enviar uma reclamação alterada.
“Muitos destes casos podem acabar em tribunal, deixando aos juízes decidir o que constitui ‘material sexualmente explícito'”, disse David Evan Harris, um académico público da Universidade da Califórnia, Berkeley. ainda, 45 estados criminalizam CSAM gerado por IA. Lei Federal de Remoção Criminalize nus deepfake. Califórnia é Ordenou que Mask e X parassem.após publicar uma investigação das imagens de Grok. Pode ser Grok Violando a proibição de pornografia falsa na Califórnia – e a Califórnia é pelo menos um deles 23 estados aprovaram essas leis.
Esta deve ser uma questão importante para os processadores de pagamento. Isto porque se um processador de pagamentos enviar conscientemente dinheiro proveniente de crime, estará a praticar branqueamento de capitais, o que pode ter consequências graves. O gabinete do procurador-geral da Califórnia, Rob Bonta, recusou-se a comentar se Stripe, cartões de crédito e lojas de aplicativos também estão incluídos na investigação Grok, citando a natureza contínua da investigação. As leis contra lavagem de dinheiro são uma das razões pelas quais as instituições financeiras são tão cautelosas com sites acusados de conter CSAM.
Mas X criou uma situação em que os processadores de pagamentos têm um desincentivo significativo para levar a lei a sério. Isso ocorre porque os estados que abrem ações judiciais contra processadores por X provavelmente serão atacados por Musk por “censurar” a base de direita de X. Além disso, Musk, e talvez o seu companheiro, o presidente dos EUA, Donald Trump, poderiam dedicar recursos significativos para ajudar os processadores de pagamentos a sair de problemas.
Quando se trata de CSAM e deepfakes, o setor financeiro não parece mais disposto a se auto-regular. Então, quem irá regular isso?
