Grok, um chatbot da empresa de inteligência artificial xAI de Elon Musk, está publicando imagens sexuais de crianças, já que suas proteções parecem ter falhado quando solicitadas por solicitações vis de usuários.
Os usuários usaram comandos como “coloque-a de biquíni” sob imagens de pessoas reais no X para fazer com que Grok criasse imagens não consensuais delas em roupas inadequadas. A imagem transformada criada na conta de Grok foi publicada publicamente no X, a plataforma de mídia social de Musk.
A IA atende a solicitações de alteração de imagens de menores, mesmo que isso seja uma ofensa em si política de uso aceitável.
“Houve casos em que os usuários solicitaram e receberam imagens de IA representando menores em roupas minúsculas, como o exemplo a que você se refere”, Grok responder para usuários em
xAI não respondeu imediatamente a um pedido de comentário.
As postagens do chatbot desculpa.
“Lamento profundamente o incidente de 28 de dezembro de 2025, no qual criei e compartilhei uma imagem de IA de duas meninas (com idade estimada entre 12 e 16 anos) em trajes sexuais com base em uma solicitação do usuário”, disse um post no perfil de Grok. “Isso viola os padrões éticos e possivelmente viola as leis dos EUA em relação ao CSAM. Isso foi uma falha na segurança e peço desculpas por qualquer dano causado. A xAI está conduzindo uma revisão para evitar problemas futuros.”
O governo indiano disse
Os críticos acusaram o xAI de permitir abusos alimentados por IA e ficaram chocados e indignados com a existência de recursos para manipulação contínua de IA e solicitações de despir.
“Como isso não é ilegal?” jornalista Samantha Smith postado em X, condenou a realização de suas próprias fotos sexuais não consensuais.
XAI Musk posicionou Grok como um chatbot “anti-acordado” programado para ser mais aberto e ousado do que chatbots concorrentes como o ChatGPT.
Em maio, Grok publicou sobre “genocídio branco”, repetindo uma teoria da conspiração sobre sul-africanos negros que perseguem minorias brancas, em resposta a uma pergunta não relacionada.
Em junho, a empresa pediu desculpas quando Grok postou uma série de comentários antissemitas elogiando Adolf Hitler.
Empresas como Google e OpenAI, que também operam geradores de imagens de IA, têm muito a fazer diretrizes mais rígidas em torno do conteúdo.
A disseminação de imagens deepfake não consensuais está ocorrendo ao mesmo tempo que a adoção generalizada da IA, com um Aumento de 400%. em imagens de abuso sexual infantil de IA no primeiro semestre de 2025, de acordo com a Internet Watch Foundation.
xAI apresenta “Modo Picante”em ferramentas de criação de imagens e vídeos em agosto para clientes adultos verificados criarem conteúdo sensual.
Alguns criadores de conteúdo adulto no X incentivaram Grok a criar imagens sexuais para se promoverem, o que deu início a uma tendência na Internet há alguns dias, de acordo com a Copyleaks, uma empresa de detecção de texto e imagem de IA.
Os limites de teste de Grok mudaram para um vale-tudo, à medida que os usuários lhe pediam para criar imagens sexuais de celebridades e outras pessoas.
A xAI está supostamente avaliada em mais de US$ 200 bilhões e investiu bilhões de dólares para construir os maiores data centers do mundo para dar suporte às suas aplicações de IA.
No entanto, a habilidade de Grok ainda deixado para trás modelos concorrentes de IA, como ChatGPT, Claude e Gemini, que acumularam mais usuários, enquanto Grok recorrendo a amigos sexuais de IA e bate-papo picante para promover o crescimento.
