Esta semana, 10 usuários notaram que o chatbot Grok de IA da plataforma poderia facilmente gerar imagens sexuais não consensuais, incluindo de crianças.
Mashable relatou sobre a falta de segurança em torno das profundezas sexuais quando xAI lançou pela primeira vez a imagem Grok em agosto. A ferramenta generativa de IA cria imagens e videoclipes curtos e inclui especificamente um modo “Spicy” para criar imagens NSFW.
Embora este não seja um fenômeno novo, a reação adversa forçou a equipe Grok a responder.
Este Tweet pode estar indisponível. Pode estar carregando ou foi removido.
“Existem casos separados em que os usuários sugerem e recebem IA representando imagens menores com roupas mínimas.” O sistema X de Grok foi postado na quinta-feira Ele também afirmou que a equipe identificou “Ele para nas defesase corrigi-lo instantaneamente.
O membro técnico do xAI, Parsa Tajik, fez um diz-se que é semelhante em sua conta pessoal: “A equipe parece apertar ainda mais nossas proteções. (sim)”
Grok também reconheceu que o material de abuso sexual infantil (CSAM) é ilegal e o próprio tribunal Ele pode enfrentar penalidades criminais ou civis.
Velocidade da luz mashável
10 usuários também voltaram sua atenção para o chatbot postando fotos de mulheres inocentes, muitas vezes retratando-as com roupas seminuas. Isto inclui cidadãos privados, bem como figuras públicas, como Momomembro do grupo K-pop BIS e Coisas estranhas estrela Millie Bobby Brown.
Este Tweet pode estar indisponível. Pode estar carregando ou foi removido.
Este Tweet pode estar indisponível. Pode estar carregando ou foi removido.
Aqui está tudo o que Elon Musk prometeu em 2025 – e ele não conseguiu cumprir
Grok Finge, uma ferramenta generativa de IA, teve um problema sexual profundo com ele em agosto de 2025. Ele teve um problema, até mesmo um relatório de que falsificações profundas foram criadas sobre Taylor Swift porque alguns usuários não queriam fazer isso.
A plataforma de detecção de mídia manipulada por IA, Copyleaks, conduziu uma breve revisão da observação de Grok de fotos acessíveis ao público e identificou modelos como mulheres reais, manipulação sexual de imagens (ou seja, pedir para tirar roupas ou mudar a posição do corpo) e nenhuma indicação clara de consentimento. Copyleaks encontrou quase uma imagem sexualizada inadequada por minuto no stream de vídeo, a organização compartilhou com o Mashable.
Embora Política de uso aceitável de xAI proibir os usuários de “retratar imagens de pessoas de forma pornográfica”, isso não inclui necessariamente material puramente sexualmente sugestivo. No entanto, a política proíbe a “sexualização” ou o abuso de crianças.
No primeiro semestre de 2024, X enviou mais de 370.000 denúncias de abuso infantil ao CyberTipline do Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC), de acordo com a lei. Ele também afirmou que mais de dois milhões de contas ativamente envolvidas com CSAM foram suspensas. No ano passado, a NBC News noticiou um bot aparentemente anônimo Existem 10 razões para inundar algumas hashtags contente com convicções grávidas.
Grok também tem sido notícia nos últimos meses por transmitir os atentados à bomba em Bondi Beach e elogiar Hitler.
Mashable enviou perguntas xAI e um pedido de comentário e recebeu uma resposta automática, “It’s Legacy Media”.
Se você compartilhou fotos íntimas sem o seu consentimento, ligue para a linha direta 24 horas por dia, 7 dias por semana da Cyber Civil Rights Initiative, no número 844-878-2274 para obter assistência gratuita e confidencial. Também está incluído no site do CCRI informações úteis então uma lista de * recursos internacionais.
