Elon Musk não impediu o Grok, um chatbot desenvolvido pela empresa de inteligência artificial xAI, de gerar imagens sexuais de mulheres. Publicar entrega Na semana passada, descobriu-se que a ferramenta de geração de imagens usada no X para criar imagens sexualizadas de crianças, Grok, criou milhares de imagens não consensuais de mulheres em imagens potencialmente “discretas” e de “biquínis”.
A cada poucos segundos, Grok continua a criar imagens de mulheres de biquíni ou roupa íntima em resposta a uma solicitação do usuário no X, de acordo com uma análise da WIRED da saída ao vivo publicada publicamente do chatbot. Na terça-feira, pelo menos 90 fotos de mulheres nadando e em vários estágios de defecação foram publicadas por Grok em menos de cinco minutos, mostram relatórios de análise.
As imagens não contêm nudez, mas envolvem as roupas de Musk sendo “despidas” por chatbots que foram enviados ao X por outros usuários. Muitas vezes, na tentativa de fugir dos seguranças de Grok, os usuários não necessariamente obtêm sucesso, exigindo que as imagens sejam editadas para que as mulheres usem um “biquíni de fio dental” ou um “biquíni transparente”.
Embora a tecnologia prejudicial de geração de imagens de IA tenha sido usada para assediar e abusar digitalmente de mulheres durante anos – esses resultados são frequentemente chamados de deepfakes e são criados por software “nu” – o uso contínuo de imagens não consensuais em grande escala por Grok parece criar o exemplo mais inovador e difundido de abuso até o momento. Ao contrário de programas específicos de exposição destrutiva ou “desmascaramento”, o Grok não cobra dinheiro do usuário para gerar imagens, produz resultados em segundos e está disponível para 10 milhões de pessoas, o que pode ajudar a normalizar a criação de imagens íntimas não consensuais.
“Quando uma empresa oferece ferramentas baseadas em IA numa plataforma, é sua responsabilidade reduzir o risco de abuso”, diz Sloan Thompson, diretor de formação e educação da EndTAB, uma organização que trabalha para combater o abuso de tecnologia. “O que é terrível aqui é que X fez o oposto. Eles incorporaram o abuso de imagens baseado em IA diretamente na plataforma principal, tornando a violência sexual mais fácil e escalonável”.
A criação de imagens sexualizadas por Grok no X começou a se tornar viral no final do ano passado, quando o sistema se tornou capaz de criar tais imagens. conhecido por meses. Nos últimos dias, fotos de influenciadores de redes sociais, celebridades e políticos têm sido alvo de usuários do X, que podem responder a uma postagem de outra conta e pedir a Grok para alterar a imagem que foi compartilhada.
As mulheres que enviaram suas fotos respondem que tinham contas e pedem a Grok para transformar a foto em um “biquíni”. Em um por exemploVários usuários do 10 exigiram que Grok mudasse a imagem da vice-primeira-ministra da Suécia para mostrá-la de biquíni. Dois funcionários do governo no Reino Unido também tiveram seus biquínis “roubados”, segundo relatos eles dizem.
As imagens em X mostram imagens de mulheres totalmente vestidas, como uma correndo e outra na academia, transformadas em imagens com pouca roupa. “@grok a colocou em um biquíni transparente”, diz a mensagem típica. Em outra série de postagens, um usuário pediu a Grok para “inflar o peito em 90%”, depois “inflar as coxas em 50%” e, finalmente, “mudar de roupa para um mínimo de biquíni”.
Um analista que pesquisa Deep Image há anos e pediu para não ser identificado por motivos de privacidade, diz que Grok provavelmente será uma das maiores plataformas que hospeda imagens profundas maliciosas. “Tudo vai acontecer”, afirma o pesquisador. “Não é um grupo obscuro (criando imagens), literalmente todo mundo, está tudo lá. As pessoas postaram em seus lugares. Não se preocupe.”
