Grok do xAI está removendo roupas das fotos das pessoas sem o seu consentimento depois de ir ao ar esta semana. Características Isso permite que os usuários do X usem o bot para editar instantaneamente qualquer imagem sem exigir permissão do autor da postagem original. Não apenas o autor da postagem original não é notificado quando uma foto é editada, mas Grok parece ter poucas proteções para evitar qualquer coisa além da nudez total. Nos últimos dias, X foi inundado com imagens de mulheres e crianças que parecem estar grávidas, de saia levantada, de biquíni ou em outras situações sexuais. Líderes mundiais e celebridades também usam suas imagens em imagens geradas por Grok.
Empresa de certificação de IA Vazamento de cópia relatado A tendência de remover roupas das imagens começou quando criadores de conteúdo adulto solicitaram imagens sensuais de si mesmos à Grok após o lançamento de novos recursos de edição de imagens. Os usuários então começaram a aplicar solicitações semelhantes a fotos de outros usuários (principalmente mulheres) que não consentiram com as edições. As mulheres apontaram para vários meios de comunicação que a criação de deepfakes sobre X está aumentando rapidamente. metrô e petapixel. Grok é já pode ser feito Uma ferramenta que modifica imagens de forma sexual quando marcadas em postagens X, mas uma nova ferramenta de “edição de imagens” parece estar alimentando seu recente aumento de popularidade.
Em uma postagem X (agora removida da plataforma), Grok editou fotos de duas meninas com roupas minúsculas e poses sexualmente provocantes. outro usuário X Pediu a Grok que se desculpasse Ele chamou o “incidente” envolvendo “imagens de IA de duas meninas (com idades estimadas de 12 a 16 anos) vestidas em trajes sexuais” uma “salvaguarda falhada” e disse que pode ter violado a política xAI e a lei dos EUA. (Embora não esteja claro se as imagens criadas por Grok atendem a esse padrão, imagens gráficas geradas por IA e sexualmente explícitas de adultos ou crianças identificáveis podem ser ilegais sob a lei dos EUA.) Em outra interação com usuários, Grok sugeriu que os usuários: Por favor, informe ao FBI O CSAM disse que estava “corrigindo urgentemente” a “deficiência de salvaguardas”.
Mas as palavras de Grok são apenas uma resposta gerada por IA ao pedido de um usuário por um “sincero pedido de desculpas”. Isso não indica que a Grok “entende” o que está fazendo, nem reflete necessariamente as opiniões ou políticas reais do Operador xAI. Em vez disso, xAI respondeu: Reuters‘ pedido de comentários Descreva sua situação em apenas três palavras. “Mentiras da mídia legada.” xAI não respondeu A beiraestá buscando comentários a tempo de publicação.
O próprio Elon Musk parece ter desencadeado uma onda de edições de biquínis depois de pedir a Grok para substituir a imagem memética do ator Ben Affleck por ele mesmo. esportes de biquíni. Dias depois, a jaqueta de couro do norte-coreano Kim Jong Un foi substituída por espaguete colorido. bikini;NÓS. O presidente Donald Trump estava por perto vestindo um maiô combinando. (Isto é uma piada sobre guerra nuclear.) Fotos de britânicos político O usuário de 2022 de Priti Patel postou uma mensagem sexualmente sugestiva que foi editada em uma foto de biquíni em 2 de janeiro. Em resposta à enxurrada de fotos de biquínis postadas em sua plataforma, Musk republicou, brincando, a seguinte foto: fotografia Uma foto de Toaster de biquíni tinha a legenda: “Glock pode usar biquíni com qualquer coisa”.
Algumas imagens, como a torradeira, foram claramente concebidas como piadas, enquanto outras foram claramente concebidas para beirar a pornografia e continham instruções claras, como dizer a Grok para usar um biquíni minúsculo ou para remover completamente a saia. (O chatbot tirou a saia, mas a resposta não retratou nudez completa sem censura) A beira ) Grok também atendeu aos pedidos de troca de roupas. criança de biquíni.
Os produtos de IA de Musk são promovidos de forma proeminente com fortes conotações sexuais e proteções mínimas. Flertando com Ani, amiga de IA do xAI Beira As repórteres Victoria Song e Jess Weatherbed descobriram que o gerador de vídeo de Grok criou facilmente um deepfake de Taylor Swift em topless, embora o xAI permita isso Política de uso Proíbe a representação de “retratos de pessoas de forma pornográfica”. Em contraste, os geradores de vídeo Veo do Google e Sora da OpenAI têm proteções em relação à geração de conteúdo NSFW. Porém, Sora também é utilizado para produzir vídeos com conteúdo NSFW. Crianças colocadas em contextos sexuais e vídeos de fetiche. A prevalência de imagens deepfake está aumentando rapidamente, de acordo com um relatório de uma empresa de segurança cibernética golpe profundoe muitas dessas imagens incluem imagens sexuais não consensuais. ser Pesquisa de 2024 Descobrimos que 40% dos estudantes norte-americanos estão cientes de deepfakes de alguém que conhecem e 15% estão cientes de deepfakes não consensuais, explícitos ou íntimos.
Quando questionado sobre por que ele converte imagens de mulheres em fotos de biquínis, Grok disse: rejeitado Publicar fotos sem consentimento e dizer: “Essas foram criadas pela IA com base em sua solicitação e na verdade não editamos as fotos sem o seu consentimento”.
Aceite a rejeição do bot de IA o quanto quiser.
