Grok, o chatbot de IA apoiado por Elon Musk integrado ao dispositivo X, finalizou sua imagem geracional e começou a publicar ferramentas para assinantes pagantes. O a mudança segue um maremoto críticas sobre a capacidade da mídia de extorquir imagens sexuais não consensuais. Embora a restrição seja claramente uma tentativa de alimentar a controvérsia, os reguladores, os grupos de defesa e os utilizadores argumentam que pouco faz para impedir a criação de conteúdos nocivos e potencialmente ilegais envolvendo mulheres e crianças.
A partir da noite de quinta-feira, a Grok transferiu oficialmente sua produção de vídeos para o acesso pago X Premium, que começa em US$ 8 por mês
Mas a medida foi amplamente ridicularizada como uma solução “ridícula”. Embora usuários casuais possam investir em X, as ferramentas de geração permanecem totalmente gratuitas para acesso por meio do site e aplicativo móvel da Grok. Este argumento de fuga enfraquece efectivamente a afirmação da plataforma de que a empresa pode resistir a abusos, deixando as ferramentas mais perigosas ainda no domínio público.
Pesquisadores de segurança e detetives digitais não estão convencidos de que a exigência de cartão de crédito resolverá o problema. Muitos argumentam que na verdade alerta contra abusos. De acordo com a pesquisadora deepfake Genovefa Oh, Grok ainda está lançando mais de 1.500 imagens maliciosas a cada hora, mesmo depois que o pagamento foi ao ar – representando cerca de 60% da produção total de imagens públicas. Os dados de Oh sugerem que hoje Grok está gerando conteúdo sexual em páginas conhecidas como “nudez”.
Fallout alcançou o topo do governo dos EUA
Os senadores democratas Ron Wyden, Edward J. Markey e Ben Ray Luján enviaram recentemente cartas aos CEO da Apple e do Google, exigindo que X fosse retirado das suas ferramentas de repartição. Os senadores afirmaram que, ao permitir que essas ferramentas continuem, X está demonstrando um “total desrespeito” pelas regras de segurança que todos os outros desenvolvedores de aplicativos são forçados a seguir.
A pressão internacional também atingiria um ponto de ebulição. As autoridades do Reino Unido e da Índia culparam o acesso ao pagamento por uma resposta inadequada. Um porta-voz do primeiro-ministro britânico descreveu o movimento das vítimas como “insultuoso”, sugerindo que X simplesmente transformou a crise de saúde num fluxo de rendimentos premium. As vítimas compartilharam histórias semelhantes; A ativista Jess Davies relatou que Grok ainda conseguiu “tirar” digitalmente uma foto sua por meio do aplicativo na manhã de sexta-feira, apesar das supostas restrições.
Curiosamente, a controvérsia parece estar dando o impulso errado à plataforma
As estimativas da Sensor Tower mostram que a receita de compras no aplicativo móvel no X aumentou 18% somente na quinta-feira. Esse pico excede em muito o crescimento diário típico do aplicativo, sugerindo que a abordagem do driver “modo picante” de Grok poderia realmente ajudar nos resultados financeiros difíceis do X.
Especialistas jurídicos aconselham não manter essas medidas em tribunal por muito tempo. Jeff Jackson, procurador-geral da Carolina do Norte, classificou a situação de Grok como “triste” para a segurança da IA, observando como esses sistemas podem ser facilmente hackeados. O argumento é que é hora de “mover e quebrar” o muro no que diz respeito à dignidade e segurança dos indivíduos.
À medida que as paredes se aproximam, a linha X é a escolha definitiva: uma ferramenta de proteção técnica real e codificada ou uma cara completamente negra nas principais lojas de aplicativos e mercados internacionais. Se Elon Musk deseja restringir o próprio software – em vez de acessá-lo – determinará se Grok tem um futuro legítimo ou se se tornará um pária na era da IA generativa.
