A Malásia e a Indonésia são os primeiros países a bloquear Grok, alegando que o chatbot X não possui salvaguardas suficientes para impedir a criação e disseminação de imagens de mulheres e crianças geradas por IA. A Indonésia bloqueou temporariamente o acesso a Grok no sábado, assim como a Malásia no domingo. Imprensa associada entrega Enquanto isso, o Reino Unido tem um regulador de mídia, Ofcom abriu uma investigação formal em X sob a Lei de Segurança Online.
“O governo vê as relações sexuais não consensuais como uma violação grave dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, disse a ministra indonésia das Comunicações e Assuntos Digitais, Meutya Hafid, num comunicado. Autoridades do país disseram que as descobertas iniciais mostraram que Grok não tinha controles eficazes para impedir que os usuários criassem e compartilhassem deepfakes sexualmente explícitos sob imagens de residentes indonésios. Alexander Sabar, diretor-geral do espaço de vigilância digital, disse que a geração de dados profundos pode violar a imagem das pessoas e os direitos de privacidade quando as imagens são compartilhadas ou manipuladas sem consentimento, acrescentando que pode levar a danos à reputação, sociais e psicológicos.
Comissão de Comunicações e Multimídia da Malásia “abuso repetido” de Grok para Deepfakes expressamente gerados e não consensuaisalguns dos quais envolveram mulheres e crianças. O regulador disse que Grok permanecerá trancado no país até que a X Corp e sua controladora xAI fortaleçam as salvaguardas.
A investigação do Ofcom será se X “falhou com seus deveres de proteger as pessoas no Reino Unido de conteúdo que é ilegal no Reino Unido”. Isso inclui se X toma medidas apropriadas para impedir que seus usuários do Reino Unido visualizem seu conteúdo ilegal “prioritário”, como CSAM e imagens íntimas não consensuais; se a plataforma retirar conteúdo ilegítimo logo após perceber; e se X emitiu uma avaliação de risco atualizada antes de avaliar “quaisquer alterações significativas” na plataforma. Também considerará cuidadosamente se X avaliou o risco que a sua plataforma representa para as crianças no Reino Unido e se “a idade de confiança mais eficaz é proteger as crianças do Reino Unido de verem pornografia”.
A moderadora disse que entrei em contato com ela no dia 10 de janeiro e recebi uma resposta dentro do prazo de 9 de janeiro. A Ofcom está conduzindo uma “avaliação acelerada da necessidade de evidências disponíveis” e acrescentou que a xAI pediu “esclarecimento urgente” sobre os níveis de usuários da empresa para triagem no Reino Unido.
“Há relatos de que Grok foi usado para criar e compartilhar imagens íntimas ilegais e não consensuais e abuso sexual infantil em material X na internet”, disse um porta-voz do Ofcom. “Os pais devem proteger as pessoas no Reino Unido de conteúdos que são ilegais no Reino Unido, e não hesitamos em investigar onde suspeitamos que as empresas estão a falhar nos seus serviços, especialmente quando há risco de danos às crianças. Avançaremos esta investigação como uma questão da mais alta prioridade, à medida que procuramos seguir o devido processo. Dada a falta de uma agência independente de segurança online no Reino Unido, é importante que definamos as nossas investigações corretamente.”
Se o Ofcom considerar que uma empresa violou a lei, “pode exigir que as emissoras tomem certas medidas para cumprir ou remediar a violação prejudicial”. O regulador também pode impor multas de 18 milhões (24,3 milhões de dólares) ou 10% da receita mundial “qualificada”, o que for maior dos dois valores. Também pode pedir ao tribunal que impeça os provedores de pagamento ou anunciantes de trabalhar com a plataforma, ou exigir que os provedores de serviços de Internet bloqueiem o site no Reino Unido. O governo do Reino Unido disse que qualquer ação de backup aquele Ofcom contra X.
Relatórios do fim de semana sugeriram que o Reino Unido tinha discussões organizado com parceiros em resposta a deepfakes gerados por Grok. Existem também reguladores em outros lugares, na Índia e na União Europeia perguntando O décimo
Na semana passada, Grok Comecei com 10 usuários reais Suas ferramentas de geração e publicação de imagens são limitadas a assinantes pagantes. Mas a partir de segunda-feira ainda era possível para usuários não pagos gerar imagens por meio da aba Grok no site e aplicativo X.
