O governo coreano está a tomar medidas formais contra o chatbot generativo de inteligência artificial (IA) de Xi, na sequência de preocupações crescentes sobre o seu alegado envolvimento na criação e distribuição de imagens deepfake de exploração sexual.
A Comissão de Proteção de Informações Pessoais (PIPC) lançou uma revisão preliminar de apuração de fatos sobre Grok depois que as alegações foram divulgadas no domingo.
O processo inicial consiste em verificar se uma violação realmente ocorreu e se o assunto é da sua jurisdição antes de iniciar uma investigação formal. A medida segue uma série de relatos de que um dono de mercearia estrangeiro foi acusado de usá-lo para criar imagens deepfake claras e indiscutíveis, algumas apresentando pessoas reais e menores.
O PIPC determinará os seus próximos passos depois que o GROC explicar e apoiar os documentos, ao mesmo tempo que analisa as tendências regulatórias a nível global. De acordo com a Lei de Proteção de Informações Pessoais, alterar ou criar imagens sexuais de indivíduos identificáveis sem consentimento pode constituir tratamento ilegal de dados pessoais.
O serviço de IA, que se integra à plataforma de mídia social X e oferece geração de texto e imagem na plataforma, tem enfrentado críticas por suas imagens profundas de pessoas reais desde o final do ano passado.
De acordo com a organização não governamental global Center to Combat Digital Hate, Grok produziu quase 3 milhões de imagens sexualmente explícitas entre 29 de dezembro de 2025 e 8 de janeiro deste ano. Destas, aproximadamente 23.000 imagens incluem menores.
