A Índia ordenou que o X de Elon Musk fizesse imediatamente alterações técnicas e processuais em seu chatbot de IA Grok depois que usuários e legisladores reclamaram da geração de conteúdo “obsceno”, incluindo imagens de mulheres alteradas por IA criadas usando a ferramenta.
Na sexta-feira, o ministério de TI da Índia emitiu uma ordem orientando o Escritor X a corrigir a atividade de Grok, incluindo a geração de conteúdo que envolva material de “nudez, sexualização, sexualmente explícito ou de outra forma ilegal”. O ministério também deu à plataforma de mídia social 72 horas para denunciar um relacionamento ativo realizado de forma gradativa, de forma a não hospedar ou divulgar conteúdo considerado “obsceno, pornográfico, vulgar, indecente, pornográfico, expressivo, pedófilo ou de outra forma proibido por lei”.
A ordem, revisada pelo TechCrunch, alertou que o não cumprimento poderia comprometer as proteções de “porto seguro” de X – imunidade legal de responsabilidade por conteúdo gerado pelo usuário sob a lei indiana.
A ação da Índia segue preocupações levantadas por usuários que compartilharam exemplos de Grok sendo usado para alterar fotos de indivíduos – especialmente mulheres – para fazê-los parecer que estavam usando biquínis. se machucar pela parlamentar indiana Priyanka Chaturvedi. Separadamente, as instâncias sinalizaram os últimos relatórios em que o chatbot AI gerou imagens sexualizadas de menoresquestão X ele reconheceu na manhã de sexta-feira, causou uma queda nas ações. Essas fotos foram enviadas posteriormente.
Mas as imagens geradas pelos usuários do Grok, que parecem ser mulheres vestidas de biquíni pela IA, permaneceram alteradas no momento da publicação do X, descobriu o TechCrunch.
A última ordem ocorre dias depois de o Ministério de TI da Índia emitir um comunicado mais amplo na segunda-feira, que o TechCrunch também revisou, para plataformas de mídia social, alertando que o cumprimento das leis locais que regulam conteúdo obsceno e sexualmente explícito é necessário para manter a imunidade legal de responsabilidade por conteúdo gerado pelo usuário. O consultor instou as empresas a reforçarem as salvaguardas internas e alertou que isso poderia provocar ações legais ao abrigo das leis criminais e de TI da Índia.
“Reitera-se que o não cumprimento dos requisitos acima mencionados será considerado seriamente e resultará em consequências legais estritas contra a sua plataforma, líderes responsáveis e utilizadores da plataforma que violem a lei, sem qualquer aviso prévio”, alertou a organização.
Coisa tecnológica
São Francisco
|
13 a 15 de outubro de 2026
O governo indiano disse que o não cumprimento poderia tomar medidas contra X de acordo com as leis de TI e os estatutos criminais da Índia.
A Índia, um dos maiores mercados digitais do mundo, emergiu como um caso de teste crítico para determinar até que ponto os governos estão dispostos a ir na responsabilização dos conteúdos gerados pela IA. Qualquer reforço da fiscalização a nível nacional poderá ter efeitos em cascata para as empresas globais de tecnologia que operam em múltiplas jurisdições.
A ordem ocorre no momento em que Musk, X, continua a contestar aspectos das regras de controle de conteúdo da Índia em tribunal, argumentando que o governo federal enfrenta o risco de diminuir poderes, uma vez que a plataforma cumpriu vários regulamentos de bloqueio. Ao mesmo tempo, o Grok é cada vez mais utilizado pelos utilizadores do X para monitorizar e reportar eventos em tempo real, tornando as suas políticas mais visíveis – e mais politicamente sensíveis – do que as ferramentas exclusivamente de IA.
X e xAI não responderam imediatamente aos pedidos de comentários sobre a ordem do governo indiano.
